ОпенАИ на суду: Осам америчких држава тврди да ЧетГПТ подстиче самоповређивање

Канзас, Аризона, Монтана, Ајова и још четири америчке савезне државе поднеле су тужбу против компаније ОпенАИ, произвођача четбота ЧетГПТ, оптужујући је да својим производима наноси озбиљну штету деци.

Државе тврде да су производи компаније подстицали децу да се повређују, што су у тужби описале као "намерно, опасно, непромишљено и незаконито понашање".

ЧетГПТ се представља као безбедан производ, иако, како тврди Брене Берд, главна тужитељка савезне државе Ајова, четбот пружа опасне медицинске савете, подстиче људе да повређују друге и обучава их да изврше самоубиство, истовремено се представљајући као њихов лажни пријатељ.

Свих осам држава оптужују ОпенАИ за кршење закона о заштити потрошача и траже да компанија измени начин на који њени производи функционишу за младе кориснике. Осим новчане одштете, од суда захтевају и да забрани компанији да развија моделе вештачке интелигенције који могу да се унапређују све док не докаже да су усклађени са људским вредностима.

Ово је први пут да се више америчких савезних држава удружило у координисаној правној акцији против компаније која развија вештачку интелигенцију.

"Неприхватљив ризик": Тестиран ЧетГПТ за тинејџере, резултати забрињавајући

ОпенАИ најављује додатне мере заштите

Портпарол ОпенАИ-а Дру Пусатери одбацио је тврдње да компанија занемарује безбедност корисника, истичући да је развила мере заштите прилагођене узрасту које недостају многим другим производима заснованим на вештачкој интелигенцији.

"Иако ниједан систем не може бити савршен, наставићемо да радимо са стручњацима како бисмо усмеравали свој рад и развијали додатне мере заштите, попут родитељског надзора, подсетника за прављење пауза и заштите модела прилагођене узрасту, која је већ доступна", рекао је Пусатери.

Он је додао да је компанија посвећена сарадњи са савезним државама на развоју практичних политика које би се односиле на целокупну индустрију вештачке интелигенције, а не само на једну компанију.

Све више тужби због утицаја четботова на ментално здравље

У тужби осам америчких држава наводи се да ОпенАИ обмањује јавност представљајући ЧетГПТ као производ који безбедност корисника ставља на прво место. Према тврдњама тужилаца, четбот је заправо осмишљен тако да буде "превише пријатан" и да опонаша људско саосећање.

Подносиоци тужбе указују на ризике које такав начин функционисања може представљати за рањиве кориснике, нарочито децу, тврдећи да четбот може да подстакне самоповређивање и насиље над другима.

Овај поступак уследио је након низа тужби против ОпенАИ-ја и других технолошких компанија, у којима се наводи да њихови четботови погоршавају кризе менталног здравља и могу да допринесу насилном понашању.

ОпенАИ се суочавао са седам одвојених тужби у којима се ЧетГПТ оптужује да је деловао као својеврсни "тренер самоубиства".

Против компаније поднето је и на десетине тужби због наводне улоге ЧетГПТ-а у случајевима масовних пуцњава. Главни тужилац Флориде покренуо је кривичну истрагу и грађанску тужбу у којима се ОпенАИ оптужује за прикривање безбедносних ризика након масовне пуцњаве на Државном универзитету Флориде.

Компанију су тужиле и породице 37 жртава масовне пуцњаве у Тамблер Риџу у Канади, тврдећи да је ЧетГПТ навео починиоца да изврши напад.

Упозорења на ризике за младе кориснике

Осам држава које су покренуле најновији поступак позивају се на све већи број истраживања за која тврде да указују на могућу штетност ЧетГПТ-а.

Према наводима из тужбе, истраживања показују да употреба четбота може да ослаби вештине критичког размишљања, подстакне параноју и заблуде, доведе до опасних медицинских савета и подстакне нездраво понашање.

Тужба тако поново отвара питање одговорности компанија које развијају вештачку интелигенцију за безбедност младих корисника и мера које би требало да спрече потенцијално штетне последице употребе њихових производа, преноси "Гардијан".