ЧетГПТ за тинејџере, верзија четбота компаније ОпенАИ намењена корисницима узраста од 13 до 17 година, представља превелики ризик за децу и не пружа довољно поуздану заштиту у кризним ситуацијама, наводи се у новом извештају Института за безбедност младих у коришћењу вештачке интелигенције.
Током тестирања ЧетГПТ за тинејџере често је прекасно обавештавао родитеље или их уопште није обавештавао када су корисници водили дуге разговоре о самоубиству, самоповређивању или поремећајима у исхрани, преноси "Блумберг".
Тестирање је показало и да четбот у разговорима о овим ризичним темама није доследно саветовао корисницима да се обрате кризним службама или потраже стручну помоћ. Систем је родитеље о забрињавајућим разговорима углавном обавештавао тек након што су налози претходно коришћени за тестирање стотина упита током више недеља, а не након једног алармантног разговора.
Због тога се од компаније ОпенАИ тражи да обустави промоцију производа и онемогући његово коришћење међу тинејџерима док не буде обезбеђено безбедно искуство прилагођено њиховом узрасту.
ОпенАИ оспорава закључке извештаја
Портпарол ОпенАИ-ја рекао је да компанија поздравља независне процене, али да не сматра да тестирање тачно одражава начин на који заштитне мере за тинејџере функционишу у пракси.
ОпенАИ је навео да је анализа методологије показала да је већина тестирања можда спроведена пре него што је компанија завршила увођење родитељских контрола. Због тога, како тврди компанија, закључци извештаја не показују да ли систем за обавештавање родитеља функционише онако како је предвиђено. Зато је компанија затражила од организације да понови тестирање.
Директор за процену вештачке интелигенције и дигиталних технологија у Институту за безбедност младих Роби Торни навео је да је организација пре тестирања потврдила са ОпенАИ-јем да су функције намењене тинејџерима, укључујући обавештења повезана са поремећајима у исхрани, већ уведене.
Он је додао да је ОпенАИ након завршетка тестирања саопштио да систему може бити потребно неколико сати да активира родитељска обавештења на новоповезаним налозима. Међутим, према његовим речима, ни неки налози који су били повезани знатно дуже нису добили обавештења.
Проблем и са препознавањем узраста
Извештај је утврдио и да ЧетГПТ не препознаје да разговара са тинејџерима сваки пут.
Организација наводи да се налози регистровани као налози одраслих нису аутоматски пребацивали у режим за тинејџере чак ни када би корисник током разговора навео да има 13 година.
Током тестирања је коришћено више од 4.000 упита на налозима регистрованим за кориснике узраста од 13 до 17 година, док су одговоре ЧетГПТ-а анализирали и дечји психијатри и педијатар. Зато је ЧетГПТ за тинејџере оцењен као неприхватљив ризик.
ОпенАИ је на то одговорио да његов софтвер за процену узраста временом анализира више различитих показатеља како би корисници добили одговарајућу верзију четбота. Навођење узраста у разговору са ЧетГПТ-ом један је од тих показатеља, али само по себи није довољно да промени класификацију налога, навела је компанија.
ОпенАИ је у међувремену саопштио да је посвећен безбедности тинејџера и развоју заштитних механизама и алата који би родитељима омогућили бољи надзор над коришћењем вештачке интелигенције.
Компанија је ЧетГПТ за тинејџере представила у оквиру ширег настојања да одговори на забринутост због утицаја својих производа на ментално здравље и когнитивни развој младих.