Магазин
Више од милион људи недељно показује самоубилачке намере током разговора са ЧетГПТ-јем
Према новој процени компаније ОпенАИ, више од милион корисника који разговарају са четботом сваке недеље шаљу му поруке које садрже јасне знаке потенцијалног самоубилачког размишљања или чак планирања самоубиства. Поред тога, ОпенАИ је навео да приближно 0,07 одсто активних корисника у току недеље - око 560 хиљада - показује могуће знакове психичких стања повезаних са психозом или манијом.
Узнемирујући податак објављен је у блогу компаније као део ажурирања о томе како њихов модел обрађује осетљиве теме. Компанија је напоменула да је реч о прелиминарној анализи, јер је овакве разговоре тешко тачно идентификовати.
ОпенАИ наводи да је најновије ажурирање такозваног ГПТ-5 модела смањило број ризичних ситуација и побољшало безбедност корисника. У евалуацији која је обухватила више од 1.000 симулираних разговора о самоповређивању и самоубиству, ГПТ-5 је оцењен као "91 одсто усклађен са жељеним понашањем", у поређењу са 77 одсто код претходне верзије.
Компанија тврди да је модел сада у стању да корисницима понуди више информација о начину на који могу да потраже подршку, а нуди им и подсетнике на паузе током дугих разговора. Да би побољшала безбедност, компанија ОпенАИ је почела да сарађује са 170 стручњака - психијатрима, психолозима и другима - који су у последњим месецима процењивали безбедност одговора и помагали у изради препорука за теме везане за ментално здравље.
Према саопштењу компаније, ови стручњаци су анализирали више од 1.800 одговора модела који се тичу озбиљних психолошких ситуација и упоређивали их са резултатима старијих верзија ЧетГПТ-ја. Под "пожељним одговором" ОпенАИ подразумева онај на који би се сложила већина њихових клиничких саветника као одговарајући и безбедан.
Истраживачи и стручњаци за јавно здравље већ дуго упозоравају на феномен познат као "улизивање", то јест склоност АИ четботова да потврђују мишљења и одлуке корисника, чак и када су оне штетне или ирационалне. То представља посебан ризик када људи у кризи покушавају да користе вештачку интелигенцију као замену за психолошку подршку.
Ипак, ОпенАИ је у свом саопштењу истакао да нема директних веза између ЧетГПТ-ја и пораста проблема са менталним здрављем. "Емоционална патња универзална је у сваком друштву, а како база корисника расте, природно је да се неки разговори тичу тих ситуација", наводи се у објави.
Компанију у последње време многи критикују због начина на који четбот разговара са корисницима о осетљивим темама, а уједно се суочава и са тужбом породице једног тинејџера који је извршио самоубиство након опсежних разговора са ЧетГПТ-јем.
Live
