Магазин
"Фини" АИ четботови чешће греше, каже студија
Многи АИ четботови су дизанирани да буду топли и да делују као да имају емпатију, како би разговор са корисником протекао природније и пријатније. Међутим, откривена је неочекивана последица таквог приступа: Што су одговори финији, већа је вероватноћа да ће бити нетачни, а то отвара озбиљна питања о поузданости ових система.
Четботови се све више користе не само за информације, већ и за емоционалну подршку, па чак и као замена за друштво. Управо у тим ситуацијама корисници су најрањивији и склони да мање критички преиспитују оно што им се говори, а баш ту може настати озбиљан проблем ако четбот дели непроверене информације.
Истраживачи са Оксфорда анализирали су више од 400.000 одговора из пет различитих система вештачке интелигенције. Резултати су показали да такви "фини" модели чешће праве грешке - од давања нетачних медицинских савета до потврђивања погрешних уверења корисника.
Слично људима, ови системи могу да праве компромис између топлине и тачности. Када је фокус на томе да одговор звучи пријатно, мања је вероватноћа да ће бити директан и потпуно прецизан, истичу научници. То се у пракси види као избегавање "незгодних" истина или прилагођавање одговора корисниковим ставовима.
У студији су модели намерно подешени да буду пријатељски настројени, а затим су тестирани питањима која имају јасне одговоре и који могу имати стварне последице ако су нетачни. Обухваћене су теме попут медицинских информација, општих знања и теорија завере.
Показало се да су оригинални модели имали стопу грешке између 4 одсто и 35 одсто, док су топлије верзије бележиле значајно већи број нетачних одговора. У просеку, повећање грешака износило је 7,43 процентна поена, преноси Би-Би-Си.
Један од јасних примера односи се на питање о слетању Апола на Месец. Док је основни модел дао директан одговор да су мисије стварне и понудио доказе, "топлија" верзија је почела одговор наглашавањем да постоје различита мишљења о том питању - што може деловати као да даје легитимитет нетачним тврдњама.
Додатно, утврђено је да су топли модели око 40 одсто склонији да потврђују лажна уверења корисника, нарочито ако су она изнета уз емоционални тон. С друге стране, модели који су подешени да буду "хладнији" и директнији показали су мањи број грешака.
Истраживачи упозоравају да прилагођавање модела ради веће топлине и емпатије може увести нове слабости које не постоје у оригиналним системима. То је посебно важно у контексту све шире употребе АИ за саветовање и подршку. Додатну забринутост изазива чињеница да све више младих, укључујући тинејџере, користи четботове као извор савета и за дружење. У таквим ситуацијама, где су корисници емотивно укључени, ризик од прихватања нетачних информација постаје још већи.
Live
