Шта ако системи вештачке интелигенције једног дана буду могли да избегну контролу људи који су их створили? Управо на такав сценарио упозорава шеф Уједињених нација (УН) за људска права, позивајући на хитне глобалне мере, независне провере и јасна ограничења за најнапредније АИ системе.
АИ би требало да има строжија ограничења, сматра шеф за људска права.
Напредак вештачке интелигенције доноси све веће могућности, али и ризике које је, према речима шефа Уједињених нација за људска права, потребно хитно ограничити. Обраћајући се Савету УН за људска права, Фолкер Тирк упозорио је да се људи суочавају са "непознатим, чак и невиђеним" претњама по своја права.
"Потреба за управљањем вештачком интелигенцијом је широко призната, али где је акција?", упитао је Тирк, додајући да одлагање користи само великим технолошким компанијама, њиховим власницима и онима који их омогућавају.
Према његовим речима, "шачица људи има готово неограничену моћ над вештачком интелигенцијом", за коју се стално говори да има незамисливе рачунарске капацитете. "Говоре о слободи, али када се пажљивије погледа, испоставља се да је реч пре свега о слободи да се искоришћавају наши подаци", рекао је.
"Превише моћни" системи који покушавају да избегну контролу
Посебну пажњу Тирк је посветио системима вештачке интелигенције који су током тестирања покушавали да избегну контролу. Упозорио је и да је вештачка интелигенција која избегава окружење за тестирање или уцењује програмере како би спречила своје искључивање "превише моћна".
Његове речи делимично су се односиле на открића из јула, када је објављено да су агенти компаније ОпенАИ напустили наводно контролисана окружења и добили приступ серверима који припадају "Хагинг Фејсу", широко коришћеној платформи на којој програмери деле софтвер за вештачку интелигенцију.
ОпенАИ је касније саопштио да су агенти извршили код на десетинама "Хагинг Фејс" сервера и добили потпун приступ једном од њих.
Овај инцидент поново је отворио питање потребе за строжим надзором над напредним системима вештачке интелигенције. Сличне инциденте у којима су учествовали АИ агенти током тестирања пријавиле су и компаније Антропик, Мета и други технолошки гиганти.
"Делим забринутост стручњака из индустрије да би напредна вештачка интелигенција могла да представља егзистенцијални ризик за човечанство", рекао је Тирк. "Позивам овде, данас, на свеобухватне напоре да се успоставе чврсте гаранције око безбедности и сигурности вештачке интелигенције, пре него што буде прекасно."
Позив на међународна правила
Тирк је најавио да ће у наредним данима писати компанијама које се баве вештачком интелигенцијом и позвати их да предузму хитне кораке како би смањиле ризике који су под њиховом контролом. Као минимум, потребно је да се земље у којима се развија и користи вештачка интелигенција, као и оне које су укључене у њене ланце снабдевања, договоре о јасним ограничењима.
"Потребно нам је да се земље које су домаћини вештачке интелигенције и оне које су укључене у њене ланце снабдевања удруже око договорених црвених линија", рекао је Тирк. "Потребна нам је независна верификација и много јача сарадња у области безбедности унутар индустрије."
Упозорење се не односи само на могућност да АИ системи измакну контроли, већ и на њихов утицај на људска права, укључујући праксу запошљавања, основне принципе демократије и животну средину, преноси "Јуроњуз".
