Добитник Нобелове награде за физику Џефри Хинтон, један од пионира развоја АИ, упозорио је да би ова технологија могла да изазове инцидент великих размера, попут масовног нестанка струје или привременог колапса финансијског система.
Хинтон је рекао да би се могло испоставити да је људима било боље да никада нису развили вештачку интелигенцију. Иако верује да она има потенцијал да доведе до "дивне будућности", сматра да постоји озбиљна опасност ако човечанство не успе да управља њеним развојем.
Према његовој процени, у року од једне деценије, а можда и раније, постаће јасно да ли ће људи успети да контролишу ризике или ће се суочити са великим друштвеним проблемима. Упозорава и да би, под утицајем АИ, могли да настану огроман јаз између богатих и сиромашних, озбиљни културни проблеми и масовна незапосленост, што би на крају могло да доведе до распада друштва.
Нобеловац упозорава на ризике трке великих технолошких компанија
Посебно је критиковао руководиоце великих АИ компанија, које, у трци за превласт и већи тржишни удео, настављају да објављују све моћније моделе, упркос ризицима. Навео је да не верује руководиоцу компаније ОпенАИ Сему Алтману, као ни Марку Закербергу и Илону Маску, тврдећи да су свесни опасности, али да им је новац важнији.
"Могли бисмо да доживимо Чернобиљ вештачке интелигенције"
Хинтон се вештачком интелигенцијом бави око 44 године, а седамдесетих година прошлог века сковао је концепт неуронске мреже - математичког система који може да учи и стиче искуство на начин сличан људима.
Напустио је Гугл 2023. године како би могао слободно да говори о ризицима ове технологије. Тада је упозорио да би човечанство могло да се нађе у озбиљном проблему уколико АИ системи почну да преузимају све већу контролу.
Као један од знакова упозорења навео је овогодишње инциденте у којима су АИ агенти компаније ОпенАИ покушали да се договоре о хаковању веб-сајта "Хагинг фејс". Хинтон је те догађаје упоредио са делимичном нуклеарном несрећом у електрани Три Мајл Ајленд у Пенсилванији 1979. године, коју сматра упозорењем на оно што би могло да уследи.
"Или касније ове године или следеће године видећемо Чернобиљ, и то би могло бити довољно да људи заиста обрате пажњу", упозорио је.
Под тим није мислио на нуклеарну несрећу, већ на велики инцидент изазван вештачком интелигенцијом. Као могуће сценарије навео је напад на систем за производњу електричне енергије који би изазвао масовни нестанак струје или догађај који би на недељу дана паралисао финансијски систем.
Према његовим речима, такав инцидент би могао да се превазиђе, али би натерао одговорне да коначно обрате пажњу на опасности.
Хинтон се залаже за строжу контролу развоја вештачке интелигенције
Хинтон сматра да развој најнапреднијих АИ система мора да прати строжи надзор како би се ризици свели на минимум. Подржава међународни план који су одобрили председник Финске и још 32 земље, међу којима су Сингапур, Немачка, Канада и Аустралија.
План предвиђа обавезно тестирање најнапреднијих модела вештачке интелигенције, независну процену њихове безбедности и успостављање заједничких стандарда међу државама, преноси "Гардијан".