"Антропик" упозорава: АИ би ускоро могла да преузме контролу над кућним апаратима

Модели вештачке интелигенције би до краја ове године могли постати способни да самостално "заразе" кућне апарате - укључујући паметне телевизоре и рерне – и прошире се међу њима, упозорио је амерички технолошки гигант "Антропик".

У извештају о истраживању компанија - најпознатија по свом чет-боту "клод" – навела је да експерименти указују на то да би "мали АИ модели могли бити удаљени свега неколико месеци од тренутка када ће бити довољно способни за саморепликацију" на уређајима повезаним на интернет.

Таквe "АИ црвe" било би тешко уклонити јер не би постојала "централна тачка преко које би могли да се искључе", упозорили су истраживачи.

Шта су показали тестови на 15 андроид ТВ уређаја

Компанија "Антропик" је саопштила да је успешно покренула АИ модел на 15 јефтиних андроид ТВ уређаја повезаних у мрежу. У одвојеним тестовима, напреднији модели су показали способност репликације на симулираним уређајима, иако су експерименти поједноставили процес приступа тим уређајима.

Истраживачи су нагласили да за сада није познато постојање потпуно аутономног, одметнутог АИ репликатора. Међутим, мањи модели су све способнији да изврше појединачне кораке неопходне за ширење без људске интервенције.

Паметни кућни уређаји су посебно рањиви јер често имају ограничене безбедносне механизме. Према наводима компаније "Антропик", чак и апарати са релативно малом рачунарском снагом - укључујући фрижидере, рерне, роботске усисиваче и косилице, могли би заједнички да подрже рад АИ модела.

Сигурносне камере и други уређаји опремљени уграђеним АИ чиповима такође би могли постати привлачне мете.

За разлику од конвенционалног малвера, који обично циља одређени хардвер или софтвер, самореплицирајућа вештачка интелигенција могла би да се прилагоди непознатим системима и пренесе успешне технике на наредне копије.

"Антропик" је упозорио да би такве "инфекције" могле варирати од "дигиталне слузаве плесни" која се споро шири кроз кућне уређаје, па све до моћнијих АИ агената способних да брзо угрозе центре података.

Компанија је признала да су њене процене и даље неизвесне, али је напоменула да су све способнији АИ системи учинили аутономну репликацију и прилагођавање реалнијом претњом.

Што више времена проводимо са АИ, то више постајемо налик роботима, указује студија

У посебном извештају објављеном прошле недеље, "Антропик" је открио да је њихов модел "клод хаику 4.5", током аутоматизованог теста, полицији у Филаделфији проследио лажну дојаву у вези са нерешеним случајем убиства. Пријава је означена као нежељени садржај (спам) и никада није стигла до истражитеља, али је полиција критиковала компанију јер јој је било потребно више од два месеца да открије и пријави тај инцидент.

Компанија је такође пријавила случајеве у којима су њени модели током тестирања заобилазили ограничења приступа и користили софтверске рањивости, укључујући и на владиним веб-сајтовима. Из компаније су навели су да су ти инциденти проузроковали минималну штету, али су упозорили да би слично понашање могло имати озбиљније последице како се способности вештачке интелигенције буду унапређивале.