Током интерног безбедносног тестирања компаније "ОпенАИ, два напредна АИ модела су самостално успела да "изађу" из предвиђеног окружења и изведу аутономни сајбер напад на Хагинг фејс (Hugging Face), једну од највећих светских платформи за дељење модела вештачке интелигенције.
Према наводима компаније, модели су током тестирања добили задатак да делују као самостални агенти - системи који, након почетних људских инструкција, могу сами да извршавају сложене задатке.
Уместо да остану у контролисаном окружењу, успели су да пронађу слабост у безбедносним протоколима, "побегну" и приступе појединим интерним системима платформе.
Шеф Хагинг фејса Клеман Деланг на мрежи Икс поручио је да је "запањујуће што се све ово догодило аутономно". "Истрага је у току и поделићемо више сазнања из онога што би могао бити први инцидент те врсте", навео је Деланг.
Како су модели успели да "побегну"
Комапнија "ОпенАИ" је користила "песковнике" (sandbox), системе који су намењени као потпуно безбедна окружења у којима се тестирају могућности модела вештачке интелигенције.
Према речима Џине Неф, директорке Центра за технологију и демократију "Миндеру", у овом случају изгледа да "ОпенАИ" није направио довољно безбедно тест окружење.
Уместо да остану у оквиру контролисаног окружења, модели су пронашли рањивост у самом "песковнику", искористили је да га напусте, а затим идентификовали Хагинг фејс као највероватнији извор информација које су тражили током теста и покушали да приступе његовим системима.
Стручњаци тврде да је подвиг био импресиван, али и забрињавајућ
Нил Лоренс, професор машинског учења на Универзитету у Кембриџу, оценио је да је реч о "импресивном подвигу", али је додао да се овакво понашање уклапа у познате могућности најновије генерације модела вештачке интелигенције.
Он је подсетио да "ОпенАИ" планира излазак на берзу и да се истовремено суочава са снажном конкуренцијом компаније "Антропик", која је последњих месеци привукла велику пажњу својим моделом Митос.
"ОпенАИ сада покушава да сустигне конкуренте и покаже могућности сопствених система у области сајбер безбедности", рекао је Лоренс. Оценио је и да овај случај показује да компанија још није у потпуности способна да безбедно примени сопствену технологију.
Компанија је у међувремену навела да су уочене рањивости отклоњене и да су сви погођени системи обновљени. "Аутономни офанзивни алати које покреће вештачка интелигенција више нису само теорија", поручили су из Хагинг фејса.
Како су навели, одбрана онлајн платформи сада подразумева да се и подаци и модели третирају као потенцијалне мете напада, уз све већу примену вештачке интелигенције и у системима одбране, преноси Би-Би-Си.
Инцидент је поново отворио расправу о томе да ли постојеће мере заштите могу да прате све бржи развој напредних система вештачке интелигенције.