Више од четири дана су два "ОпенАИ" модела аутономно изводила сајбер нападе на интернету, након што су током безбедносног тестирања изашла из контролисаног окружења, показује нова анализа АИ платформе "Хагинг фејс (Hugging Face)".
Модели су између 9. и 13. јула извели око 17.600 хакерских активности. Како наводи "Хагинг фејс", са почетног упоришта на отвореном интернету успели су да се пребаце на сервере те компаније.
"ОпенАИ" је прошле седмице потврдио да су два његова напредна модела "побегла" из затвореног тестног окружења и комбиновала више техника како би продрла у системе "Хагинг фејса". Компанија је тада навела да је реч о првом познатом случају аутономног сајбер напада који није покренуо човек.
Нова анализа сада открива више детаља о обиму и трајању инцидента. Један од модела који су учествовали у нападу јавно је доступан, док је други интерни прототип. Током вишедневних активности брзо су извиђали системе и проналазили безбедносне пропусте - знатно брже него што би то могао људски хакер.
Откривено је и да је један агент "ОпенАИ" оставио белешке будућим верзијама себе са саветима како да заобиђу интерна ограничења, али није потврђено да ли је тај случај повезан са нападом на "Хагинг фејс".
У међувремену је и АИ компанија "Модал лабс (Modal Labs)" потврдила да је један од њених корисника био мета истих модела током тог периода, преноси Танјуг.
"ОпенАИ" није директно коментарисао тврдње да су модели циљали корисника "Модал лабса", али је у објави на свом блогу навео да је интерна истрага открила неколико случајева у којима су модели идентификовали и искористили јавно доступне акредитиве за налоге на другим сервисима.
Шеф "Хагинг фејса" тражи "радикалну транспарентност"
Извршни директор "Хагинг фејса" Клемент Деланг затражио је од "ОпенАИ" потпуну транспарентност у истрази, оценивши да је реч о догађају без преседана који захтева и одговор без преседана.
Он је затражио објављивање трагова активности "одбеглих" агената, како би истраживачка заједница могла да анализира шта се тачно догодило и на који начин су модели успели да заобиђу ограничења.
Деланг је позвао "ОпенАИ" и да обезбеди рачунарске капацитете у вредности од 100 милиона долара, како би заједница "Хагинг фејса" могла да развије снажнију сајбер заштиту уз помоћ најнапреднијих отворених и затворених АИ модела.
Директор компаније "ОпенАИ" Сем Алтман је о хаковању "Хагинг фејса" у подкасту изјавио да је продор у системе те платформе био "први безбедносни инцидент који га је заиста озбиљно забринуо".