Све сложенији сајбер напади уз помоћ АИ алата показују колико вештачка интелигенција може да промени начин на који се спроводе овакве операције. Оно што је раније захтевало много времена и труда сада може да буде знатно једноставније, што су показали и истраживачи за сајбер безбедност из америчког стартапа "Хактрон АИ". Они су успели да компромитују налоге више запослених у компанији ОпенАИ на платформи ЧетГПТ, користећи у почетној фази четбот Клод компаније Антропик.
Истраживачи су навели да им је напад омогућио приступ софтверском кешу, односно подацима циљаних корисника, као и потенцијално другим подацима. Како су навели, обим података којима су теоретски могли да приступе био је огроман. Операција је спроведена у оквиру програма ОпенАИ за етичко тестирање безбедности, у којем компанија награђује истраживаче који открију рањивости у њеним системима.
Како је изведен напад
Тим Хактрон је најпре користио Клод како би приступио налозима запослених у ОпенАИ преко интерног форума за дискусију. Потом су поднели наизглед безопасан захтев за измену програмског кода који је ОпенАИ чувао на платформи ГитХаб. Истраживачи су саопштили да су имали приступ коду на репозиторијуму, али да га нису преузели.
Иако је Клод коришћен у почетној фази, истраживачи су навели да су за највећи део операције користили АИ модел GPT-5.6 Sol компаније ОпенАИ.
Портпарол ОпенАИ захвалио је истраживачима на пријављеним налазима и навео да је компанија отклонила рањивости које су искоришћене током напада. Из Хактрона су, са друге стране, навели да су АИ алати знатно олакшали раније сложене хакерске операције и скратили време потребно за припрему напада.
"Посао који је некада захтевао добро опремљен тим и месеце труда сада се може завршити за неколико дана", рекао је Хактрон, који је добио исплату од 6.500 долара од ОпенАИ-ја.
Нови случај у тренутку расправе о безбедности АИ
Овај тест безбедности долази у тренутку када се све више говори о потенцијалним опасностима и границама развоја вештачке интелигенције. ОпенАИ је раније објавио више примера "неочекиваног или забрињавајућег" понашања своје технологије и упозорио да темпо развоја АИ још дуго неће моћи да се настави "максималном брзином".
Компанија Антропик је током викенда поново позвала на успоравање развоја вештачке интелигенције, а тај позив подржали су ОпенАИ, Гугл ДипМајнд и Илон Маск, преноси "Гардијан".