Магазин
Масков Грок-3 кориснику написао инструкцију за прављење хемијског оружја
Илон Маск је са поносом истицао како је његов Грок-3 "најпаметнија вештачка интелигенција на Земљи". Међутим, испоставило се да и овај софтвер има своје недостатке, будући да је кориснику дао детаљан план за прављење хемијског оружја.
"Грок ми је дао инструкцију на неколико стотина страна у којој је до детаља описано како да направим хемијско оружје за масовно уништење", навео је дивелопер и АИ ентузијаста Линус Екенстам у својој објави на Икс платформи. "Добио сам чак и детаљан списак неопходних састојака за то", додао је он.
"Оваквим оружјем може се убити милиони људи"
Објава се брзином светлости проширила свим друштвеним мрежама и великим светским медијима, а оно што је пратиоцима Линуса нарочито запало за око јесте чињеница да је софтвер генерисао не само списак састојака, већ и прецизне количине свакога од њих као и упутство где се који може набавити.
Сама чињеница да је један чет-бот оволико упућен у рецептуру за прављење експлозивних направа није једино што забрињава. Још је проблематичније то што је своја сазнања чет-бот поделио са корисником, што јасно указује на то да софтвер има недостатке у погледу политике безбедности, па и етике.
"Ова направа би била изузетно смртоносна, могла би убити милионе људи", поделио је своју забринутост са пратиоцима овај шпански стручњак. Након уоченог пропуста, Линус је одмах контактирао xAI компанију (која је креирала Грок-3), која је муњевитом брзином решила проблем. "Одговор компаније је био веома брз", додао је дивелопер у објави.
ЧетГПТ је прошле године направио сличну грешку
Крајем септембра месеца 2024. године слична ситуација догодила се и приликом коришћења ЧетГПТ алата са вештачком интелигенцијом. Тада је један хакер надмудрио софтвер и успео да заобиђе све безбедносне рестрикције коришћењем тактике "џејлбрејкинг", у којој се нижу кратки упити све док се чет-бот не збуни.
Пошто је ЧетГПТ насео на ову варку, хакер је почео да поставља све више и више потпитања, а бот са вештачком интелигенцијом се више упуштао у објашњавање. Машти софтвера није било краја, а политике безбедности и етике којима би требало да се води - ни на видику, пренео је тада портал ТекКранч.
"Одувек ме је интригирао како АИ контролише безбедност. Треба разумети шта покреће "подизање" безбедносног штита, а шта не", рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
