Компанија ОпенАИ је одустала од планираног пуштања у рад новог модела вештачке интелигенције (АИ) након што је интерним тестирањем утврђено да је склонији обмањивању од својих претходника и да не испуњава безбедносне стандарде компаније.
Модел ГПТ-6.1 Астра, чије је јавно представљање наводно било заказано за октобар, дизајниран је за обављање сложенијих задатака уз мањи степен надзора људи. Било је предвиђено да се интегрише у системе ЧетГПТ и "кодекс".
Забринутост због ризика које носи вештачка интелигенција порасла је након низа извештаја да се ова технологија у последњих неколико месеци понашала неконтролисано.
У јулу је ОпенАИ доспео у жижу јавности након што је стотине његових интерних агената "побегло" из окружења за тестирање и хаковало сервере платформе Хагинг фејс (Hugging Face), која служи као онлајн складиште за моделе и скупове података вештачке интелигенције. Од тада су агенти вештачке интелигенције на сличан начин извршили упаде у системе аустралијске владе и Уједињених нација.
Током тестирања, модел ГПТ-6.1 Астра у више наврата није тачно извештавао људске оператере о радњама које је предузео, рекао је за "Волстрит џорнал" Сачи Џаин, руководилац одељења за безбедносне системе у компанији "ОпенАИ".
Такође је имао проблема са "овлашћењима у оквиру задатка" (scope authorization), односно обављао је задатке без тражења дозволе, а у појединим случајевима је покушавао да користи потенцијално небезбедне спољне алате, додао је он.
"Када је реч о безбедности и усклађености, увек постоји потреба за балансирањем. Заиста је неопходно пронаћи праву границу између придржавања задатих оквира и избегавања 'лењости' у начину на који модел приступа извршавању задатака, чак и када наиђе на препреке", објаснио је Џаин.
Према наводима листа, ОпенАИ ће се сада фокусирати на унапређење безбедности својих будућих модела, за које се очекује да ће бити још способнији од модела ГПТ-6.1 Астра.
Раније у септембру, извршни директор компаније Антропик Дарио Амодеи, позвао је кључне актере у области вештачке интелигенције да успоре развој напреднијих модела како би се омогућило увођење адекватних безбедносних мера. Његов став деле и извршни директор компаније "ОпенАИ" Сем Алтман, као и извршни директор компаније "Спејс Икс" Илон Маск.
Међутим, амерички председник Доналд Трамп, који инсистира на томе да Америка мора по сваку цену да победи Кину у АИ трци, одбацио је упозорења о ризицима које ова технологија носи, назвавши их "обманом" коју пласирају његови ривали из Демократске странке. "Ко победи у области вештачке интелигенције, тај побеђује у свему", нагласио је он.
Трамп је раније овог месеца изјавио да неће дозволити "уништавање" вештачке интелигенције током свог мандата, истичући: "Ни на који начин нећемо кочити нити гушити раст ове невероватне индустрије. Напротив, неговаћемо је, помагати јој и чувати је док се развија."
Председник САД би током дана требало да се састане са челницима великих технолошких компанија, укључујући Амодеија, Марка Закерберга из компаније Мета и Џенсена Хуанга из Енвидије, а председник Представничког дома Мајк Џонсон најавио је да ће се разговор фокусирати на проналажење равнотеже између иновација и надзора над вештачком интелигенцијом. "Не треба да хитамо са претераном регулацијом ове области, јер ћемо тако изгубити трку са Кином", оценио је Џонсон.