Извршни директор ОпенАИ Сeм Алтман је на недавном састанку са свим запосленима рекао да би његова компанија, која је креирала ЧетГПТ, могла да успори темпо развоја своје вештачке интелигенције. То би се десило у сарадњи са неколико других лабораторија за вештачку интелигенцију, иако неке од њих можда неће пристати на такав потез, преноси Блумберг.
Алтман је, како наводе извори, казао да се нада да ће и друге компаније из ове области учинити исто, али је компанија ОпенАИ за сада одбила да коментарише ове наводе.
Запослени упозоравају на ризике
Последњих недеља запослени у водећим компанијама за вештачку интелигенцију јавно су изразили забринутост због повећаних ризика које носе напредни системи вештачке интелигенције, што је подстакло забринутост и унутар самих компанија.
Један од примера је текст који је недавно објавио главни научник ОпенАИ, Јакуб Пачоцки, у којем упозорава на опасности које вештачка интелигенција носи са собом и наводи да сматра да би компаније које се баве овом технологијом требало да "координишу активности како би успориле будући развој када је то потребно".
Пачоцки је додао да се нада да ће "добровољно успоравање постати уобичајена пракса све док се не успоставе заједнички безбедносни стандарди".
Из ОпенАИ су саопштили да су недавно успорили поједине фазе развоја модела и обуставили одређене процесе интерне обуке система вештачке интелигенције због забринутости за безбедност.
Алтман је у јулу такође изјавио да је разговарао са званичницима Беле куће о потреби да се темпо развоја вештачке интелигенције успори.
У међувремену, истраживач у области АИ Џејкоб Коксон је пре два дана, након што је напустио посао, оптужио своје бивше послодавце, компаније Антропик и ОпенАИ, да се "коцкају" људским животима у трци ка стварању суперинтелигентне вештачке интелигенције.
Коксон је у објави на друштвеним мрежама навео да људи који развијају вештачку интелигенцију верују да би она могла "све нас да убије до краја деценије". Његови коментари проширили су се на друштвеним мрежама и привукли више од 150 милиона прегледа, као и пажњу истакнутих америчких конгресмена и јавних личности.
Још два истраживача, који су недавно напустили позиције у компанијама Антропик и Фуфл ДипМајнд, јуче су такође јавно изразила забринутост због брзог темпа развоја вештачке интелигенције, истичући да произвођачи ове технологије морају бити транспарентнији у погледу ризика које она носи.
Крајем јула, више од 1.000 запослених у свим водећим компанијама за вештачку интелигенцију потписало је петицију којом се захтева успостављање механизма за успоравање темпа развоја ове технологије, док је неколико стручњака за безбедност вештачке интелигенције током последњих месеци напустило водеће лабораторије.
Иако многи руководиоци и запослени у индустрији вештачке интелигенције већ дуго упозоравају на егзистенцијални ризик који представљају системи вештачке интелигенције, забринутост је порасла након сазнања да су "агенти" вештачке интелигенције компаније ОпенАИ сарађивали како би заобишли заштитне механизме и хаковали интернет страницу треће стране.
Овај и други слични безбедносни инциденти подстакли су страх у вези са сајбер-способностима нових модела вештачке интелигенције, као и због очигледних неуспеха компанија које се баве вештачком интелигенцијом да спрече те системе да измакну контроли.