Магазин
Шта се крије иза отпуштања Сема Алтмана: Упозоравајуће писмо извршном одбору о претњи човечанству
Анонимни извори блиски компанији "Опен АИ" су за Ројтерс поделили да је управни одбор компаније добио врло озбиљно упозорење у виду писма, само неколико дана пре смене извршног директора Сама Алтмана. Подсећамо, Алтман је пре неколико дана смењен са чела компаније "Опен АИ", која игра кључну улогу у развоју вештачке интелигенције у свету. Јуче је објављено да се Алтман враћа на исту функцију, али детаљи о потенцијалном узроку његовог отпуштања су сада испливали на површину.
Неколико истраживача из компаније "Опен АИ" је написало писмо управном одбору компаније пре него што је дошло до смењивања Алтмана у петак, у коме су скренули пажњу на моћно откриће на пољу вештачке интелигенције (АИ), које би наводно могло бити опасно по човечанство.
Наведено писмо (о којем се досад није извештавало) и развој алгоритма вештачке интелигенције били су кључни догађаји уочи смене Алтмана, којег многи сматрају оцем вештаћке интелигенције, рекла су два извора за Ројтерс. Реакције "Опен АИ" запослених почетком недеље, након првобитног отпуштања Алтмана, су биле прави доказ његовог утицаја, јер је више од 700 запослених претило је да ће, у знак солидарности, дати отказ и придружити се оснивачу Мајкрософта, заједно са Семом.
Недовољно опрезности
Извори су описали писмо као један од фактора на дужој листи притужби одбора које су довеле до Алтманове смене, међу којима је била и забринутост због комерцијализације развоја вештачке интелигенције, пре него што се у потпуности преиспитају последице. За сада, тачан садржај писма није познат.
Представници компаније "Опен АИ" су у интерној поруци особљу потврдили пројекат под називом "Кју (Q*)", као и писмо управи пре смене Алтмана, рекао је један од извора. Порука, коју је послала привремена директорка Мира Мурати, је служила као упозорење особљу на одређене медијске приче, али није се тачност информација није коментарисала.
Нови пројекти, непозната будућност
Неки у компанији верују да би пројекат "Q*" могао бити ознака за значајан напредак у потрази за оним што је познато као вештачка општа интелигенција (АГИ), рекао је један извора за Ројтерс. АГИ је дефинисан као скуп аутономних система који надмашују људе у већини економски вредних задатака.
Уз помоћ великих рачунарских ресурса, овај модел је могао решити одређене математичке проблеме. Иако су задаци били на нивоу ученика основне школе, решавање тестова је учинило истраживаче врло оптимистичнима у погледу будућег успеха пројекта "Q*".
Тренутно је "класична", генеративна вештачка интелигенција добра у писању и превођењу језика помоћу статистичког предвиђања следеће речи. Ипак, усавршавање способности решавања математичких задатака код АГИ, где постоји само један тачан одговор, имплицира да би вештачка интелигенција имала веће способности расуђивања налик људској интелигенцији.
За разлику од калкулатора који може решити ограничени број операција, АГИ може генерализовати, учити и разумети. У свом писму одбору, истраживачи су нагласили снагу и потенцијалну опасност вештачке интелигенције. Међу рачунарским научницима већ се дуго расправља о ризицима која оваква открића представљају, поготово ако, на пример, одлуче да им је уништење човечанства у интересу.
Алтман је водио напоре да Чет ГПТ постане једна од најбрже растућих софтверских апликација у историји и успео је да привуче бројна улагања, заједно са рачунарским ресурсима компаније "Мајкрософт", који су потребни да се побољша развој АГИ-а.
Осим што је најавио мноштво нових алата у демонстрацији овог месеца, Алтман јепрошле недеље на догађају светских вођа у Сан Франциску најавио да верује да су велики помаци на видику:
"Четири пута у историји компаније "Опен АИ", последњи пут је било у протеклих неколико недеља, био сам у просторији када смо на неки начин гурнули вео незнања уназад а границу открића унапред. Направити тако нешто је професионална част за цео живот," рекао је. Дан касније, одбор је сменио Алтмана, а јуче га је поново запослио.
