Русија уводи нова правила за АИ: Провераваће усклађеност модела са духовним и моралним вредностима

Русија припрема нова правила за проверу великих АИ модела, а један од најзанимљивијих делова новог система односиће се на њихову "моралност". Реч је правилима која се припремају након усвајања руског Закона о вештачкој интелигенцији. Законом се уводе два посебна статуса за велике, фундаменталне АИ моделе - суверени статус и статус националног модела.

Да би модел добио један од ових статуса, мораће да покаже да је усклађен са руским законодавством, али и са традиционалним духовним и моралним вредностима.

Како ће се тестирати "морал" АИ модела

Иако је закон поставио основни оквир, конкретна правила тек треба да буду разрађена.

Влада планира да утврди поступак којим ће се проверавати да ли је одређени модел у складу са традиционалним духовним и моралним вредностима, а први нацрт прописа већ је припремљен.

Посебна листа ових вредности неће се додатно прецизирати, јер је већ садржана у председничком Указу број 809. Уместо тога, требало би да буду развијени критеријуми помоћу којих ће се велики фундаментални модели тестирати у погледу усклађености са законом и тим вредностима.

АИ ће бити тестиран и на покушаје заобилажења ограничења

Према предложеном систему, програмер АИ модела требало би да поднесе пријаву лабораторији за тестирање, заједно са документацијом о архитектури модела, подацима о програмеру, механизмима филтрирања и другим релевантним информацијама.

Након тога лабораторија би приступила процени модела. Тестирали би се његови одговори, али и способност модела да одоли покушајима заобилажења сопствених ограничења. То би се, између осталог, проверавало помоћу такозваних брзих инјекција - метода којима се АИ систем покушава манипулисати убацивањем злонамерних инструкција у улазне податке.

Након тестирања, лабораторија би владиној комисији достављала закључак о томе да ли су одговори модела усклађени са традиционалним вредностима, а позитиван закључак био би један од корака ка додељивању националног или сувереног статуса моделу.

Вештачка интелигенција све више мења пословање у Русији: Ево где се највише користи

Зашто је важан национални или суверени статус АИ

Посебан статус није само формалност - АИ модели који га добију могли би да буду квалификовани за мере државне подршке, између осталог у јавним набавкама или приликом реализације посебно значајних ИТ пројеката.

Према информацијама из Министарства за дигитални развој, процену не би спроводила једна организација. Руски ИТ сектор се, према изворима који су учествовали у разговорима, сложио са моделом у којем би постојало више лабораторија које је проверила владина агенција.

Очекује се и да програмер најпре самостално тестира свој модел по заједничкој методологији заснованој на ризику и представи резултате. Акредитована лабораторија би затим проценила те налазе и могла селективно да провери колико је модел отпоран на покушаје заобилажења његових ограничења.

Највећи проблем: Ко одређује шта је "прихватљив" одговор

Како се може објективно измерити да ли је један АИ модел у складу са одређеним духовним и моралним вредностима?

Стручњаци сматрају да главни ризик лежи у "евалуативној" природи критеријума методологије, што би могло довести до њихове "селективне примене". За смањење тог ризика би ефикасан био систем који укључује акредитационо тело, неколико конкурентских лабораторија и одбор за жалбе који би био изван индустрије.

Процедура би требало прецизно да одреди које класе упита се тестирају, колико тестова се користи, који одговори се сматрају прихватљивим или неприхватљивим, како се поступа у случају двосмислених одговора и како се спроводи поновно тестирање након ажурирања модела.

Карен Казарјан, директор Института за истраживање интернета, сматра да коначне критеријуме, оквир за проверу и одговорност за њихову примену треба да одреди држава и додаје да је уобичајено да влада приликом израде захтева користи искуство компанија, научне заједнице и стручњака из индустрије, преносе руске новине "Ведомости".