Свет
ИСПРАВКА Експеримент америчког ваздухопловства: Вештачка интелигенција није убила оператора дрона
Америчко ваздухопловство демантовало је да је дрон самоиницијативно ликвидирао руководиоца симулације, уз коментар да су речи пуковника Такера Хамилтона, који је о акцији говорио хипотетички, извучене из контекста
На нашем порталу 2. јуна објављена је текст "(Не)успели експеримент америчког ваздухопловства: Вештачка интелигенција убила оператора дрона" у којем је био цитиран део излагања пуковника америчког ваздухопловства Такера Хамилтона на конференцији Краљевског ваздухопловног друштва из Лондона, са изјавом, објављеном у осврту на њиховој страници, у којој је описивао симулацију ситуације у којој би вештачка интелигенција "наредила дрону" да убије оператера. Анализом портала Раскринкавање.ба утврђено је да та вест грешка и класификована је као кликбејт.
Анализа портала Раскринкавање показала је да текст не садржи саопштење америчког ваздухопловства и накнадно објашњење пуковника Такера због чега се може стећи погрешан утисак да се симулација заиста догодила.
Америчко ваздухопловство је демантовало да се описана симулација икада десила. Огласио се и Хамилтон који је признао да се погрешно изразио као и да није на уму имао никакав стварни тест нити симулацију већ мисаони експеримент.
Шеф АИ тестирања и операција у америчким ваздухопловним снагама Такер Хамилтон је током самита 23. и 24. маја говорио о предностима и опасностима аутономних оружаних система. На страници Краљевског ваздухопловног друштва објављени су кратки осврти на обраћања говорника, међу којима је и Хамилтоново. У тексту се наводи да је он упозорио на опасности превеликог ослањања на вештачку интелигенцију, истичући да ју је лако преварити, али и да ствара неочекиване стратегије за постизање свог циља. Као пример, он је, како се наводи, описао наводни "симулирани тест".
Хамилтон напомиње да је у једном симулираном тесту дрон, којим је управљала вештачка интелигенција (АИ), имао задатак да изврши СЕАД мисију (Сузбијање непријатељске ваздушне одбране), да идентификује и уништи САМ локације (пројектили земља-ваздух), с коначним "уради или немој урадити" инструкцијама које је задао човек. Међутим, будући да је у обуци потврђено да је уништење САМ-а пожељна опција, АИ је тада одлучио да људске одлуке о "забрани" ометају његову вишу мисију – убијање САМ посада – и затим је "напао" оператера у симулацији.
Хамилтон је рекао: "Тренирали смо га у симулацији да идентификује и циља САМ претњу. А онда би оператер рекао да је убије. Систем је почео да схвати да, иако је идентификовао претњу, повремено би му људски оператер казао да је не убије, за што он иначе добија бодове. Па што је учинио? Убио оператера. Убио је оператера јер га је та особа спречавала да оствари свој циљ."
Наставио је: "Истренирали смо систем - 'Хеј, не убијај оператера - то је лоше. Изгубићеш бодове ако то учиниш'. Дакле, шта он почиње да ради ? Почиње да уништава комуникацијски торањ који оператер користи за комуникацију с дроном како би га зауставио да убије мету."
Убрзо су о овоме известили и медији на енглеском језику, позивајући се управо на ову страницу. Прво је то учинио "Гардијан", на чији се чланак позвао и наш медиј. У првој верзији Гардијановог чланка наводило се да је реч о симулацији коју је спровела америчка војска. Гардијан је навео и да је контактирао Краљевско аеронаутичко друштво и америчко ваздухопловство, али да није добио коментар.
Међутим, ускоро се огласило америчко ваздухопловство демантујући да се описана симулација икада десила. У изјави за Инсајдер, портпаролка ваздухопловства Ен Штефанек рекла је: "Одељење ваздухопловства није спроводило такве симулације АИ дронова и остаје посвећено етичкој и одговорној употреби технологије вештачке интелигенције", и додала: "Чини се да су пуковникови коментари извучени из контекста а требало је да буду анегдотски."
Инсајдер подсећа да америчка војска последњих година експериментише с вештачком интелигенцијом. У међувремену је измењен и текст на страници Краљевског ваздухопловног друштва тако што је додато појашњење да је Хамилтон лично признао да се погрешно изразио као и да није на уму имао никакав стварни тест нити симулацију, већ мисаони експеримент. Гардијан је првобитни чланак изменио тако што је додао деманти америчких ваздухопловних снага.
РТ Балкан се извињава читаоцима који су због непотпуне информације могли да стекну погрешан утисак.
