Папа Лав Четрнаести изнео је оштро упозорење о вештачкој интелигенцији, тврдећи да технологија помаже "нормализацији рата" и преноси моћ живота и смрти на неодговорне "технолошке актере".
Папа је своје упозорење упутио у окриву посланице "Величанствено човечанство", наводећи да је "раст војно-индустријског комплекса постао кључна карактеристика тренутног политичког пејзажа", што је довело до "узнемирујућег оживљавања рата као инструмента међународне политике".
У овом окружењу, "развој и употреба вештачке интелигенције у ратовању морају бити подложни најстрожим етичким ограничењима, како би се гарантовало поштовање људског достојанства и светости живота и како би се избегла трка у развоју таквог оружја", навео је он.
Папе обично користе енциклике да би изложиле своја учења о друштвеним питањима свог времена.
Од свог избора прошлог маја, Лав XIV је више пута упозоравао на разорну моћ технологије, описујући вештачку интелигенцију као потенцијалну претњу "људском достојанству, правди и раду". Његова посланица сада иде корак даље, позивајући на глобални споразум о "разоружавању" технологије како би се спречило да "доминира човечанством".
Папа против Силицијумске долине
Иако се папа није поименично обратио гигантима у области одбране из Силицијумске долине, као што су "Палантир" и "Андурил", истакао је померање моћи са државе на "главне економске и технолошке актере".
"Палантир" је постао посебно моћан последњих година, са својим софтвером за анализу података заснованим на вештачкој интелигенцији који америчка војска користи за избор циљева у Ирану, а Израелске одбрамбене снаге (ИДФ) за планирање удара у Гази. У Ирану је "Палантиров" софтвер наводно изабрао основну школу за девојчице у Минабу као валидну мету, на основу застарелих, људски састављених мапа. Ракетни напад на школу убио је више од 160 ученица на први дан рата.
Папа је осудио растућу аутоматизацију ратовања, изјавивши да је "недопустиво поверавати смртоносне или на други начин неповратне одлуке вештачким системима". Системи омогућени вештачком интелигенцијом морају задржати "ланац одговорности", написао је, додајући да "они који пројектују, обучавају, одобравају и користе технологију морају бити одговорни за своје одлуке".
Папина енциклика је у оштрој супротности са манифестом који је прошлог месеца објавио извршни директор "Палантира" Алекс Карп, у којем је изјавио да америчке технолошке компаније имају "афирмативну обавезу" да помогну америчкој војсци, позвао на ремилитаризацију Немачке и Јапана и тврдио да Запад не би требало да се упушта у "театралне дебате о предностима развоја технологија са критичним војним и национално-безбедносним применама".
Папа је, ипак, пронашао неке савезнике унутар индустрије вештачке интелигенције. Суоснивач компаније "Антропик", Кристофер Олах, састао се са папом у Ватикану у понедељак, рекавши публици високих црквених вођа да лабораторије за вештачку интелигенцију раде "унутар скупа подстицаја и ограничења која понекад могу бити у супротности са чињењем исправне ствари" и да је регулисање ове индустрије 2морални императив историјских размера".
Сукоб са Трампом
Олах и папа су се последњих месеци сукобили са америчким председником Доналдом Трампом. Трамп је отказао уговоре Пентагона са "Антропиком" у фебруару, након што је компанија одбила да дозволи да се његов софтвер користи у масовном домаћем надзору или потпуно аутономном оружју. Два месеца касније, Трамп је оштро критиковао понтифа, називајући папу "слабим" због његовог противљења америчко-израелском рату против Ирана.
Папа је описао Трампову претњу да ће уништити иранску цивилизацију као "заиста неприхватљиву2 и критиковао је министра одбране Пита Хегсета због позивања Американаца да се моле за победу "у име Исуса Христа". Бог, одговорио је папа, "не слуша молитве оних који воде рат".
Папа је такође осудио текућу ремилитаризацију Европе, упозоравајући да поновно наоружавање "исцрпљује инвестиције у образовање и здравствену заштиту, поткопава поверење у дипломатију и обогаћује елите које не маре за опште добро".