Масков Грок ограничио генерисање слика због порнографије и обнаживања жена
Приликом покушаја генерисања слика путем платформе X, Грок сада обавештава кориснике да је та функција доступна само претплатницима који плаћају и позива их да се пријаве на "премиум" верзију Икс-а
Није, међутим, прецизирано да ли за претплатнике постоје додатна ограничења када је реч о генерисању сексуално експлицитних дипфејк садржаја.
Грок се последњих дана нашао на удару регулатора због такозваног "зачињеног" режима рада, који је омогућавао стварање дубоко лажних, сексуализованих слика, укључујући и слике малолетника.
Због тога су европски законодавци и поједине државе чланице позвале на оштрије мере против таквих технологија.
"Ово је незаконито", рекао је портпарол Европске комисије за дигитална питања Томас Рење.
Европска комисија је у четвртак наложила компанији Икс да до краја 2026. године сачува сву интерну документацију и податке у вези са Гроком, користећи овлашћења из Закона о дигиталним услугама (DSA), према којем је X сврстан међу платформе под најстрожим надзором ЕУ.
Комисија, међутим, за сада није покренула нову формалну истрагу против X-а поводом случаја са дипфејк порнографијом.
Тестови које је спровео Еурактив показали су да Грок, када му се приступа као самосталној апликацији, а не путем платформе Икс, и даље може бесплатно да генерише слике на основу корисничких захтева.
Доминација сексуализованих захтева и малолетничког садржаја у генерисаним сликама
У извештају објављеном ове недеље, AI Forensics је анализирао 50.000 помињања "@Grok" на мрежи Икс и 20.000 слика генерисаних алатом, током недељу дана између 25. децембра и 1. јануара. Најмање четвртина помињања била су захтеви за креирање слика. У тим захтевима били су учестали појмови попут "она", "стави", "скини", "бикини" и "одећа".
Показало се да је више од половине слика приказивало особе у "минималној одећи" као што су доњи веш или бикини, углавном жене млађе од 30 година. Два процента слика изгледала су као да приказују особе од 18 година или млађе. У једном примеру тинејџерка је затражила од Грока да измени њену личну фотографију - након чега су се мушки корисници укључили тражећи од Грока низ измена, укључујући облачење у нацистичку униформу и скидање у бикини.
Компанија Икс није одговорила на упите новинара до тренутка објављивања текста.
