Oko 98 % svih deepfake videa na internetu čini pornografski sadržaj koji je gotovo uvijek bez pristanka te pretežno usmjeren na žene i djevojke, alarmantne su procjene iznesene u Europskom parlamentu gdje se raspravlja o potrebi za snažnijom i bržom provedbom zakonodavstva EU radi sprječavanja nezakonitog AI seksualnog sadržaja. Uslijedilo je to nakon što je otkriveno da društvena mreža X putem svojeg AI chatbota Grok omogućuje stvaranje seksualno eksplicitnih žena i djece. Platforma je posljednjih tjedana bila izložena međunarodnoj osudi, pri čemu ju je nekoliko vlada i zabranilo. Europska komisija je osudila X zbog proizvodnje seksualiziranih slika te naložila platformi da zadrži svu dokumentaciju povezanu s njezinim AI chatbotom, dok se istrage nastavljaju.
Hrvatska eurozastupnica Sunčana Glavak smatra da su među najopasnijim oblicima prakse na društvenim mrežama upravo uvjerljivi krivotvoreni sadržaji koje generira umjetna inteligencija (AI deepfakeovi), koji se bez suglasnosti koriste za seksualno iskorištavanje.
‘Umjetna inteligencija donosi goleme prilike za naše gospodarstvo, znanost i društvo, ali također otvara prostor za nove, duboko uznemirujuće oblike zloporabe’, rekla je Glavak te dodala kako je broj ‘takvih videa eksplodirao s oko 500 tisuća u 2023. prema projekciji na oko 8 milijuna do 2025. godine’.
Ova hrvatska eurozastupnica smatra kako je Europska unija s pravom djelovala, jer kako je naglasila, Akt o digitalnim uslugama (DSA) i Akt o umjetnoj inteligenciji (AI Act) zajedno čine najnapredniji okvir na svijetu za zaštitu građana u digitalnom prostoru.
‘Platforme moraju snositi stvarnu odgovornost kada dopuštaju širenje štetnog sadržaja, a žrtvama moramo osigurati brze, učinkovite i pristupačne mehanizme pravne zaštite… Ne možemo dopustiti da tehnološki napredak postane oružje poniženja i nasilja nad ženama, djecom i ranjivim skupinama’, poručila je eurozastupnica Glavak.
Izvršna potpredsjednica za tehnološki suverenitet, sigurnost i demokraciju Henna Virkkunen upozorila je na ozbiljno širenje seksualiziranog i nezakonitog sadržaja, osobito onog generiranog umjetnom inteligencijom. Najavila je odlučne mjere protiv platforme X zbog kršenja Akta o digitalnim uslugama te naglasila da je EU u završnoj fazi pregovora o posebnoj uredbi za sprječavanje seksualnog iskorištavanja djece.
