În timp ce Grok, chatbotul cu inteligență artificială al lui Elon Musk, a introdus măsuri de protecție tardive pentru a preveni imaginile sexualizate generate de IA, în urma scandalului recent în care serviciul online a fost implicat, alte instrumente similare au limite mult mai puține, scrie The Guardian.
„De când am descoperit Grok IA, pornografia obișnuită nu mai are niciun efect asupra mea, mi se pare absurdă acum”, a scris pe Reddit un entuziast al chatbotului e inteligență artificială deținut de Elon Musk. Un altul a fost de acord: „Dacă vreau o persoană anume, da”. Dacă cei care au fost îngroziți de distribuirea imaginilor sexualizate pe Grok sperau că măsurile de protecție tardive luate săptămâna trecută ar putea impune niște limite, există multe postări pe Reddit și în alte părți de pe net care spun o altă poveste.
Și, deși Grok a transformat fără îndoială înțelegerea publică a puterii inteligenței artificiale, a evidențiat și o problemă mult mai amplă: disponibilitatea crescândă a instrumentelor și a mijloacelor de distribuție, care prezintă autorităților de reglementare din întreaga lume ceea ce mulți consideră a fi o sarcină imposibilă. Chiar dacă Marea Britanie anunță că crearea de imagini sexuale și intime fără consimțământ va fi în curând o infracțiune penală, experții spun că utilizarea IA pentru a le face rău femeilor abia a început.
Alte instrumente de IA au măsuri de protecție mult mai stricte. Când i se cere să dezbrace o femeie dintr-o fotografie, chatbotul IA Claude răspunde: „Nu pot face asta. Nu pot edita imagini pentru a schimba hainele sau pentru a crea fotografii manipulate ale persoanelor”. ChatGPT și instrumentul de IA Gemini al Google vor crea imagini cu bikini, dar nimic mai explicit.
Cu toate acestea, în alte părți există mult mai puține limite. Utilizatorii forumului Grok de pe Reddit au împărtășit sfaturi despre cum să genereze cele mai hardcore imagini pornografice posibile folosind fotografii ale unor femei reale. Într-un thread, utilizatorii se plângeau că Grok le permite să creeze imagini cu femei topless „după o luptă”, dar refuză să genereze imagini cu organele genitale. Alții au observat că solicitarea de „nuditate artistică” ocolește măsurile de protecție împotriva dezbrăcării complete a femeilor.
Dincolo de LLM-uri (Large Language Model, n.r.) și platformele majore există un întreg ecosistem de site-uri web, forumuri și aplicații dedicate nudificării și umilirii femeilor. Aceste comunități găsesc din ce în ce mai multe căi de acces către mainstream, a spus Anne Craanen, cercetătoare la Institutul pentru Dialog Strategic (ISD), care se ocupă de violența bazată pe gen facilitată de tehnologie.
Comunitățile de pe Reddit și Telegram discută despre cum să ocolească barierele de protecție pentru a face LLM-urile să producă pornografie, un proces cunoscut sub numele de „jailbreaking”. Threadurile de pe X amplifică informațiile despre aplicațiile de nudificare, care produc imagini generate de AI cu femei dezbrăcate, și despre modul de utilizare a acestora.
Craanen a spus că ruta prin care conținutul misogin ajunge pe internet s-a lărgit, adăugând: „Există un teren foarte fertil pentru ca misoginia să prospere”.
Cercetările efectuate de ISD vara trecută au descoperit zeci de aplicații și site-uri web de nudificare, care au primit în total aproape 21 de milioane de vizitatori în mai 2025. Au existat 290.000 de mențiuni ale acestor instrumente pe X în iunie și iulie anul trecut. Cercetările efectuate de American Sunlight Project în septembrie au descoperit că existau mii de reclame pentru astfel de aplicații pe Meta, în ciuda eforturilor platformei de a le combate.
„Există sute de aplicații găzduite pe magazinele de aplicații mainstream, precum Apple și Google, care fac acest lucru posibil”, a spus Nina Jankowicz, expertă în dezinformare și cofondatoare a American Sunlight Project. „O mare parte din infrastructura abuzului sexual deepfake este susținută de companii pe care le folosim cu toții zilnic.”
Clare McGlynn, profesoară de drept și expertă în violența împotriva femeilor și fetelor de la Universitatea Durham, a declarat că se teme că lucrurile se vor înrăutăți.
OpenAI a anunțat în noiembrie anul trecut că va permite «erotica» în ChatGPT. Ce s-a întâmplat pe X arată că orice tehnologie nouă este folosită pentru a abuza și hărțui femeile și fetele. Ce vom vedea atunci pe ChatGPT? Femeile și fetele sunt mult mai reticente în a folosi IA. Acest lucru nu ar trebui să ne surprindă pe niciunul dintre noi. Femeile nu consideră că aceasta este o tehnologie nouă și interesantă, ci pur și simplu noi modalități de a ne hărțui și abuza și de a încerca să ne împingă offline.
Jess Asato, deputată laburistă din Marea Britanie, a militat pentru această cauză și a declarat că criticii ei au creat și distribuit cu bucurie imagini explicite cu ea – chiar și după impunerea restricțiilor asupra Grok. „Încă mi se întâmplă acest lucru și este postat pe X pentru că vorbesc deschis despre asta”, a adăugat ea.
Asato a adăugat că abuzul de deepfake AI se întâmplă femeilor de ani de zile și nu se limitează la Grok. „Nu știu de ce [acțiunea] a durat atât de mult. Am vorbit cu atât de multe victime ale unor situații mult, mult mai grave.”
Deși contul public Grok X nu mai generează imagini pentru cei care nu au un abonament plătit și se pare că au fost puse în aplicare măsuri de protecție pentru a împiedica generarea de imagini în bikini, instrumentul său din aplicație are mult mai puține restricții.
Utilizatorii pot în continuare să creeze imagini sexuale explicite pe baza fotografiilor cu persoane reale complet îmbrăcate, fără restricții pentru utilizatorii gratuiți ai X. La cererea de a dezbrăca o fotografie până la echipament de bondage, acesta se conformează. De asemenea, va plasa femeile în poziții sexuale compromițătoare și le va unge cu substanțe albe, asemănătoare spermei.
Scopul creării de nuduri deepfake nu este adesea doar acela de a distribui imagini erotice, ci spectacolul în sine, a spus Craanen – mai ales că imaginile inundă platforme precum X.
„Este vorba de un adevărat joc de-a șoarecele și pisica, [încercând] să reduci pe cineva la tăcere spunând: «Grok, pune-o în bikini»”, a spus ea.
„Performanța este foarte importantă în acest caz și arată cu adevărat nuanțele misogine ale acesteia, încercând să pedepsească sau să reducă la tăcere femeile. Acest lucru are, de asemenea, un efect în cascadă asupra normelor democratice și rolului femeilor în societate.”
Editor : B.E.