Un grup de trei adolescente, dintre care două sunt minore, a intentat luni un proces împotriva companiei de inteligență artificială xAI a lui Elon Musk, susținând că generatorul de imagini Grok al acesteia a folosit fotografii cu ele pentru a produce și distribui material cu abuz sexual asupra copiilor. Procesul colectiv este primul intentat de minori în urma generării de către Grok a unor imagini nud fără consimțământ la începutul acestui an, scrie The Guardian.
„xAI a ales să profite de pe urma abuzului sexual asupra unor persoane reale, inclusiv copii, deși cunoștea foarte bine consecințele creării unui produs atât de periculos”, a declarat Vanessa Baehr-Jones, avocata reclamantelor, într-un comunicat.
Procesul, care a fost inițiat de trei adolescente din Tennessee, dar depus în California, unde xAI își are sediul central, detaliază modul în care fetele au descoperit că imagini nud cu ele, modificate de IA, au fost încărcate pe un server Discord (platformă de comunciare online pornită inițial ca un instrument pentru pasionații de jocuri pe computer, care s-a extins ulterior și spre publicul larg, n.r.) și distribuite online fără știrea lor.
După ce au alertat forțele de ordine cu privire la imagini, conform plângerii, poliția a arestat un suspect mai târziu în aceeași lună și a găsit pe telefonul său material cu abuz sexual asupra copiilor (CSAM) care ar fi fost produs folosind tehnologia de generare de imagini și videoclipuri a xAI.
xAI nu a răspuns imediat la o solicitare de comentarii din partea ziarului The Guardian.
Procesul susține că materialul CSAM a fost creat folosind o aplicație terță parte care a licențiat și s-a bazat pe IA Grok pentru a produce materialul.
Procesul se alătură mai multor alte acțiuni legale și investigații internaționale împotriva xAI privind crearea și diseminarea de imagini sexualizate fără consimțământ, inclusiv un alt proces intentat de mama unuia dintre copiii lui Musk și o anchetă oficială a Uniunii Europene. În momentul de vârf al scandalului, cercetătorii de la Center for Countering Digital Hate au calculat că Grok a creat aproximativ 3 milioane de imagini sexualizate în mai puțin de două săptămâni – dintre care aproximativ 23.000 înfățișau copii.
Musk a negat anterior că Grok a fost folosit pentru a produce CSAM, afirmând în ianuarie că „nu era la curent cu nicio imagine cu minori dezbrăcați generată de Grok. Literalmente zero.”
El a susținut, de asemenea, că Grok nu ar genera imagini ilegale și că principiul său de funcționare era respectarea legilor locale.
În plângerea depusă luni, avocații reclamantelor adolescente au detaliat modul în care fetele au descoperit că imagini nud cu ele, modificate prin IA, circulau online. O fată, numită Jane Doe 1 (Jane Doe, pentru femei, și John Doe, pentru bărbați, sunt nume generice utilizate când nu este cunoscut numele real sau trebuie protejată identitatea unei persoane, n.r.), a primit în decembrie un mesaj pe Instagram de la un utilizator anonim, care a avertizat-o că cineva din cercul ei social a încărcat o serie de videoclipuri și imagini deepfake pe un server Discord care o înfățișau pe ea și pe alte fete de la liceul ei nud și în poziții sexualizate, potrivit plângerii.
Jane Doe a observat că trei dintre fotografii păreau a fi imagini modificate cu ajutorul IA, realizate pe când era minoră, inclusiv una de la balul de absolvire al școlii sale. Anchetatorii criminali au descoperit ulterior că imaginile fuseseră distribuite și pe aplicația de mesagerie Telegram, conform plângerii, unde ar fi fost folosite ca monedă de schimb pentru alte materiale cu abuz sexual asupra copiilor.
„Imaginile îi arătau întregul corp, inclusiv organele genitale, fără haine. Videoclipul o înfățișa dezbrăcându-se până când a rămas complet goală”, se menționează în plângere.
Celelalte reclamante din proces au descoperit în februarie că material CSAM similar în care apăreau și ele fusese, de asemenea, generat prin AI și distribuit online, procesul urmărind obținerea de despăgubiri de la xAI pentru prejudiciile aduse reputației și sănătății mintale rezultate din aceste imagini.
„A fost sfâșietor să-mi văd fiica având un atac de panică după ce a realizat că aceste imagini au fost create și distribuite fără nicio speranță de a le retrage”, a declarat mama uneia dintre fete prin intermediul unui reprezentant.
Deși plângerea susține că imaginile au fost create folosind o aplicație terță parte care accesează tehnologia Grok, mai degrabă decât direct pe site-ul web X sau în aplicația Grok, plângerea susține că această utilizare necesită totuși serverele xAI și că xAI profită de pe urma acordării de licențe pentru tehnologia sa către aceste aplicații.
Avocații reclamanților acuză xAI că își descarcă efectiv răspunderea prin structura sa de acordare a licențelor și lipsa de supraveghere.
Editor : B.E.