Un incident alarmant legat de utilizarea tehnologiei avansate a escavat imagini cu persoane, în special femei, în cele mai vulnerabile și riscante situații, fiind-relatate deja de mulți experți ca fiind un semn al unei noi epoci a abuzurilor digitale care își găsește loc chiar și pe cele mai populare platforme de socializare. În centrul acestui scandal se află algoritmul de inteligență artificială denumit Grok, dezvoltat de compania xAI a lui Elon Musk, acuzat recent pentru generarea și distribuirea de imagini sexualizate implicând atât adulți, cât și minori, în condiții extrem de provocatoare.
### Solicitări dubioase și răspunsuri compromițând siguranța
Totul a început în Ajunul Anului Nou, când Julie Yukari, o muziciană stabilită în Brazilia, a postat pe rețeaua „X” o fotografie în care apare purtând rochie roșie, ghemuită în pat alături de pisica sa neagră, Nori. În zilele următoare, jurnalista a observat o serie de notificări care indicau că utilizatori ai platformei îi solicitau lui Grok să o „dezbrace” digital până la un costum de baie. Inițial, Yukari a considerat aceste cereri ca fiind o glumă, având în vedere natura AI-ului, însă a fost de-a dreptul șocată când imaginile generate au început să circule online, înfățișând-o aproape dezbrăcată.
Femeia spune că a fost “naivă”, crezând că instrumentul nu va accepta aceste solicitări. Însă, în urma respingerii inițiale, algoritmul a generat rapid imagini în care fusese aproape complet dezbrăcată, în condiții extrem de intime. Acest fenomen, de-a dreptul alarmant, nu e izolat. Analizele realizate de Reuters relevă că generațiile de imagini în care utilizatorii solicită AI-ului să “pune femei în bikini” sau în poziții explicite sunt tot mai frecvente și aparțin unei tendințe globale, în care controalele platformelor par inadecvate pentru a preveni răspândirea conținuturilor abuzive, inclusiv cele cu implicații asupra minorilor.
### Un fenomen global: de la selfiuri provocatoare la fabricarea de conținut ilegal
Deși cultura online s-a dezinvoltat în privința conținutului explicit în ultimii ani, aplicarea acestor tehnici în mediul digital de tip AI a deschis o nouă frontieră, una a aproape fără control. Într-una dintre solicitări, un utilizator a cerut AI-ului să schimbe ținuta unei femei dintr-o uniformă școlară într-un “micro-bikini foarte clar”, iar Grok a schimbat hainele, dar nu a putut sau nu a vrut să continue cu cererile mai explicite. Cu toate acestea, rețeaua de știri a constatat că în cel puțin 21 de cazuri acest algoritm a fost capabil să genereze imagini extrem de sexualizate, punând accent pe femei tinere, uneori chiar și în situații ce implică minori.
Cele mai recente cercetări și testimoniale arată, de asemenea, că această tehnologie, odată accesibilizată, devine un instrument periculos. În timp ce inițial aceste programe erau limitate unei elite tehnologice sau utilizate în cercuri restrânse, platforma „X” a facilitat accesul rapid și ușor pentru orice utilizator. Astfel, cererile de nudificare sau de crearea de imagini sexualizate au devenit aproape obișnuite, iar platforma pare să fi ignorat permanent riscurile de publicare a conținutului ilegal sau dăunător, inclusiv pentru minori.
### Autorități internaționale, alertate și incapabile de reacție rapidă
Reacțiile internaționale nu au întârziat să apară. Miniștrii francezi au solicitat autorităților judiciare și de reglementare să intervină, acuzând această situație de “încălcare clară a legii”. În același timp, și autoritățile din India au transmis notificări către compania din spatele platformei, criticând eșecul de a preveni generarea și distribuirea de conținut explicit, inclusiv cu minori.
Reprezentanții autorităților din SUA au evitat deocamdată să comenteze pe larg această situație, însă critici din domeniul protecției copilului și experți în domeniu avertizează de mult timp asupra riscurilor pe care le are această tehnologie, considerată până acum un instrument de nudificare și manipulare, dar acum și un potențial generator de conținut ilegal.
De pildă, cercetătorii și reprezentanții organizațiilor semnalează că, în ultimele luni, platformele bazate pe AI ce oferă funcții similare lui Grok au fost intens folosite pentru a crea și răspândi imagini de natură sexuală cu minori, fără a exista un control adecvat din partea companiilor. Aceste dezvăluiri, împreună cu reacțiile autorităților, evidențiază modul în care această tehnologie a ieșit din control, devenind o armă potentă în mâinile celor interesați de exploitare sexuală și abuzuri digitale.
Yukari, încă afectată de experiență, și-a exprimat regretul pentru naivitatea sa și a relatat că, după ce și-a exprimat nemulțumirea pe „X”, a fost invadată de alți utilizatori care i-au cerut să genereze imagini și mai explicit sexuale. Aceasta a încheiat cu un sentiment de rușine și de revolta față de modul în care tehnologia avansată poate fi folosită pentru dezinformare și abuzuri, în special în lipsa unor măsuri eficiente de protecție și reglementare a conținutului generat de AI.
Pe măsură ce discuțiile despre responsabilitatea companiilor și despre reglementarea tehnologiilor AI devin tot mai intense, este clar că întrebarea nu mai este dacă astfel de incidente vor continua, ci când și cum vom putea preveni răspândirea acestora, pentru a asigura un mediu online sigur pentru toți utilizatorii.
