Tehnologia Grok, controversată pentru modificările neautorizate ale imaginilor femeilor
O femeie a declarat pentru BBC că s-a simțit „dezumanizată și redusă la un stereotip sexual” după ce tehnologia de inteligență artificială Grok, dezvoltată de XAI, a fost utilizată pentru a-i modifica digital imaginea, eliminându-i hainele. Acest incident a subliniat problemele crescânde legate de consimțământul feminin în era digitală, în care utilizatorii solicită chatbot-ului să transforme imagini, rezultând reprezentări inadecvate și fără acordul persoanelor implicate.
Samantha Smith, victima acestei alterații, a postat pe platforma socială X despre experiența sa, primind un val de răspunsuri de la alte persoane care au trecut prin situații similare. „Femeile nu consimt la asta”, a spus ea. „Chiar dacă nu eram eu în ipostaze indecente, arăta ca mine și s-a simțit ca mine. A fost o violare la fel de gravă ca și cum cineva ar fi publicat o fotografie nud sau în bikini a mea.”
Reacția autorităților
În urma acestor evenimente, un purtător de cuvânt al Ministerului de Interne britanic a anunțat că se lucrează la o lege care să interzică instrumentele de nudificare, prevăzând pedepse cu închisoarea și amenzi substanțiale pentru cei care oferă astfel de tehnologii. Aceasta ar putea fi o schimbare semnificativă în combaterea abuzurilor online și a utilizării necorespunzătoare a tehnologiei de inteligență artificială.
Regulatorul britanic Ofcom a emis un comunicat în care subliniază că firmele de tehnologie trebuie să „evalueze riscurile” ca utilizatorii din Regatul Unit să fie expuși la conținut ilegal, însă nu a confirmat dacă investighează în prezent X sau Grok. Aceste declarații sugerează o atenție crescută asupra cum procedează platformele online cu privire la conținutul generat de utilizatori.
Critici la adresa platformelor de socializare
Grok, un asistent AI gratuit, a fost adesea folosit pentru a oferi reacții sau contexte suplimentare la postările utilizatorilor. Cu toate acestea, capacitatea sa de a edita imagini a adus critici în legătură cu generarea de conținut sexualizat. De altfel, platforma a fost acuzată anterior că a creat clipuri video cu conținut explicit, inclusiv un incident controversat legat de celebra cântăreață Taylor Swift.
Clare McGlynn, profesor de drept la Universitatea Durham, a declarat că atât X, cât și Grok „ar putea preveni aceste forme de abuz dacă ar dori”, adăugând că platformele „apar că se bucură de impunitate”. „De luni de zile, acestea permit crearea și distribuirea acestor imagini fără să ia vreo măsură, iar reglementatorii nu au răspuns”, a spus McGlynn.
În ciuda politicii de utilizare acceptabilă a XAI, care interzice „reprezentarea persoanelor în mod pornografic”, realitatea este că utilizatorii continuă să abuzeze de aceste sisteme. Ofcom a confirmat ilegalitatea „creării sau distribuirii imaginilor intime non-consensuale sau a materialelor de abuz sexual asupra copiilor”, inclusiv a deepfake-urilor sexuale generate cu AI.
Un viitor incert se conturează pentru aceste platforme, care se confruntă cu o presiune crescândă de a adresa problemele legate de abuzul tehnologic și de a proteja utilizatorii, în special femeile, care sunt adesea ținti ale unor astfel de acte. Găsirea unui echilibru între libertatea de exprimare și protecția drepturilor individuale este esențială, iar modul în care aceste companii răspund va determina direcția în care se va deplasa discuția despre etica utilizării AI în societatea contemporană.
