Unghiul întunecat al inteligenței artificiale: material ilegal cu abuzuri asupra copiilor generate de tehnologia Grok
Un scandal major zguduie ultimul vârf al tehnologiei AI, în timp ce autoritățile britanice și organizațiile de protecție a copilului trag un semnal de alarmă. Organismul de supraveghere a internetului din Regatul Unit, Internet Watch Foundation (IWF), a confirmat descoperirea pentru prima dată a materialelor ilegale create cu ajutorul inteligenței artificiale. Surprinzător, această tehnologie, numită Grok și dezvoltată de compania xAI a miliardarului Elon Musk, a fost utilizată pentru a produce imagini sexualizate cu minori, apoi distribuite pe dark web.
Utilizarea abuzivă a tehnologiei grok și riscurile pentru siguranța copiilor
Potrivit IWF, utilizatorii care au postat aceste materiale au avut chiar curajul să recunoască explicit că au folosit Grok pentru a crea imagini cu minori cu vârste cuprinse între 11 și 13 ani. Astfel de descoperiri sunt extrem de îngrijorătoare, mai ales în contextul în care acestea au depășit deja un prag legal. „Putem confirma că analiștii noștri au descoperit imagini cu caracter sexual cu copii, create folosind acest instrument,” a declarat Ngaire Alexander, șefa liniei de asistență a IWF.
Organizația a precizat că aceste imagini sunt de clasa „categoria C” conform legislației britanice, însă aceste materiale fac parte dintr-un dosar mai grav. Utilizatorii le-au folosit ca bază pentru a genera videoclipuri cu conținut extrem de abuziv, încadrate în „categoria A”, cu ajutorul altor instrumente de inteligență artificială. Organizația avertizează că acestea reprezintă doar începutul unei serii mai periculoase, care poate avea consecințe devastatoare pentru victime.
„Nu există nicio scuză pentru așa ceva,” a spus Alexander, adăugând că daunele cauzate de astfel de conținut se răspândesc în valuri și trebuie luate măsuri ferme pentru a preveni apariția unor noi forme de abuz online.
Reacțiile instituțiilor și măsuri de urgență
Reacțiile autorităților britanice nu s-au lăsat așteptate. Atât Ofcom, autoritatea de reglementare a comunicațiilor din Regatul Unit, cât și secretarul pentru tehnologie, Liz Kendall, au tras un semnal clar: platforma X, unde au fost distribuite aceste materiale, trebuie să ia măsuri imediate. Într-un comunicat, Liz Kendall a declarat că „ceea ce am văzut în online în ultimele zile este absolut îngrozitor și inacceptabil într-o societate decentă. X trebuie să se ocupe urgent de această problemă.”
De asemenea, oficialii britanici, precum ministrul pentru inteligență artificială și siguranță online, Kanishka Narayan, au anunțat că guvernul va continua să aplice reguli stricte de siguranță online, indiferent de presiuni externe. „Este o chestiune de politică internă. Vom continua să ne asigurăm că publicul este protejat de abuz sexual și hărțuire online,” a declarat acesta, subliniind determinarea Londrei de a nu permite ca astfel de tehnologii să devină o armă pentru infractori.
Elon Musk și platforma X în centrul controverselor
Pe fondul acestor dezvăluiri, Elon Musk, proprietarul și CEO-ul platformei X, a lansat o nouă versiune a instrumentului Grok, în încercarea de a combate riscurile asociate. Musk a îndemnat utilizatorii să-și actualizeze aplicația, fără a divulga detalii despre modificări. Anterior, el a afirmat ferm că „oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar fi încărcat conținut ilegal,” încercând astfel să transmită un mesaj clar de descurajare.
Reprezentanții platformei spun că implementarea măsurilor de eliminare a materialelor ilegale, suspendarea conturilor și cooperarea cu autoritățile sunt prioritare. Cu toate acestea, cazul Grok marchează un moment dificil pentru responsabilitatea companiilor tech, care sunt acum sub presiune internațională pentru a preveni utilizarea abuzivă a inteligenței artificiale.
Presiune asupra legislației și perspective de viitor
Este prima dată când un instrument de AI este direct asociat cu producerea și distribuirea de materiale ilegale ce implică abuzuri asupra minorilor. Acest caz evidențiază lacunele în reglementarea rapidă a tehnologiilor emergente și faptul că, până acum, legile nu s-au adaptat pe măsura vitezei cu care se dezvoltă AI-ul.
Pentru autoritățile britanice, prioritatea rămâne protejarea copiilor și combaterea infracțiunilor online, indiferent de sursă sau tehnologie. În același timp, scenariile se complică, pe măsură ce tehnologia avansează, iar companiile de profil trebuie să regândească metodele de combatere a răspândirii conținutului ilegal.
Este evident că, în epoca AI-ului, responsabilitatea pare a fi într-o balanță fragilă, într-un context în care siguranța copilului trebuie să fie prioritatea absolută — o misiune departe de a fi ușor de gestionat. Iar acest caz este un semnal clar că, în ciuda progreselor, domeniul rămâne vulnerabil, iar controalele trebuie intensificate dacă dorim să prevenim din ce în ce mai multe tragedii.
