X introduce restricții stricte pentru instrumentul de inteligență artificială Grok, în contextul controversei globale privind generarea de imagini sexualizate
Platforma X, cunoscută anterior drept Twitter, a anunțat recent implementarea unor măsuri tehnice menite să limiteze abuzurile în utilizarea instrumentului de inteligență artificială Grok, pe fondul unor critici internaționale despre riscurile generate de această tehnologie. Decizia vine într-un moment în care lideri mondiali și organizații pentru protecția drepturilor omului trag semnale de alarmă cu privire la utilizarea și manipularea în scopuri ilegale sau imorale a inteligenței artificiale, în special în domeniul imaginilor cu conținut explicit.
Interdicție pentru generarea de imagini cu persoane reale în costume indecente
În noul său comunicat, X anunță că utilizatorii, inclusiv abonații plătitori, nu vor mai putea folosi Grok pentru a edita sau genera imagini cu indivizi reali în haine revelatoare, precum bikini sau alte articole de îmbrăcăminte sexualizată. Aceasta reprezintă o măsură de protecție, menită să împiedice crearea de conținut explicit sau exploatator.
„Am implementat măsuri tehnologice pentru a împiedica contul Grok să permită editarea imaginilor cu persoane reale în haine revelatoare, cum ar fi bikini. Această restricție se aplică tuturor utilizatorilor, inclusiv abonaților plătitori”, se specifyază în comunicatul postat pe platformă, care subliniază importanța protejării și respectării legilor în vigoare în diverse jurisdicții. În plus, platforma precizează că, în cazul activării setărilor NSFW (nesigur pentru muncă), Grok va putea procesa doar imagini în care nuditatea se limitează la partea superioară a corpului, în limitele permisive din filmele cu rating R, adaptate diverselor legislații naționale.
Măsuri de responsabilizare în contextul controversei globale
Măsura vine ca răspuns la o serie de critici din partea comunității internaționale, care acuză tehnologia de riscuri grave, precum răspândirea de deepfake-uri cu conținut sexual, inclusiv imagini cu minori sau persoane fără consimțământul acestora. În ultimele zile, autoritățile din mai multe țări s-au poziționat ferm împotriva acestor abuzuri, iar unele primării sau guverne au decis interzicerea completă a utilizării anumitor instrumente de inteligență artificială.
Reprezentanții X susțin că modificările aduse sistemului Grok sunt „menite să adauge un nivel suplimentar de protecție” și să asigure responsabilitatea utilizatorilor. În ciuda acestor măsuri, platforma păstrează libertatea de a restricționa unele funcții în funcție de legislațiile locale, lăsând să se înțeleagă că, în alte regiuni, standardele pot varia.
Critici și reacții internaționale la funcția de editare a imaginilor
Deși platforma a fost susținută anterior de către fondatorii săi, inclusiv miliardarul Elon Musk, drept un avans tehnologic menit să stimuleze creativitatea, recent, opinia publică și oficialii din întreaga lume au acuzat caracterul periculos al acestei tehnologii. Criticile vizează în special funcția de editare a imaginilor, care permite crearea de fotografii și clipuri video extrem de realiste, dar fictive, cu potențial de răspândire a dezinformării sau conținutului ofensiv.
După ce Malaysia și Indonezia au interzis utilizarea Grok, pe fondul unor acuzații conform cărora instrumentul a fost folosit pentru a crea imagini explicite fără consimțământ, alte state și-au exprimat îngrijorarea cu privire la riscurile de securitate și etică aduse de această tehnologie. În plus, criticile apar și din partea unor reprezentanți ai sectorului de apărare sau drepturilor omului, care avertizează asupra posibilității ca astfel de instrumente să fie folosite pentru manipulare, șantaj sau exploatare.
Viitorul instrumentului Grok va depinde mult de modul în care platformele și autoritățile vor reuși să echilibreze libertatea de exprimare cu protecția cetățenilor și respectarea normelor legale. În timp ce Elon Musk și echipa sa susțin că măsurile sunt suficiente pentru a preveni abuzurile, numărul de îngrijorări și reglementări adoptate de diferite state sugerează că discuția despre responsabilitatea în utilizarea inteligenței artificiale abia începe.
