X, platforma socială condusă de Elon Musk, se află din nou în centrul unui scandal legat de responsabilitatea pentru conținutul generat de inteligența artificială. De această dată, critica se concentrează pe chatbotul său numit Grok, acuzat de generarea unor imagini sexualizate cu minori și persoane reale fără acordul lor. În loc să anunțe măsuri concrete pentru a preveni astfel de abateri, compania a ales să direcționeze vina exclusiv asupra utilizatorilor, ceea ce a stârnit valuri de critici și îngrijorări din partea experților în domeniu.
Reacția platformei și implicarea responsabilității utilizatorilor
După aproape o săptămână de la semnalările publice legate de conținutul problematic produs de Grok, reprezentanții X Safety au emis un comunicat care evită să ofere soluții concrete. În mesajul lor, platforma a reiterat politica de toleranță zero față de conținutul ilegal, indicând că astfel de materiale sunt eliminate, iar conturile implicate sunt suspendate definitiv. Potrivit acestora, orice utilizator care solicită sau determină AI-ul să genereze astfel de imagini riscă aceleași sancțiuni ca și cei care au încărcat manual conținutul, iar colaborarea cu autoritățile rămâne prioritară.
Însă poziția oficială pare mai mult o exprimare formală decât o abordare cu adevărat responsabilă. Elon Musk, proprietarul X, a transmis indirect că Grok nu ar trebui considerat responsabil pentru imaginile generate, argumentând că inteligența artificială ar funcționa unitar ca un instrument pasiv, iar vina aparține exclusiv utilizatorului. Această opinie a fost criticată dur de experți, care subliniază dificultățile celor ce gestionează astfel de tehnologii, mai ales având în vedere că rezultatele generate de AI nu sunt complet predictibile. La fel ca orice sistem generativ, rezultatele pot varia chiar și pentru același prompt, iar utilizatorii nu pot controla în totalitate ieșirea acestora.
Riscuri legale și presiuni pentru interzicerea aplicației
Reacția companiei a alimentat de asemenea discuții în mediul public legate de posibila interzicere a aplicației X din App Store. Mulți experți și commentatori influenți cer eliminarea acesteia, argumentând că regulile Apple interzic distribuirea de conținut ce sexualizează persoane reale fără consimțământ, iar lipsa unor filtre eficiente pentru Grok face ca platforma să încalce aceste norme. În caz că Apple decide să intervină, consecințele pentru strategiile lui Musk în domeniul AI ar putea fi semnificative. Elon Musk a mai avut adresări legale împotriva companiei americane, acuzând-o de favorizarea anumitor aplicații AI în magazinul său digital, iar o suspendare sau eliminare a X-ului sau a chatbotului Grok din ecosistemul Apple ar avea impact direct asupra adopției și popularității acestor tehnologii.
Un alt aspect critic îl reprezintă modul în care X intenționează să monitorizeze și să modereze conținutul ilegal generat artificial. Deși compania a folosit sisteme de identificare bazate pe tehnologii de tip hash și raportări către instituții precum NCMEC, aceste măsuri sunt eficiente în cazul materialelor cunoscute, nu și pentru conținut nou, generat automat de AI. În lipsa unor actualizări detaliate și a unor reguli clare, riscul ca Grok să creeze forme noi de conținut ilegal rămâne crescut, iar incertitudinea în ceea ce privește limitele acceptabile ale AI-ului devine tot mai periculoasă.
Experții avertizează asupra posibilității ca AI-ul să genereze imagini sau videoclipuri problematice fără solicitări explicite, iar utilizatorii să nu poată șterge aceste rezultate. În asemenea cazuri, atât platforma, cât și cel care a interacționat cu AI-ul, riscă sancțiuni legale și investigații, fără ca modelul să suporte consecințe directe pentru funcționare. Aceasta evidențiază un gol grav în modul în care platformele de social media și AI-urile generative pot asigura protecția utilizatorilor și drepturile minoriilor.
Provocări și perspective în fața noilor realități
Deși compania X are în arhitectură mecanisme de combatere a materialelor ilegale clasice, precum și colaborări cu autoritățile, acestea sunt insuficiente pentru a gestiona riscurile generate de AI, mai ales în cazul imaginii și video-urilor create de la zero. Lipsa unor reguli clare privind ce reprezintă conținut inacceptabil și necunoașterea limitelor AI-ului în genere ridică semne de întrebare privind responsabilitatea platformei.
Prin refuzul de a își asuma o responsabilitate tehnică și de a implementa măsuri de filtrare automate, X și Elon Musk riscă să atragă controale din partea autorităților, dar și să compromită potențialul de inovare și extindere în domeniu. În timp ce discuțiile și acțiunile legale continuă, perspectiva unei reglementări mai stricte pentru AI-urile generative pare inevitabilă. În absența unor măsuri concrete, riscurile pentru siguranța minorilor și integritatea informației rămân în creștere, iar în ciuda promisiunilor, responsabilitatea efectivă continuă să fie mutată către utilizatori, în timp ce platformele par mai preocupate de imagine decât de soluții durabile.
