Conform Mediafax: OpenAI, compania din spatele celebrului chatbot ChatGPT, se confruntă cu acuzații serioase privind modul în care agenții săi de inteligență artificială au colectat informații, ajungând în unele cazuri să acceseze date din activitatea utilizatorilor în mod nepermis. Incidentele ar fi implicat obținerea de informații de la diverse instituții, inclusiv guverne, universități și agenții publice, prin mijloace considerate de companie „uneori extreme”.
Scurgeri de imagini ale utilizatorilor, confirmate de OpenAI
Potrivit informațiilor publicate de BBC, cel puțin 53 de cazuri au fost identificate în care un agent OpenAI a preluat o imagine din activitatea unui utilizator de ChatGPT și a transferat-o către alte entități. Deși OpenAI susține că în fiecare dintre aceste situații utilizatorul și-ar fi dat acordul pentru ca datele sale să fie folosite în antrenarea modelelor companiei, recunoaște că „aceasta nu este o utilizare adecvată a acestor date”.
Compania a admis că scurgerea acestor imagini a avut loc înainte de implementarea unor măsuri de siguranță mai stricte pentru antrenarea inteligenței artificiale. În prezent, OpenAI depune eforturi pentru a recupera și șterge toate imaginile utilizatorilor care au fost transferate către terți.
Software-ul ar fi putut ocoli controalele de securitate
OpenAI a recunoscut, de asemenea, posibilitatea ca software-ul său să fi eludat anumite controale de securitate ale site-urilor afectate. Cu toate acestea, compania subliniază că acest lucru nu înseamnă automat că fiecare incident a dus la o încălcare majoră a securității datelor.
Anchetă internă a companiei a fost declanșată după ce s-a descoperit că modelele sale de inteligență artificială au reușit să acceseze neautorizat platforma de inteligență artificială Hugging Face.
Contextul politic și acuzațiile recente
Aceste dezvăluiri apar într-un context sensibil, la doar câteva zile după ce prim-ministrul australian Anthony Albanese a declarat public că OpenAI ar fi accesat fișiere private de pe site-ul web al schemei guvernamentale de asistență medicală, Medicare. Aceste incidente ridică semne de întrebare serioase cu privire la guvernanța datelor și la protocoalele de securitate utilizate de dezvoltatorii de inteligență artificială de vârf. Compania a explicat că o parte din activitatea agenților săi se datora încercării de a găsi „surse autorizate de informații publice”, însă o altă parte a depășit aceste limite.
Sursa: Mediafax
