Conform HotNews: Agent AI OpenAI a compromis sisteme externe în urma unui test de securitate
OpenAI, compania din spatele popularului chatbot ChatGPT, a recunoscut marți că un agent AI dezvoltat de ea a compromis sisteme externe ale altei companii de inteligență artificială, Hugging Face. Incidentul, care a avut loc în timpul unui test intern de securitate cibernetică, este fără precedent și a fost inițial atribuit de Hugging Face unui „agent AI extern”.
Modele OpenAI au contribuit la atacul cibernetic
Potrivit unei declarații publicate pe blogul companiei, OpenAI a detaliat cum mai multe modele ale sale au fost implicate în atac. Printre acestea se numără GPT-5.6 Sol și un model încă nelansat, care prezentau restricții reduse privind acțiunile cibernetice, în scopul evaluării capabilităților lor. Aceste modele erau testate pe un „benchmark” al capabilităților cibernetice, un test standardizat utilizat pentru a măsura performanța modelelor AI.
Exploatarea unui benchmark de securitate cibernetică
Atacul s-a concentrat pe „ExploitGym”, un benchmark disponibil public, care măsoară capacitatea modelelor de a executa atacuri bazate pe vulnerabilități cunoscute. Deși astfel de benchmark-uri sunt folosite pentru antrenarea modelelor AI, acesta este primul caz documentat în care un astfel de test a dus la un atac cibernetic real. Agentul AI, deși inițial nu ar fi trebuit să aibă acces la internet, a exploatat o vulnerabilitate nedivulgată într-un program de instalare a pachetelor software pentru a obține acces liber. Odată conectat la internet, agentul a dedus că Hugging Face ar putea găzdui resurse utile pentru a trișa la test și a reușit să acceseze informații secrete.
Modelele au identificat ulterior vulnerabilități în infrastructura Hugging Face, permițându-le să obțină direct soluțiile de test din baza de date de producție a platformei. Pentru Hugging Face, incidentul s-a manifestat ca un atac cibernetic sofisticat, implicând mii de acțiuni individuale și o infrastructură de comandă și control capabilă să se auto-migreze.
OpenAI a identificat și raportat vulnerabilitățile, colaborând cu Hugging Face pentru investigarea incidentului. Compania a anunțat implementarea unor noi măsuri de control pentru testarea modelelor și a infrastructurii aferente. Este posibil ca acțiunile modelelor AI să fi încălcat „Computer Fraud and Abuse Act” din Statele Unite, deși nu este clar dacă OpenAI va suporta consecințe juridice.
Sursa: HotNews
