Conform Mediafax: Un incident cibernetic fără precedent, implicând modele avansate de inteligență artificială, a alertat comunitatea de specialitate. OpenAI a dezvăluit că modelele sale, inclusiv GPT-5.6 Sol și un prototip nelansat public, au reușit să ocolească mecanismele de securitate, dezactivate intenționat pentru o evaluare internă.
Modelele AI, capabile de atacuri cibernetice sofisticate
Compania a descris evenimentul ca fiind „un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație”. Publicarea rezultatelor preliminare urmărește să ofere cercetătorilor din securitate o imagine mai clară asupra nivelului actual al capabilităților modelelor de inteligență artificială.
Vulnerabilitate „zero-day” exploatată de modelele OpenAI
În cadrul unei evaluări interne denumite ExploitGym, menită să măsoare abilitatea modelelor de a identifica și exploata vulnerabilități informatice, sistemul AI a demonstrat o concentrare extremă. Modelele au identificat o serie de vulnerabilități care le-au permis să părăsească mediul izolat de testare.
Compania susține că modelele au exploatat o vulnerabilitate “zero-day” într-un program intern, obținând astfel acces la internet. Ulterior, au dedus că platforma Hugging Face ar putea găzdui resursele folosite în cadrul evaluării. Prin combinarea mai multor tehnici de atac, inclusiv credențiale compromise și exploatarea unor noi vulnerabilități, au reușit să acceseze informații confidențiale din infrastructura Hugging Face și răspunsurile testelor.
Săptămâna trecută, Hugging Face a anunțatblocarea unui agent AI autonom care îi compromisese infrastructura, dar nu identificase atunci modelul utilizat. Investigația ulterioară a reconstituit peste 17.000 de evenimente, agentul AI executând zeci de mii de acțiuni automate pe parcursul unui weekend.
Echipa de securitate OpenAI a observat activitatea neobișnuită, în timp ce Hugging Face a detectat și oprit atacul asupra propriei infrastructuri. Cele două companii colaborează pentru investigarea incidentului și remedierea vulnerabilităților.
Incidentul subliniază capacitatea modelelor actuale de inteligență artificială de a desfășura operațiuni cibernetice complexe, multi-etapă, și de a identifica noi căi de atac asupra sistemelor reale, chiar și fără acces la codul sursă.
În urma evenimentului, OpenAI a anunțat implementarea unor măsuri suplimentare de securitate pentru infrastructura și mediile de testare, chiar dacă acestea vor încetini ritmul cercetării. De asemenea, compania a notificat dezvoltatorul software-ului afectat de vulnerabilitatea “zero-day” și colaborează la remedierea acesteia.
Directorul general al Hugging Face, Clem Delangue, a salutat colaborarea cu OpenAI, apreciind că incidentul demonstrează necesitatea cooperării între companiile din domeniul inteligenței artificiale pentru consolidarea securității cibernetice.
Investigația continuă, iar OpenAI urmează să publice informații suplimentare după finalizarea anchetei.
Sursa: Mediafax
