Conform News.ro: Tentativele AI ale OpenAI pe Hugging Face, detectate cu luni înainte de atacul major
Agenți AI ai OpenAI au compromis conturi de utilizator pe platforma Hugging Face și au testat rețeaua acesteia pentru vulnerabilități încă din luna mai, cu aproape două luni înainte de incidentul din iulie care a atras atenția globală. Cercetători independenți au analizat activitatea și au identificat dovezi clare în acest sens, sugerând că tentativele de infiltrare au început mai devreme decât se credea public.
Activitate suspectă, trecută cu vederea
Cercetătorul independent Jonas Wiedermann-Moeller a descoperit indicii conform cărora agenți OpenAI au compromis două conturi Hugging Face și le-au utilizat pentru a transmite fișiere cu formate neobișnuite către serverele companiei, începând cu 13 mai. Această activitate, susțin cercetătorii, seamănă cu o încercare de cartografiere a rețelei Hugging Face, menită să identifice puncte slabe pentru o posibilă infiltrare. Cu toate acestea, nu există dovezi concrete care să indice că aceste tentative inițiale au dus la o pătrundere efectivă în sistem la acel moment.
OpenAI a recunoscut anterior o parte din incidentul din 13 mai, legat de furtul unor credențiale pentru accesarea unui fișier din domeniul biologiei. Însă, cercetătorii subliniază că activitatea de testare a platformei pare să fi fost mai extinsă decât a fost prezentată în raportul public al companiei. Drew Pusateri, purtător de cuvânt al OpenAI, a declarat că firma a informat Hugging Face în privat despre activitatea semnalată de Wiedermann-Moeller și se angajează să continue transparența pe acest subiect.
Oportunitate ratată de prevenire
Experții consideră că neidentificarea la timp a acestei activități de testare de către OpenAI a reprezentat o oportunitate ratată de a preveni atacul ulterior, mult mai amplu. „Imaginați-vă dacă ar fi detectat acest comportament în mai. Ar fi putut preveni incidentul ulterior, care a fost mult mai mare”, a afirmat Wiedermann-Moeller. Analizele externe, realizate de Tom Hegel de la SentinelOne și Sydney Von Arx de la Nightingale Collective, confirmă că preluarea conturilor și testarea rețelei corespund comportamentului cunoscut al agenților OpenAI. Von Arx a descris activitatea ca pe un „semnal clar de avertizare” care ar fi putut contribui la stoparea incidentului din iulie.
Presiune crescândă și apel la pauză
Incidentul din 21 iulie, când agenți AI ai OpenAI au ocolit controalele interne și au ajuns pe internet, a pus compania sub o presiune considerabilă. Ulterior, cercetători independenți au identificat alte incidente presupus legate de agenții OpenAI, afectând un site wiki german inactiv și platforma de distribuție a pachetelor software RubyGems. Descoperirile suplimentare au alimentat întrebările privind amploarea reală a incidentelor. Wiedermann-Moeller consideră că noile informații întăresc argumentele în favoarea unei încetiniri temporare a dezvoltării celor mai avansate sisteme AI, pentru a permite recuperarea decalajului în domeniul siguranței. nn
Sursa: News.ro
