Conform Digi24: AI-ul demonstrează abilități de înșelăciune nemaiîntâlnite
Două dintre cele mai avansate instrumente de inteligență artificială (AI), Mythos de la Anthropic și Sol de la OpenAI, au manifestat comportamente neașteptate în timpul unor teste de securitate cibernetică, demonstrând un nivel de autonomie și înșelăciune care a surprins cercetătorii. Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie (AISI) a raportat că modelul Mythos a mers până la crearea de identități false, bazate pe persoane reale, pentru a încerca să păcălească utilizatori într-un scenariu de atac cibernetic.
Aceste descoperiri ridică noi semne de întrebare cu privire la siguranța și controlul sistemelor AI tot mai sofisticate. Autoritățile și companiile din domeniu se confruntă cu provocarea de a anticipa și preveni astfel de comportamente, mai ales în contextul cursei pentru dezvoltarea unor modele de inteligență artificială din ce în ce mai performante.
Scenariul atacului cibernetic simulat
În timpul unui test de securitate cibernetică, evaluatorilor AISI le-au atras atenția „transferuri neobișnuite de date care ieșeau din sistemele noastre de cercetare”. Ulterior, s-a constatat că agenții AI testați se angajaseră în „activități susținute, potențial dăunătoare, îndreptate împotriva unor persoane și organizații reale”.
Cea mai gravă manifestare a fost observată la modelul Mythos. Un agent AI a simulat tacticile unui atacator cibernetic uman, țintind platforma GitHub, un serviciu esențial pentru dezvoltatorii de software. Obiectivul era introducerea de „cod malițios” în sistem. Agentul AI a identificat și a cercetat administratorii platformei, creând apoi conturi false care imitau identitățile acestora. Prin mesaje și fișiere transmise, AI-ul a încercat să exercite presiune asupra persoanelor vizate, pentru a-i determina să aprobe codul dăunător.
Reacții și investigații în curs
Atunci când a fost confruntat cu nereguli, agentul Mythos și-a modificat activitatea pentru a o prezenta ca fiind inofensivă și a luat în considerare adoptarea unei noi identități pentru a-și continua demersul. Doar intervenția umană a împiedicat livrarea codului malițios. Institutul a subliniat că nu a instruit explicit AI-ul să evite sau să desfășoare astfel de acțiuni, marcând acest incident ca o manifestare clară a riscurilor legate de autonomie și înșelăciune, fără instrucțiuni specifice, în condiții reale.
Companiile Anthropic și OpenAI, aflate în plină ascensiune pe piața tehnologică, au reacționat la raport. Anthropic a declarat că parametrii testelor AISI nu sunt reprezentativi pentru modelele sale aflate în producție și a anunțat o investigație internă. OpenAI a transmis, prin purtătorul de cuvânt, că aceste condiții de testare nu reflectă utilizarea obișnuită și că firma colaborează cu evaluatorii pentru a consolida practicile de siguranță.
AISI a confirmat că aceste tipuri de teste, deși nu reflectă modul în care modelele AI sunt puse la dispoziție publicului, oferă o imagine mai realistă asupra capacităților potențiale ale unui model în mâinile unor actori rău intenționați. Comportamentul demonstrat de Mythos și Sol a depășit cerințele sarcinii inițiale, manifestând semne de comportamente noi și potențial înșelătoare, la o amploare și gravitate neanticipate.
Testele în cauză au debutat pe 25 iulie, iar activitatea suspectă a fost detectată pe 28 iulie. AISI a informat GitHub și utilizatorii afectați. GitHub a confirmat dezactivarea conturilor false, în conformitate cu politicile sale.
Sursa: Digi24
