Conform Mediafax: Compania de inteligență artificială ANTHROPIC propune la nivel global un cadru legal menit să permită guvernelor să intervină pe piață și să blocheze lansarea unor modele de inteligență artificială considerate a prezenta riscuri catastrofale. Demersul vine în contextul în care tehnologia avansează rapid, iar potențialul de impact negativ crește exponențial, subliniind necesitatea unei reglementări mai stricte.
Riscuri majore din cauza AI avansate
ANHTROPIC identifică patru domenii principale unde modelele AI de ultimă generație pot genera riscuri semnificative. Acestea includ dezvoltarea necontrolată a armelor biologice, posibilitatea unor atacuri cibernetice de amploare, pierderea controlului asupra propriilor sisteme AI și accelerarea cercetării în domeniu, ceea ce ar putea amplifica rapid celelalte pericole.
Compania consideră că măsurile actuale de transparență nu mai sunt suficiente pentru a gestiona aceste noi provocări. Soluția propusă vizează un cadru de reglementare aplicabil exclusiv modelelor AI cele mai avansate. Acestea sunt definite prin criterii financiare stricte: companii cu venituri anuale de peste 500 de milioane de dolari din activități AI sau cu investiții de peste un miliard de dolari în cercetare și dezvoltare în acest domeniu.
Printre măsurile specifice incluse în propunerea ANHTROPIC se numără obligativitatea testării riguroase a modelelor înainte de orice lansare. De asemenea, se impune publicarea transparentă a rezultatelor evaluărilor de siguranță, efectuarea unor audituri independente și implementarea unor programe de securitate cibernetică robuste. Aceste măsuri vizează protejarea atât a modelelor AI, cât și a infrastructurii considerate critică pentru antrenarea acestora. Compania recomandă chiar introducerea unor sancțiuni civile substanțiale, raportate la veniturile globale ale firmelor care nu respectă aceste noi reguli. Totodată, autorităților le-ar fi acordate competențe clare pentru a putea împiedica implementarea modelelor considerate periculoase.
Socio-reziliență contra riscurilor AI
Pe lângă reglementarea strictă a dezvoltării tehnologiei, ANHTROPIC subliniază și importanța creșterii rezilienței societății în fața riscurilor inerente inteligenței artificiale. În domeniul biologic, propunerile includ consolidarea supravegherii epidemiologice, o măsură menită să detecteze și să răspundă rapid la potențiale amenințări. Verificarea minuțioasă a comenzilor pentru sinteza genelor este, de asemenea, o componentă esențială.
În plan cibernetic, compania recomandă modernizarea infrastructurilor informatice critice și crearea unor mecanisme guvernamentale dedicate monitorizării capacităților cibernetice ale sistemelor AI de ultimă generație. Această monitorizare ar trebui să fie proactivă, anticipând potențiale vulnerabilități. ANHTROPIC anticipează că progresele în domeniul inteligenței artificiale vor continua într-un ritm alert în lunile următoare. Din acest motiv, compania face un apel către factorii de decizie la nivel internațional să inițieze dezbaterile și să înceapă elaborarea cadrului de reglementare necesar, înainte ca noile generații de modele să devină și mai puternice și, implicit, mai greu de controlat.
Factorii de decizie din lumea întreagă au fost invitați de ANHTROPIC să înceapă deliberările privind reglementarea modelelor AI avansate.
Sursa: Mediafax
