Conform Mediafax: Dezbaterea privind riscurile potențiale ale inteligenței artificiale (AI) a luat amploare semnificativă, după ce cercetători din domeniu au avertizat asupra unor scenarii care ar putea amenința existența umană. Unii experți estimează că există un risc de peste 10% de extincție umană în următorul deceniu, iar directorii unor companii de top din acest sector cer încetinirea ritmului de dezvoltare a sistemelor AI de vârf.
Amenințări existențiale și riscuri imediate
Scenariile care alimentează temerile legate de amenințări existențiale porniesc, în general, de la premisa că sistemele AI viitoare ar putea depăși cu mult capacitățile umane și că obiectivele lor ar putea fi dezaliniate de interesele omenirii. Un exemplu clasic implică o superinteligență care urmărește un scop aparent inofensiv, dar o face într-un mod ce intră în conflict direct cu supraviețuirea umană. Există, de asemenea, temeri legate de utilizarea sistemelor avansate pentru crearea de arme biologice sau pentru alte acțiuni cu potențial catastrofal. Cu toate acestea, unii analiști, precum Michael Vermeer de la RAND, susțin că multe dintre aceste predicții se bazează pe numeroase presupuneri neverificabile, transformând discuția într-una mai degrabă bazată pe credință decât pe dovezi empirice.
Pe lângă riscurile existențiale pe termen lung, cercetătorii avertizează asupra unor pericole mai concrete și mai imediate. Acestea includ dezinformarea la scară largă, atacurile cibernetice sofisticate, facilitarea dezvoltării de arme biologice, erorile critice în funcționarea sistemelor esențiale și utilizarea nesăbuită a modelelor AI în situații unde lipsa lor de fiabilitate poate genera consecințe grave.
Capabilități îngrijorătoare și măsuri de siguranță
Companiile mari din domeniul AI au început să publice propriile evaluări ale riscurilor asociate cu modelele pe care le dezvoltă. Anthropic a raportat că modelele sale pot executa sarcini complexe în domenii precum informațiile militare și dezvoltarea de arme convenționale, domenii care anterior necesitau experți umani calificați. Aceste rezultate subliniază, conform companiei, necesitatea unor sisteme de protecție suplimentare. Similar, OpenAI a evaluat modelul GPT-6 Astra, constatând că a atins un nivel „critic” în ceea ce privește capacitățile de securitate cibernetică, putând identifica vulnerabilități necunoscute și elabora metode de exploatare a sistemelor securizate. Aceste constatări au determinat compania să implementeze măsuri sporite de monitorizare și izolare.
Aceste capacități au determinat directorii companiilor precum Anthropic și OpenAI să solicite o încetinire controlată a dezvoltării. Dario Amodei, CEO-ul Anthropic, pledează pentru o cadențare a progresului, astfel încât măsurile de siguranță să poată ține pasul cu avansul tehnologic. Compania a anunțat chiar un program de colaborare cu evaluatori independenți, precum Accenture, pentru a verifica practicile de securitate, cu o investiție estimată la peste un miliard de dolari în următorii cinci ani. OpenAI susține, de asemenea, necesitatea unor standarde internaționale pentru evaluarea riscurilor și pentru stabilirea unor condiții clare în care dezvoltarea sistemelor avansate ar trebui limitată sau chiar oprită.
Există însă și opinii divergente în industrie și în sfera politică. În timp ce unii politicieni, precum fostul președinte american Donald Trump, s-au opus public solicitărilor de încetinire a dezvoltării AI, alții, precum senatorul Bernie Sanders și congresmanul Greg Casar, au propus legislație pentru interzicerea dezvoltării „superinteligenței artificiale” și pentru instituirea unei pauze temporare în dezvoltarea sistemelor avansate. Lipsa unui cadru global unitar pentru reglementarea AI, accentuată de competiția tehnologică dintre SUA și China, complică eforturile de coordonare internațională.
Ceea ce este cert este că modelele AI devin tot mai capabile în domenii precum programarea, cercetarea și securitatea cibernetică, accelerând chiar și procesul de dezvoltare al generațiilor viitoare de sisteme. Cercetătorii se concentrează acum pe modul în care pot fi măsurate și controlate aceste riscuri înainte ca sistemele AI să devină mult mai puternice decât cele actuale.
Sursa: Mediafax
