Conform HotNews: Titanul inteligenței artificiale Anthropic, companie evaluată la aproape un trilion de dolari, face un apel la marile laboratoare din domeniu să ia în considerare o pauză coordonată și verificabilă în dezvoltarea tehnologiei. Reprezentanții companiei avertizează că ritmul alert al progreselor în inteligența artificială ar putea permite sistemelor AI să se îmbunătățească singure într-un ritm greu de gestionat.
Progresele AI depășesc pregătirea societății
Anthropic, creatorul modelului AI Claude, subliniază că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom s-a dublat, în medie, la fiecare patru luni. Această evoluție rapidă ridică semne de întrebare cu privire la direcția în care se îndreaptă tehnologia. Unul dintre scenariile avansate este cel al „autoîmbunătățirii recursive”, un punct în care tehnologia ar putea ajunge să se perfecționeze singură, fără intervenție umană.
„Dacă sistemele sunt capabile să își construiască integral proprii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, au declarat reprezentanții Anthropic într-un mesaj publicat pe blogul companiei. Startup-ul californian consideră că o pauză ar oferi societății timpul necesar pentru a gestiona implicațiile vaste ale acestei tehnologii.
Jack Clark, cofondator al Anthropic, și Marina Favaro, directoarea Anthropic Institute, au precizat că situația actuală nu este una inevitabilă, însă autoîmbunătățirea recursivă ar putea apărea mai repede decât sunt pregătite majoritatea instituțiilor să gestioneze acest scenariu. Compania Anthropic, fondată în 2021 de foști angajați ai OpenAI, pionierii ChatGPT, a fost creată pe fondul îngrijorărilor privind siguranța dezvoltării inteligenței artificiale.
Lupta pentru inovație și riscurile asumate
Ascensiunea rapidă a Anthropic în ultimul an a poziționat compania în proximitatea valorii OpenAI, iar în aprilie, unele estimări o plasau chiar în fața rivalului său. Deși chatbotul Claude nu se bucură de popularitatea ChatGPT, Anthropic a câștigat încrederea investitorilor și analiștilor prin instrumentele AI destinate mediului de afaceri și dezvoltatorilor software, precum și prin modelele din ce în ce mai performante.
Îngrijorările legate de pierderea controlului uman asupra sistemelor AI avansate au crescut odată cu noile capacități ale tehnologiei. Modelul Mythos dezvoltat de Anthropic, capabil să identifice vulnerabilități în codul software, a generat preocupări în sectoare precum cel bancar și cel IT. Anthropic a decis să nu lanseze public acest model, limitând accesul la un număr restrâns de companii pentru analiză.
Eforturile de reglementare a inteligenței artificiale au avansat lent, în special în Statele Unite, unde se concentrează majoritatea laboratoarelor AI de vârf. Deși administrația DONALD Trump a solicitat laboratoarelor să supună voluntar cele mai avansate modele unor teste de securitate cibernetică, responsabilitatea siguranței rămâne în sarcina companiilor. Elon Musk a sprijinit anterior o inițiativă de suspendare a dezvoltării AI, dar ulterior și-a lansat propria companie în domeniu, xAI, ridicând semne de întrebare cu privire la intențiile sale.
Anthropic s-a poziționat constant ca un laborator AI axat pe siguranță, refuzând anterior să permită armatei americane utilizarea modelelor sale pentru supraveghere sau arme complet autonome. Cu toate acestea, compania a continuat să lanseze modele din ce în ce mai puternice, iar în februarie a renunțat parțial la angajamentul său privind siguranța, afirmând că nu va mai reține dezvoltarea unei inteligențe artificiale potențial periculoase dacă rivalii săi se apropie de nivelul său de performanță. Compania a fost recent evaluată la 965 de miliarde de dolari și a depus documentația confidențială pentru o ofertă publică inițială (IPO) în Statele Unite.
Apel la acțiune coordonată pentru gestionarea riscurilor
Într-o analiză publicată recent, Anthropic avertizează că încetinirile unilaterale sau slab coordonate în dezvoltarea AI ar putea avea efecte contrare, permițând actorilor mai puțin precauți să avanseze și să diminueze nivelul general de siguranță. Compania sugerează că o pauză semnificativă ar necesita un acord extins între mai multe laboratoare de top și stabilirea unor reguli clare privind condițiile de declanșare și încheiere a unei astfel de pauze, precum și mecanisme de supraveghere.
„O pauză unilaterală adoptată de un singur laborator… ar schimba cine este liderul cursei, însă nu ar crea procesul mai amplu de deliberare care lipsește în prezent”, susține startup-ul. Divizia de cercetare a Anthropic, Anthropic Institute, intenționează să studieze sistemele necesare pentru a susține o astfel de încetinire a ritmului și va organiza discuții cu factori de decizie politică, cercetători și companii rivale pentru a aborda riscuri precum autoîmbunătățirea recursivă.
Sursa: HotNews
