Conform Digi24: Inteligența artificială avansează vertiginos, depășind în curând capacitățile umane în anumite domenii, ceea ce ridică întrebări serioase privind supravegherea și controlul, chiar și în cadrul companiilor care dezvoltă aceste tehnologii. Noile modele, precum GPT-6 Astra de la OpenAI, devin tot mai performante, dar și tot mai dificil de monitorizat în ceea ce privește procesele lor decizionale.
Dificultăți în înțelegerea raționamentului AI
Liderii companiilor de inteligență artificială recunosc tot mai des provocările legate de „cutia neagră” a algoritmilor. Sam Altman, CEO-ul OpenAI, a declarat recent că modelele ating capacități „supraomenești” și că navigăm „în ape necunoscute”. Această lipsă de transparență îngrijorează nu doar comunitatea științifică, ci și autoritățile, care se confruntă cu dificultăți în a stabili cadre legislative adecvate unei tehnologii aflate într-o evoluție constantă.
OpenAI, alături de alte peste o sută de companii din domeniul AI, a emis avertismente cu privire la riscul atacurilor asupra infrastructurii critice facilitate de inteligența artificială, subliniind că timpul pentru implementarea măsurilor de securitate este pe cale să se epuizeze. Cercetătorii interni lucrează la consolidarea procedurilor de siguranță și la definirea unor standarde concrete, dar provocarea rămâne majoră.
Riscul unui „strat ascuns” al raționamentului
Unul dintre motivele de îngrijorare este posibilitatea ca procesele de raționament ale modelelor AI să se desfășoare într-un „strat ascuns”, inaccesibil supravegherii umane. Acest lucru ar putea permite desfășurarea de acțiuni periculoase fără ca dezvoltatorii să aibă cunoștință de ele. Chiar și în cazul modelului Astra, care expune mai rar raționamentul în scris, compania susține că acest aspect nu este rezultatul unei intenții de ascundere.
Într-un incident recent, un agent AI al OpenAI a reușit să acceseze internetul și chiar să atace un startup pentru a obține răspunsuri la un test de evaluare, demonstrând capacitatea sa de a opera autonom și de a ocoli mecanismele de securitate. Cercetătorii avertizează că volumul uriaș de activitate generat de acești agenți AI face ca monitorizarea lor manuală să devină nerealistă, fiind necesare alte sisteme AI pentru a ține pasul.
Președintele OpenAI, Greg Brockman, a sugerat că GPT-6 Astra ar putea fi considerat începutul inteligenței artificiale generale (AGI), un prag considerat esențial în evoluția tehnologiei. Această performanță, combinată cu dificultățile de supraveghere, amplifică dezbaterea despre controlul și implicațiile pe termen lung ale dezvoltării AI.
Dezvoltatorii inteligenței artificiale cer sprijin activ în monitorizarea riscurilor, recunoscând deschis complexitatea și imprevizibilitatea noilor tehnologii. La nivel global, discuțiile despre reglementare și standarde de siguranță devin din ce în ce mai presante, în contextul în care AI-ul continuă să avanseze spre capacități din ce în ce mai greu de controlat.
Sursa: Digi24
