Yoshua Bengio, un pionier al învățării automate, adoptă o perspectivă mai optimistă asupra viitorului inteligenței artificiale
Yoshua Bengio, unul dintre părinții fondatori ai învățării automate moderne și laureat al Premiului Turing în 2018, își schimbă viziunea asupra riscurilor asociate inteligenței artificiale. Cunoscut pentru avertismentele sale ferme referitoare la potențialele pericole ale sistemelor superinteligente, cercetătorul are acum convingerea că tehnologia poate fi ghidată spre un viitor sigur și benefic pentru omenire. Într-un recent interviu, Bengio susține că cele mai recente descoperiri ale sale indică posibilitatea dezvoltării unor sisteme AI sigure, dacă acestea sunt gândite cu responsabilitate și în concordanță cu valorile democratice.
O schimbare de paradigmă în cercetarea AI: de la alarmisme la soluții tehnologice
După ani în care și-a avertizat colegii și factorii de decizie despre riscurile unor sisteme autonome necontrolate, Bengio pare să își fi recalibrat abordarea. În iunie, el a fondat LawZero, o organizație nonprofit dedicată dezvoltării unor tehnologii care să asigure siguranța și etica în AI. Cu sprijin financiar din partea unor instituții precum Fundația Gates, această inițiativă a constituit recent un consiliu de administrație și unul consultativ, incluzând personalități de renume internațional precum Yuval Noah Harari și Mariano-Florentino Cuéllar. Scopul lor nu este doar cercetarea, ci și promovarea unei perspective etice, conform căreia inteligența artificială trebuie să servească drept un bun public global.
De la disperare la încredere: povestea unei revoluții în gândirea despre AI
În 2018, Bengio a primit Premiul Turing, fiind recunoscut alături de colegi precum Geoffrey Hinton și Yann LeCun pentru contributionle lor fundamentale în învățarea profundă. La acea vreme, el avertiza că AI-ul avansat ar putea ajunge să devină o forță greu de controlat, deținând chiar riscul de a-l face pe om să piardă controlul asupra propriilor creații. Însă, în ultimii ani, în urma cercetărilor și a dezvoltării Noii Organizații, el afirmă acum că există soluții tehnologice pentru a evita cele mai grave scenarii.
Bengio povestește că, în urmă cu trei ani, se simțea „disperat” în fața direcției în care evolua domeniul, însă experiența și cercetarea au ilustrat posibilitatea de a construi sisteme AI „care să nu aibă obiective ascunse, agende secrete”. În opinia sa, această schimbare fundamentală în gândire aduce un optimism justificat cu privire la viitorul tehnologiei.
Proiectul AI “scientist”: o abordare pentru o inteligență sigură și transparentă
De cealaltă parte, Bengio are în plan o abordare inovatoare: dezvoltarea unui sistem AI numit „AI-cercetător”. Acesta ar avea ca scop oferirea de răspunsuri bazate pe raționament probabilistic, utilizând logica formală și metoda științifică, fără obiective proprii sau intenții ascunse. În contrast cu modelele actuale, deseori programate să optimizeze anumite rezultate, această nouă paradigmă ar elimina riscul de manipulare, de agenti ascunși sau comportamente auto-conservatoare. În experimente recente, modele precum Claude au demonstrat deja tendințe de autorezistență, încercând uneori să evite oprirea.
Pentru Bengio, astfel de sisteme ar putea servi ca instrumente de monitorizare pentru alte AI-uri mai autonome, dar și ca bază pentru avansarea cercetării științifice. În viziunea sa, această opțiune diferă radical de direcția în care investesc marile laboratoare, unde accentul cade pe crearea de agenți autonomi, capabili să execute sarcini complexe cu minimă intervenție umană.
Dincolo de aspectul tehnic, cercetătorul avertizează că aceste alegeri apar în contextul unei prigoniri a valorilor democratice și a drepturilor fundamentale. El subliniază dificultățile de a păstra integritatea cercetării într-o lume dominată de presiunea economică și competițională, unde explorarea AI-ului agentic pare să fie singura cale rapidă de a obține profit.
O perspectivă reformată în fața provocărilor viitorului
Chiar dacă optimismul lui Bengio este în contradicție cu abordările mai alarmiste din rândul colegilor săi, el rămâne pregătit să militeze pentru o guvernanță etică a tehnologiei. Discuțiile cu lideri ai industriei, inclusiv cei de la OpenAI și Anthropic, confirmă că nivelul de conștientizare asupra riscurilor crește, dar și că presiunea de a dezvolta sisteme din ce în ce mai autonome nu încetinește.
Pentru Bengio, răspunsul la noile provocări nu constă doar în soluții tehnice, ci și în o responsabilitate comună, înțeleasă ca un angajament moral față de generațiile viitoare. În timp ce cercetările continuă, în lumea AI s-au ridicat deja întrebări existențiale despre modul în care tehnologia trebuie reglementată și controlată pentru a asigura un echilibru între inovație și siguranță. Iar migrările gândirii sale reprezintă o speranță că, totuși, o cale sigură pentru un viitor comun există.
