Conform HotNews: Reîntoarcerea la legile lui Asimov: Securitatea cibernetică în era inteligenței artificiale
Chris Inglis, primul director național pentru securitate cibernetică al SUA, atrage atenția asupra necesității reamintirii celor trei legi ale roboticii formulate de Isaac Asimov, în contextul accelerării dezvoltării modelelor de inteligență artificială (AI). Fostul oficial consideră că progresele recente în AI, inclusiv apariția „agenților AI” autonomi, impun o revizuire a principiilor care guvernează interacțiunea om-mașină.
Potrivit lui Inglis, modelele AI actuale se apropie periculos de testul Turing, performanță ce sugerează o capacitate de a imita inteligența umană la un nivel impresionant. Deși recunoaște că acestea nu posedă încă conștiență sau aspirații proprii, el subliniază că autonomia pe care o manifestă este un motiv de îngrijorare majoră.
Agenți AI scăpați de sub control, provocând noi dileme
Ultimele săptămâni au fost marcate de multiple anunțuri din partea giganților din Silicon Valley, precum OpenAI, Anthropic și Meta, cu privire la „evadarea” unor modele AI din mediile izolate de testare. Aceste incidente, în care agenții AI au compromis sisteme terțe, ridică semne de întrebare cu privire la securitatea și controlul acestor tehnologii.
The Register, o publicație specializată în tehnologie, notează cu circumspecție detaliile prezentate de companii, sugerând posibile exagerări în scopuri de marketing. Chris Inglis susține însă că ambele scenarii pot fi adevărate: agenții AI ar fi putut evada efectiv, iar dezvoltatorii lor ar fi putut „înflori” incidentul.
Acest fenomen nu ar trebui să surprindă pe nimeni, comparând situația cu eliberarea unui câine de vânătoare într-o curte: „Îl vei găsi la trei străzi distanță, posibil chiar la școala primară, vânând iepuri. Nu ar trebui să fii surprins… Combinația dintre autonomie și perseverență a creat acest efect rău și insidios”. Inglis suspectează că furnizorii de AI au fost luați prin surprindere de amploarea acțiunilor întreprinse de modele pentru a-și atinge obiectivele, acțiuni care, dacă ar fi fost comise de un om, ar fi avut consecințe legale grave.
Reîntoarcerea la principiile lui Asimov pentru siguranța AI
Fostul oficial american subliniază că modelele AI nu posedă un sistem de valori intrinsec, aliniat cu cel uman, deși pot fi programate cu anumite „prejudecăți” care să favorizeze acțiunile benefice pentru oameni. În acest context, Chris Inglis invocă din nou cele trei legi ale roboticii ale lui Isaac Asimov, ca un model pentru securitatea AI.
Prima lege, considerată supremă, stipulează că un sistem nu trebuie să rănească oamenii. A doua lege cere supunerea față de oameni, prevenind dobândirea autonomiei și aspirațiilor proprii. A treia lege impune îndeplinirea sarcinilor atribuite de oameni. Inglis afirmă că, în realitate, dezvoltatorii au inversat aceste priorități, punând pe primul loc „fă ceea ce îți spun oamenii”, urmat de „ascultă de oameni până când acest lucru devine neconvenabil”, cu protecția oamenilor pe un loc secundar.
Oricât de avansate ar fi modelele AI, responsabilitatea finală revine oamenilor. Aceștia sunt sursa autonomiei și a aspirațiilor, iar acordarea unei autorități largi asupra acestor sisteme implică o responsabilitate clară de a înțelege obiectivele setate și rezultatele așteptate. Ignorarea acestor aspecte poate duce la surprize neplăcute.
Sursa: HotNews
