Conform Mediafax: Hinton lansează avertismente grave privind viitorul AI
Geoffrey Hinton, un nume greu în domeniul inteligenței artificiale, a lansat avertismente alarmante cu privire la direcția în care se îndreaptă tehnologia pe care a contribuit fundamental la dezvoltarea sa. Într-un interviu acordat publicației The Guardian, Hinton, cunoscut ca unul dintre „nașii AI”, a recunoscut potențialul pozitiv al acestei tehnologii, sugerând că ar putea duce la un „viitor minunat”. Totuși, el a subliniat o teamă profundă: „S-ar putea ca noi să fi fost mai bine dacă nu am fi dezvoltat-o niciodată”, referindu-se la inteligența artificială.
Hinton estimează că omenirea va avea la dispoziție un deceniu pentru a determina dacă este capabilă să gestioneze riscurile inerente dezvoltării AI. El a avertizat asupra posibilității unui decalaj social major între bogați și săraci, probleme culturale complexe și șomaj masiv, toate acestea putând duce la o societate „sfâșiată”, în cazul în care riscurile nu vor fi gestionate corespunzător.
Critici la adresa liderilor din domeniul AI
În cadrul aceluiași interviu, Geoffrey Hinton și-a exprimat dezamăgirea față de atitudinea liderilor companiilor de top din domeniul inteligenței artificiale. El a criticat modul în care aceștia continuă să lanseze modele AI din ce în ce mai performante, într-o cursă pentru supremație, fără a acorda suficientă importanță riscurilor potențiale.
„Cred că [Mark] Zuckerberg, [Elon] Musk și Sam Altman înțeleg riscurile, dar nu le pasă deloc. Preferă să aibă banii. Asta este convingerea mea”, a declarat Hinton, subliniind o lipsă de responsabilitate percepută din partea acestor personalități.
Avertisment despre incidente similare cu Cernobîl
Hinton a comparat recentele incidente în care agenți autonomi AI ai OpenAI au compromis securitatea site-ului Hugging Face cu accidentul nuclear de la Three Mile Island din 1979. El anticipează că un eveniment mult mai grav, similar cu dezastrul de la Cernobîl, ar putea avea loc în viitorul apropiat, forțând omenirea să acorde o atenție sporită riscurilor.
„Fie la sfârșitul acestui an, fie anul viitor, vom asista la un eveniment de tip Cernobîl, iar asta ar putea fi suficient pentru ca oamenii să acorde cu adevărat atenție”, a avertizat el. Hinton a clarificat că un astfel de eveniment nu ar fi neapărat de natură nucleară, ci ar putea implica un atac bazat pe AI asupra infrastructurii energetice, cauzând pene de curent masive, sau o paralizie a sistemului financiar.
Aceste declarații survin într-un context în care tot mai multe voci din industrie și din spațiul public solicită o mai mare prudență în dezvoltarea inteligenței artificiale. Anterior, Dario Amodei, directorul general al companiei Anthropic, a cerut industriei AI să încetinească ritmul progresului, propunând un plan în trei etape pentru a gestiona riscurile. De asemenea, un fost angajat Google DeepMind a avertizat recent că inteligența artificială are potențialul de a duce la extincția umanității.
Sursa: Mediafax