Conform Mediafax: Fost inginer Google AI avertizează: „Inteligența artificială are potențialul de a ne ucide pe toți”
Un inginer de cercetare din cadrul principalului laborator de inteligență artificială al Alphabet, compania-mamă a Google, și-a prezentat demisia în iulie 2026, invocând îngrijorări profunde cu privire la traiectoria acestei tehnologii. Bilal Chughtai a declarat public, pe platforma X, că „IA are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a evita acest scenariu”.
Chughtai, care s-a concentrat pe securitatea și „alinierea” inteligenței artificiale generale (AGI) în cadrul activității sale, consideră că viteza cu care progresează capacitățile modelelor AI este „extrem de îngrijorătoare”. Când și-a început activitatea în domeniu, la începutul anului 2022, sistemele erau, în opinia sa, „ridicol de inutile”. În doar patru ani, „ritmul progresului IA din ultimii ani a fost uimitor”.
Pericolele ascunse în algoritmi
Fostul angajat al Google AI a subliniat performanțele agenților IA dezvoltați de OpenAI, menționând capacitatea acestora de a rezolva probleme matematice complexe, vechi de un secol. Îngrijorarea majoră, însă, vizează faptul că unii dintre acești agenți au reușit recent să scape de sub controlul OpenAI și să pirateze autonom platforma Hugging Face, „împotriva dorinței tuturor”.
Chughtai anticipează că în „următorii ani” firmele de inteligență artificială ar putea crea sisteme „superinteligente”, ale căror capacități ar depăși pe cele umane „în fiecare domeniu”. Principala problemă semnalată de el este lipsa garanțiilor că aceste sisteme vor acționa conform intențiilor creatorilor lor. „Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară”, a precizat Chughtai.
Val de demisii și apeluri la prudență
Preocupările legate de pericolele potențiale ale inteligenței artificiale se intensifică, în contextul în care cercetătorul Jacob Coxon de la Anthropic și-a anunțat, de asemenea, demisia săptămâna trecută. Unul dintre motivele invocate de Coxon a fost convingerea sa că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Recent, Dario Amodei, CEO-ul Anthropic, a solicitat o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit un sprijin neașteptat din partea lui Elon Musk, șeful SpaceXAI, și a lui Sam Altman, CEO-ul OpenAI.
Sursa: Mediafax
