Conform Mediafax: ONU trage un semnal de alarmă privind potențialul periculos al inteligenței artificiale avansate, cerând o reglementare rapidă pentru a preveni situații în care sistemele devin incontrolabile. Înaltul Comisar al Națiunilor Unite pentru Drepturile Omului, VOLKER TURK, a avertizat, luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului, că dezvoltarea rapidă a sistemelor de IA tot mai autonome ridică riscuri semnificative, inclusiv posibilitatea ca acestea să depășească capacitatea umană de a le controla.
Necesitatea unor „linii roșii” în dezvoltarea IA
VOLKER TURK a subliniat necesitatea instituirii urgente a unui sistem de guvernanță globală pentru inteligența artificială, înainte ca tehnologia să atingă un punct în care controlul devine extrem de dificil. „O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a declarat oficialul ONU. El a accentuat importanța stabilirii unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.
Comisarul ONU a propus ca toate statele care găzduiesc infrastructura de inteligență artificială și cele implicate în lanțurile de aprovizionare să agreere asupra unor „linii roșii” comune, definind limite clare pentru dezvoltarea și utilizarea acestei tehnologii. De asemenea, a pledat pentru verificarea independentă a sistemelor de IA și pentru o cooperare sporită între companiile din domeniu în ceea ce privește siguranța. VOLKER TURK intenționează să trimită o scrisoare companiilor din sector pentru a le îndemna să ia măsuri proactive de reducere a riscurilor.
Riscurile IA asupra societății și locurilor de muncă
Modelele generative de inteligență artificială demonstrează deja capacitatea de a executa sarcini complexe și de a lua decizii autonome, ridicând semne de întrebare legate de supravegherea și limitarea comportamentului lor. Dincolo de autonomia crescută, ONU atrage atenția asupra impactului general al IA asupra vieții cotidiene. VOLKER TURK a cerut evaluarea atentă a efectelor inteligenței artificiale asupra pieței muncii, democrației, mediului și drepturilor fundamentale.
El a criticat, totodată, concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și indivizi, subliniind că dezvoltarea IA trebuie să fie însoțită de reglementări menite să protejeze drepturile oamenilor. Oficialul ONU a menționat ca exemple pozitive măsurile adoptate de Uniunea Europeană prin Digital Services Act (DSA), care impune platformelor online mari să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, și reglementările specifice introduse de Coreea de Sud, care vizează transparența și informarea utilizatorilor.
VOLKER TURK a recunoscut că, deși necesitatea unor reguli este înțeleasă, implementarea lor concretă întâmpină încă dificultăți. El a reiterat îngrijorarea împărtășită de unii actori din industrie, conform căreia inteligența artificială avansată ar putea reprezenta un „risc existențial pentru umanitate”.
Sursa: Mediafax
