Conform Economistul.ro: AI Office preia controlul asupra modelelor AI
Comisia Europeană are, începând cu 2 august 2026, noi competențe pentru a aplica efectiv Regulamentul privind Inteligența Artificială (AI Act). AI Office, structura responsabilă, poate solicita informații, poate evalua modele de inteligență artificială de uz general (GPAI) și poate impune măsuri de reducere a riscurilor furnizorilor. Aceste noi atribuții vin în contextul preocupărilor legate de manipularea prin intermediul boților, conturilor false și conținutului generat de AI.
Obligațiile pentru furnizorii de modele GPAI au intrat în vigoare încă de la 2 august 2025, dar primul an a fost dedicat implementării și colaborării cu aceștia. Acum, Comisia poate trece la faza de aplicare concretă, inclusiv prin posibilitatea de a impune sancțiuni. Modelele care prezintă riscuri sistemice pot fi supuse unor cerințe suplimentare, precum evaluarea și reducerea acestor riscuri, raportarea incidentelor grave și asigurarea securității cibernetice.
Transparența în interacțiunea cu AI
Pe lângă supravegherea modelelor GPAI, de la aceeași dată, 2 august 2026, au intrat în vigoare noi reguli de transparență pentru anumite sisteme AI și forme de conținut generat sau manipulat. Scopul principal este ca oamenii să poată recunoaște mai ușor când interacționează cu un sistem AI sau când se confruntă cu conținut creat sau modificat artificial.
Furnizorii de sisteme AI trebuie să informeze utilizatorii atunci când aceștia interacționează direct cu inteligența artificială. Pentru sistemele generative, AI Act impune utilizarea unor marcaje care pot fi detectate automat pentru conținutul modificat artificial. Profesioniștii care utilizează anumite sisteme AI au obligația de a informa publicul atunci când este expus la „deepfake”-uri sau la texte generate/manipulate prin AI, în special în cazurile de interes public.
Rolul AI Office și supravegherea la nivel european
AI Office are un rol central în supravegherea modelelor GPAI, putând solicita furnizorilor documentație tehnică și informații relevante pentru dezvoltatorii care folosesc aceste modele. Respectarea drepturilor de autor și publicarea unui rezumat detaliat al conținutului folosit pentru antrenarea modelelor sunt, de asemenea, printre obligații.
Comisia a prezentat aceste noi competențe ca răspuns la o întrebare privind riscurile de manipulare a alegerilor și a consultărilor publice. Cu toate acestea, oficialii europeni nu au afirmat că noile reguli ar putea elimina complet astfel de riscuri. În timp ce AI Office se concentrează pe furnizorii de modele GPAI și riscurile asociate acestora, regulile de transparență sunt supravegheate în principal de autoritățile naționale de supraveghere a pieței. AI Office intervine pentru sistemele din competența sa, iar Autoritatea Europeană pentru Protecția Datelor are rolul corespunzător în cazul instituțiilor UE.
Aceste noi măsuri permit Comisiei să investigheze și să sancționeze furnizorii care nu respectă obligațiile privind modelele GPAI, marcând o tranziție de la faza de implementare la una de aplicare efectivă.
Sursa: Economistul.ro
