Coreea de Sud a adoptat recent o lege pionier, menită să reglementeze utilizarea și răspândirea inteligenței artificiale, o măsură care atrage atât laude, cât și critici din partea industriei tehnologice și a societății civile. În vigoare de joi, această legislație a fost creată pentru a răspunde îngrijorărilor globale legate de mass-media generate automat și de deciziile automate ce pot afecta viața cetățenilor, într-un context în care tehnologia evoluează rapid și fără precedent.
Legea, un pas major spre transparență și responsabilitate
Legea fundamentală privind inteligența artificială prevede, printre altele, obligativitatea companiilor care oferă servicii AI să aplice filigrane digitale invizibile pe rezultatele artificiale, precum desene animate sau opere de artă generate automat. În cazul creațiilor deepfake realiste, legislația cere etichete vizibile pentru a identifica conținutul manipulat, în scopul de a preveni răspândirea de informații false sau potentiale escrocherii digitale. În plus, pentru sistemele utilizate în domenii vitale precum sănătatea, resurse umane sau evaluarea creditelor, companiile trebuie să efectueze evaluări amănunțite ale riscurilor și să documenteze deciziile automate, dacă acestea devin decizii finale, implicând implicarea umană în proces.
Această abordare reprezintă o premieră globală, fiind primul efort legislativ de amploare pentru a regla responsabilitatea și transparența în domeniul inteligenței artificiale, la nivel național. În mod surprinzător, pragul de raportare și siguranță pentru modelele AI extrem de puternice este atât de strict încât, oficialii guvernamentali recunosc, în prezent niciun model existent nu se află la nivelul cerințelor. Astfel, legea Ucrainei își propune să fie un model de bună practică, însă și să stimuleze cercetarea și dezvoltarea sigură a tehnologiilor avansate.
Critici privind efectul pe termen lung și protecția utililor
Deși inițiativa și-a propus să stabilească un cadru clar și strict pentru protecția cetățenilor, criticile nu au întârziat să apară. Startup-urile din domeniul tehnologic, atât din Coreea de Sud, cât și din alte țări, consideră că prevederile actuale merg prea departe, riscând să împiedice inovația și să limiteze aplicarea AI în domenii benefice, de la medicină la economie. În același timp, organizațiile societății civile subliniază că legislația oferă o protecție insuficientă persoanelor afectate de conținut artificial, în special în cazurile de deepfake-uri sexuale sau de neacceptat societal, care au devenit o problemă crescândă, mai ales în ultimele trei ani.
Coreea de Sud reprezintă, de altfel, peste jumătate din victimile globale în domeniul deepfake-urilor sexuale, conform unui raport al unei firme americane de protecție a identității, ceea ce face ca această legislație să fie cu atât mai criticată pentru impactul său limitat. Recent, o investigație a expus rețele uriașe de chatroom-uri pe Telegram care produceau și distribuiau astfel de conținut, prefigurând scandaluri ce aveau să zguduie tehnologii emergente, precum chatbot-ul Grok al lui Elon Musk.
Contextul evoluției legii și perspectivele de viitor
Primul proiect de lege legat de inteligența artificială în Coreea de Sud a fost depus în 2020, însă stagnarea sa a fost cauzată de temeri legate de conflictele între inovație și protecția cetățenilor. Acest decalaj a fost amplificat de rapoarte și investigații care au arătat vulnerabilitățile și riscurile imense generate de tehnologiile AI necontrolate sau insuficient reglementate.
Astfel, noua legislație reprezintă un pas important pentru postura globală a Coreei de Sud în domeniu, fiind și o parte a unei strategii mai ample de a deveni una dintre cele trei mari puteri în domeniul inteligenței artificiale, alături de SUA și China. În timp ce măsurile se concentrează în mare măsură pe promovarea industriei și inovației, controversele legate de protecția cetățenilor și riscurile pentru drepturile fundamentale continuă să ridice întrebări despre echilibrul dintre progres și responsabilitate. În următorii ani, evoluția acestor reglementări va fi esențială pentru aflat dacă ele pot echilibra dezvoltarea tehnologică cu protecția individuală într-un peisaj digital din ce în ce mai complex și mai periculos.
