Cercetătorii trag un semnal de alarmă: personaje virtuale realiste, controlate de inteligența artificială, pot influența opinia publică și sistemele democratice. Un studiu recent detaliază modul în care aceste entități digitale, capabile să imite comportamentul uman online, ar putea juca un rol major în viitorul apropiat.
Cum funcționează „actorii” digitali
Aceste personaje generate de inteligența artificială (IA) pot intra în comunități digitale, participând la discuții și influențând punctele de vedere. Spre deosebire de rețelele de boți din trecut, noile sisteme pot coordona instantaneu eforturi, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi. Progresele rapide în domeniul modelelor lingvistice și al sistemelor multi-agent au permis unui singur operator să gestioneze rețele vaste de „voci” IA. Aceste personaje pot adopta limbajul și tonul local, interacționând într-un mod care pare natural pentru ceilalți utilizatori.
Aceste sisteme sunt capabile să efectueze milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare. Ele își pot rafina strategiile de comunicare în timp real, generând ceea ce pare a fi un consens public larg. În realitate, acest consens este creat artificial, cu scopul de a influența dezbaterile politice.
Riscurile deepfake-urilor și ale știrilor false
Deși roiurile de IA complet dezvoltate sunt încă în stadiul teoretic, cercetătorii observă deja semnale de avertizare. Acestea includ deepfake-uri generate de IA și surse de știri false, care au influențat recentele discuții electorale în țări precum STATELE UNITE, TAIWAN, INDONEZIA și INDIA. În același timp, organizațiile de monitorizare au identificat rețele pro-KREMLIN care răspândesc volume mari de conținut online. Această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme funcționează și ce informații prioritizează.
Impactul asupra democrației
Experții avertizează că aceste „roiuri” de IA ar putea modifica echilibrul de putere în societățile democratice. Dr. Kevin Leyton-Brown, informatician, a avertizat că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
Dezvoltarea acestor tehnologii ridică întrebări importante cu privire la viitorul informației și al dezbaterii publice în era digitală.
Sursa: Mediafax
