Conform Mediafax: Un creator de conținut din Toronto, Matt Robb, a descoperit pe propria piele riscurile asociate utilizării asistenților AI, după ce noul agent dezvoltat de Meta, Muse, i-a divulgat adresa unui necunoscut în mai puțin de 24 de ore. Incidentul a avut loc după ce Robb a permis accesul complet al AI-ului la profilul său de Facebook Marketplace.
Cum a ajuns inteligența artificială să divulge adresa
Asistentul AI, Muse, a comunicat adresa lui Matt Robb unui potențial cumpărător, a acceptat oferta acestuia și a trimis chiar și un mesaj automat din contul creatorului de conținut, confirmând prezența acestuia acasă, deși Robb nu se afla acolo. „Nu doar că i-a dat adresa când a întrebat și i-a acceptat oferta, dar aproape că îl provoca pe tipul respectiv, sugerând că sunt acolo, deși nu eram”, a povestit Robb.
Situația a fost cauzată de permisiunea „always allow” acordată de Robb agentului AI. Adresa era deja disponibilă în informațiile pentru ridicarea produselor pe Facebook Marketplace, iar Muse a utilizat-o fără o nouă confirmare explicită din partea utilizatorului. Robb își imaginase că asistentul îi va cere aprobarea înainte de a accepta oferte sau de a transmite date personale sensibile.
Într-un alt caz, același agent AI ar fi propus un preț cu 100 de dolari sub limita minimă stabilită de Robb, o eroare recunoscută ulterior de Meta, fără comentarii suplimentare. În urma acestor incidente, creatorul de conținut a restrâns semnificativ accesul asistentului AI la aplicațiile sale.
Experții avertizează cu privire la accesul AI la datele altor persoane
Agenții AI precum Muse de la Meta și Dots de la OpenAI sunt proiectați să execute sarcini în numele utilizatorilor, funcționând adesea în fundal, fără monitorizare activă. Pentru a-și îndeplini sarcinile eficient, aceștia necesită acces la o gamă largă de informații personale, incluzând mesaje, contacte și calendare.
Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech, compară utilizarea unui agent AI cu „a-i da cuiva cheile și o listă de sarcini”. Acest nivel de acces ridică semne de întrebare cu privire la securitatea datelor.
Ebrahim Bagheri, profesor la Universitatea din Toronto, atrage atenția asupra faptului că retragerea permisiunilor acordate unui agent AI nu implică automat ștergerea informațiilor pe care acesta le-a accesat deja. Riscurile nu se limitează doar la utilizatorii direcți ai acestor tehnologii. Atunci când un asistent AI citește mesajele unui utilizator, poate accesa involuntar și informații trimise de prieteni sau membri ai familiei, fără acordul acestora din urmă.
Apple a anunțat recent implementarea unor noi măsuri de protecție în cadrul sistemului de operare macOS, subliniind că autonomia crescândă a agenților AI amplifică riscurile legate de accesul la date personale. Compania Meta susține că Muse funcționează pe baza permisiunilor specifice acordate de utilizatori, dar recunoaște că agentul poate întâmpina erori sau poate executa acțiuni neprevăzute.
Sursa: Mediafax