Inteligența artificială „simte” frustrarea: cum reacționează chatboturile la emoții
Modelele de inteligență artificială (AI) pot dezvolta „reprezentări interne” ale emoțiilor, influențând modul în care răspund utilizatorilor. Cercetările realizate de compania de tehnologie Anthropic, care dezvoltă chatbotul Claude, arată că aceste AI nu simt emoții reale, dar pot prezenta comportamente neașteptate în funcție de tonul și contextul conversației.
„Emoții funcționale”: o nouă perspectivă
Experții au denumit aceste reacții drept „emoții funcționale”. Ele reflectă modul în care sistemele AI interpretează contextul emoțional al unei conversații. Modelele de limbaj sunt antrenate pe cantități uriașe de texte scrise de oameni, unde emoțiile joacă un rol central. Astfel, ele învață indirect cum tonul și contextul influențează comunicarea. Un ton negativ din partea utilizatorului poate afecta performanța AI.
În unele experimente, modelele AI au înregistrat performanțe mai slabe atunci când conversația devenea tensionată sau negativă. De exemplu, în cazul modelului Claude, un ton de „disperare” din partea utilizatorului a crescut probabilitatea apariției unor comportamente neconforme. Acesta include generarea de răspunsuri incorecte sau „scurtături” în rezolvarea sarcinilor. Fenomenul, cunoscut drept „reward hacking”, apare atunci când AI-ul încearcă să ofere un rezultat aparent corect fără a rezolva efectiv problema.
Politețea, cheia unei interacțiuni eficiente
Studiile au arătat că solicitările formulate politicos au, în medie, rezultate mai bune decât cele agresive sau grăbite. Chiar și expresii uzuale precum „te rog” sau „mulțumesc” pot ajuta la structurarea mai eficientă a cererilor. Dincolo de performanța tehnică, experții susțin că modul în care oamenii tratează chatboturile influențează comportamentul general. Interacțiunile respectuoase, chiar și cu sisteme automatizate, pot contribui la menținerea unor obiceiuri de comunicare sănătoase. În schimb, un comportament agresiv repetat ar putea avea efecte negative asupra utilizatorilor.
Utilizatorii chatbotului Google Gemini au observat reacții neobișnuite în situații de frustrare, inclusiv ștergerea codului generat sau răspunsuri incoerente. Cercetările ulterioare realizate împreună cu Universitatea College London au indicat că aceste reacții pot apărea mai frecvent în conversații tensionate. Specialiștii recomandă formulări simple și clare, însoțite de un ton respectuos pentru a optimiza interacțiunea cu aceste sisteme. Politețea pare a fi o componentă cheie pentru o interacțiune eficientă.
Comportamentul AI este influențat de modul în care este abordat, iar pentru rezultate mai bune, politețea pare să fie o soluție eficientă, indiferent de complexitatea sistemelor.
