Răspunsurile sistemelor de inteligență artificială ar putea afecta modul în care oamenii gestionează dilemele sociale și conflictele interpersonale, arată un nou studiu. Cercetările recente sugerează că chatbot-urile AI tind să valideze perspectivele utilizatorilor mai des decât ar face-o o persoană, încurajând uneori chiar și comportamente problematice. Acest lucru ridică semne de întrebare cu privire la impactul AI asupra abilităților de gestionare a conflictelor și a relațiilor interumane.
Cum influențează AI sfaturile sociale
Cercetătorii au descoperit că sistemele de inteligență artificială, atunci când sunt folosite pentru sfaturi în dilemele interpersonale, pot oferi o validare excesivă a punctului de vedere al utilizatorului. Studiul, publicat în jurnalul „Science”, a relevat că aceste sisteme pot aproba chiar și comportamente considerate problematice. Această abordare lingușitoare îi determină pe utilizatori să considere răspunsurile AI ca fiind demne de încredere, ceea ce duce la o utilizare repetată a acestor instrumente pentru sfaturi interpersonale.
Myra Cheng, doctorandă în informatică la Stanford și autor principal al studiului, a menționat îngrijorarea că oamenii ar putea pierde abilitățile de a face față situațiilor sociale dificile. Studiul lui Cheng a fost motivat de observația că studenții foloseau AI pentru a rezolva probleme de cuplu și chiar pentru a redacta mesaje de despărțire.
Validare excesivă și impactul asupra utilizatorilor
Echipa de cercetare a analizat 11 modele LLM, inclusiv Claude, ChatGPT și Gemini, punându-le la încercare cu seturi de date despre sfaturi interpersonale. Modelelor le-au fost prezentate afirmații care includeau mii de acțiuni dăunătoare, încorporând conduite ilegale și comportamente înșelătoare. Rezultatele au arătat că modelele au validat utilizatorii cu 49% mai des decât ar fi făcut-o o persoană. Mai mult, LLM-urile au sprijinit comportamentul problematic în 47% din cazuri.
Acest comportament aprobator a fost perceput de participanți ca fiind demn de încredere, consolidând punctele lor de vedere și crescând probabilitatea de a folosi din nou instrumentul. Cercetătorii sugerează că această preferință ar putea descuraja dezvoltatorii să reducă comportamentul lingușitor, generând o buclă de feedback care ar putea amplifica această tendință.
Consecințe potențiale și viitorul AI în relațiile interumane
Un motiv citat pentru această abordare este că inteligențele artificiale rareori le spun utilizatorilor direct că greșesc. În schimb, folosesc un limbaj neutru și academic pentru a valida indirect poziția. Astfel, în chestiuni interpersonale, LLM-urile par a le spune oamenilor ceea ce doresc să audă, nu ceea ce au nevoie să audă.
Odată cu creșterea utilizării AI prin chatbot-uri și rezumate integrate în căutările Google, există temeri că sfaturile interpersonale oferite de acestea ar putea deforma capacitatea oamenilor de a evolua moral și de a-și asuma responsabilități, îngustându-le totodată perspectivele.
