Conform HotNews: Noul chatbot AI, deși pare un ajutor inestimabil, ar putea să ne deterioreze o abilitate cognitivă esențială: capacitatea de a recunoaște când nu știm. Un studiu recent sugerează că simpla prezență a inteligenței artificiale în procesul decizional ne poate face mai încrezători în propriile răspunsuri, chiar și atunci când acestea sunt greșite.
Efectul AI asupra metacogniției
Cercetătorii de la Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza au derulat cinci experimente cu peste 3.000 de participanți pentru a evalua cum interacțiunea cu un chatbot AI afectează discernământul uman. Participanții au fost puși în fața unor întrebări dificile, cu posibilitatea de a răspunde „nu știu”. Metacogniția, adică abilitatea de a ne evalua propriile cunoștințe și de a ști când avem suficiente informații, pare să fie principalul vizat. Această capacitate ne ajută să distingem între „știu”, „cred că știu” și „nu știu”, protejându-ne de erori și concluzii pripite.
studiul a fost conceput pentru a izola efectul psihologic al prezenței AI. Întrebările vizau detalii specifice din filme, cum ar fi culoarea unui echipament în „Bend It Like Beckham”, informații pe care modelele lingvistice tind să le „halucineze”. În plus, cercetătorii au utilizat intenționat un model AI care greșea frecvent, pentru a se asigura că participanții nu se bazează pe o sursă considerată în mod obișnuit competentă.
Greșim cu mai multă încredere
Rezultatele au fost revelatoare. În absența AI-ului, 44% dintre participanți au optat pentru răspunsul „nu știu”. Când au avut acces la chatbot, acest procent a scăzut drastic la doar 3%. În paralel, acuratețea răspunsurilor a înregistrat o scădere semnificativă, în timp ce încrederea participanților în propriile judecăți aproape s-a dublat. Oamenii au răspuns mai des, au greșit mai mult și au fost mult mai siguri pe corectitudinea răspunsurilor lor.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului. În timp ce majoritatea cercetărilor anterioare s-au axat pe externalizarea efortului cognitiv sau pe riscul pierderii competențelor, acest studiu atrage atenția asupra impactului AI asupra metacogniției.
Confuzia dintre fluență și corectitudine
Autorii studiului subliniază că oamenii nu sunt convinși de AI pentru că acesta are întotdeauna dreptate, ci pentru că răspunsurile sale sună convingător. Fluența, coerența și lipsa ezitărilor în exprimarea unui chatbot pot fi confundate de creierul uman cu dovada veridicității informației. Astfel, în loc să verifice acuratețea unui răspuns, ajungem să îl acceptăm pur și simplu pentru că este bine formulat și pare plauzibil.
Spre deosebire de un om care poate să-și suspende judecata și să admită că nu știe, un model lingvistic este programat să genereze un răspuns la aproape orice întrebare. Chiar și în lipsa informațiilor suficiente, acesta produce cea mai probabilă continuare a textului, fără a avea o evaluare sinceră a limitelor sale. Obiceiul de a delega astfel de decizii unui sistem care rareori admite incertitudinea poate duce la comportamente similare în rândul utilizatorilor. Mai mult, studiul a relevat că AI-ul i-a determinat pe oameni, în unele cazuri, să renunțe la răspunsuri pe care le-ar fi oferit corect pe baza propriului raționament. Chatbotul nu doar că a completat lacunele, dar a înlocuit adesea judecata proprie cu una greșită, prezentată cu un grad înalt de siguranță. Aceasta este o observație semnificativă, având în vedere că oamenii sunt, în mod normal, destul de sceptici față de sfaturile primite. Chiar și atunci când un răspuns AI intra în conflict cu convingerile inițiale ale participanților, acest lucru nu a generat prudență, ci a sporit, paradoxal, încrederea în corectitudinea răspunsului final.
Sursa: HotNews
