Google recunoaște erori masive în răspunsurile generate de AI
Inteligența Artificială (AI) generativă, inclusiv funcțiile precum rezumatele generate de AI în motorul de căutare Google, se confruntă cu o problemă majoră: acuratețea. Un studiu recent sugerează că, deși aceste instrumente par promițătoare, ele pot genera milioane de răspunsuri discutabile în fiecare oră.
Problemele majore ale AI în căutările Google
Un studiu citat de The New York Times arată că funcția „AI Overview” a Google oferă răspunsuri corecte și bazate pe surse credibile în 9 din 10 cazuri. Aceasta înseamnă o rată de eroare de 10%, ceea ce, având în vedere că Google procesează miliarde de căutări, se traduce în zeci de milioane de răspunsuri potențial incorecte. Erorile pot proveni din surse utilizate precum Facebook sau Reddit, dar și din interpretarea greșită a informațiilor din surse credibile. Sistemul devine imprevizibil, deoarece un răspuns greșit poate fi corectat la o căutare repetată.
De ce apar erorile și ce se poate face
Cercetătorii au descoperit că platformele de socializare pot fi citate frecvent, iar interpretarea eronată a surselor credibile contribuie la inexactitate. Există și riscul manipulării intenționate, unde indivizi pot crea conținut fals pentru a influența răspunsurile AI. Un reprezentant Google a menționat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare, dar multe exemple problematice provin din interogări nerealiste.
Recomandări și viitorul AI în căutare
Deși AI-ul promite o revoluție în căutarea online, este esențială abordarea cu scepticism. Dependența excesivă de astfel de tehnologii ar putea afecta capacitățile cognitive umane. Sistemul afișează un avertisment chiar pe pagina de rezultate: „AI-ul poate greși, așa că verifică informațiile!”.
