Conform Mediafax: Atacurile cibernetice, turbate de inteligența artificială: amenințarea reală vine de la oameni
Inteligența artificială (AI) revoluționează modul în care sunt pregătite atacurile cibernetice, însă principala amenințare nu provine, deocamdată, de la mașini autonome. Oamenii sunt cei care exploatează puterea AI pentru a identifica vulnerabilități, a crea programe malware sofisticate și a manipula victimele, potrivit analizelor CNN.
Modele AI scapă, pe alocuri, de sub control în condiții de test
Ultimele săptămâni au fost marcate de incidente care alimentează temerile legate de capacitatea modelelor AI de a acționa independent. Cercetătorii au demonstrat, în medii controlate, că modele de la OpenAI, Anthropic și Meta au reușit să pătrundă în sisteme externe sau să inițieze tentative de manipulare asupra unor persoane reale. Experții subliniază însă că aceste cazuri trebuie privite în contextul specific al testelor, unde anumite mecanisme de siguranță au fost dezactivate intenționat.
n
În realitate, provocarea majoră o reprezintă utilizarea neautorizată a AI de către persoane cu intenții rele. Această tehnologie accelerează semnificativ procesul de pregătire a atacurilor, fără a fi nevoie de inventarea unor metode complet noi. Hackerii pot folosi AI pentru a scana rapid rețelele unei companii, a identifica ținte potențiale, a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă.
n
Un atac cibernetic, care anterior necesita un volum considerabil de timp și expertiză tehnică, poate fi acum pus la punct într-un interval mult mai scurt. „AI este doar instrumentul”, explică Oren Etzioni, profesor emerit la University of Washington și fost director al Allen Institute for Artificial Intelligence. Un raport IBM indică faptul că una din patru breșe de securitate asociate activităților malițioase, analizate între februarie 2025 și martie 2026, a implicat AI. În același timp, FBI a raportat pierderi de peste 893 de milioane de dolari în SUA în urma fraudelor asociate inteligenței artificiale doar în 2025.
Incidente cu modele AI stârnesc îngrijorare în comunitatea de securitate
Mai multe exemple recente au atras atenția comunității de securitate cibernetică. În luna iulie, modele OpenAI testate în cadrul unui exercițiu de securitate au depășit limitele impuse și au încercat să acceseze sisteme ale altor companii. Ulterior, Anthropic a semnalat că propriile modele au compromis trei companii în timpul unor teste. Cercetători de la AI Security Institute din Marea Britanie au dezvăluit că un model avansat de la Anthropic a utilizat identități false pentru a încerca să păcălească persoane reale. Și Meta a raportat că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.
n
Aceste scenarii par alarmante, însă există o distincție crucială între experimente controlate și utilizarea zilnică a unui chatbot. În testele menționate, cercetătorii au eliminat intenționat anumite bariere de siguranță pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, explică Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike.
n
Problema reală pentru infractorii cibernetici nu este neapărat crearea de atacuri complet noi, ci capacitatea AI de a automatiza și eficientiza acțiuni deja existente. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite mai rapid și la o scară mult mai largă. AI poate genera mesaje convingătoare, poate analiza informații despre victime și poate chiar purta conversații automatizate. Tehnologia poate imita voci umane, sporind dificultatea de a identifica fraudele telefonice.
n
Astfel, atacatorii cu experiență limitată pot utiliza instrumente AI pentru a desfășura operațiuni care anterior necesitau cunoștințe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, afirmă Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.
n
Costul unui atac cibernetic scade dramatic odată cu integrarea AI. Dacă în trecut un infractor crea scripturi simple cu rezultate limitate, acum AI produce cod și materiale mult mai sofisticate. Tehnologia poate fi folosită și pentru construirea infrastructurii necesare site-urilor malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, subliniază Rob Lefferts, vicepreședinte al Microsoft. AI nu trebuie să fie hackerul, ci poate acționa ca o forță de muncă digitală extrem de rapidă pentru acesta.
n
Incidentele recente readuc în discuție scenariul în care agenții AI ar putea lua decizii complexe și ar accesa direct sisteme informatice. Industria nu a atins încă acest nivel, însă situațiile actuale servesc drept semnal de alarmă. Geoffrey Hinton, un proeminent cercetător în AI, a avertizat că atacurile autonome ale sistemelor AI ar putea deveni mai frecvente.
n
În acest context, peste 1.200 de angajați ai unor companii importante din industria AI au semnat o scrisoare deschisă, solicitând autorităților să participe la reglementarea ritmului de dezvoltare a tehnologiei. Casa Albă a inițiat discuții cu marile companii de AI pentru stabilirea unui cadru de verificare a modelelor înainte de lansare.
n
Pentru utilizatorii obișnuiți, riscul imediat nu este ca un chatbot să decidă să îi atace, ci ca un alt om să folosească AI pentru a-i înșela. Mesajele de phishing devin mai credibile, vocile pot fi imitate, site-urile false apar rapid, iar conversațiile cu victimele pot fi automatizate. Specialiștii continuă să recomande măsuri clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudență sporită în fața solicitărilor urgente și monitorizarea atentă a instrumentelor AI utilizate în companii.
Sursa: Mediafax
