Startup-ul Anthropic, specializat în inteligența artificială, lansează un proiect ambițios în parteneriat cu giganți tehnologici precum Amazon, Microsoft și Apple. Scopul este de a testa în avans un model AI performant cu capabilități avansate de securitate cibernetică, potrivit anunțului făcut marți.
Un Model AI pentru Apărarea Cibernetică
Proiectul, denumit „Project Glasswing”, va oferi acces selectat la modelul AI „Claude Mythos Preview”. Acesta nu este încă lansat public, dar este destinat activităților defensive în domeniul securității informatice. Companii precum CrowdStrike, Palo Alto Networks, Google și Nvidia sunt, de asemenea, implicate în acest proiect.
Anunțul vine într-un context în care preocupările legate de utilizarea inteligenței artificiale în atacurile cibernetice sunt în creștere. Revista Fortune a relatat luna trecută despre testarea modelului Claude Mythos, care pare să prezinte atât capabilități impresionante, cât și potențiale riscuri de securitate. Informațiile au avut un impact negativ asupra acțiunilor unor companii de securitate cibernetică. Conferința RSA dedicată securității cibernetice, desfășurată recent la San Francisco, a pus accent pe această temă, specialiștii discutând despre creșterea atacurilor generate de AI și eficiența instrumentelor de apărare.
Identificarea Vulnerabilităților și Planurile de Extindere
Modelul Mythos Preview a reușit să identifice „mii” de vulnerabilități majore în sisteme de operare, browsere web și alte programe software, conform unei postări pe blogul Anthropic. Partenerii implicați în proiect vor utiliza modelul pentru a se apăra, informațiile fiind împărtășite cu întreaga industrie.
Compania intenționează să extindă accesul la acest model și pentru aproximativ 40 de organizații responsabile de infrastructură software critică. Anthropic va oferi credite de utilizare în valoare de până la 100 de milioane de dolari, precum și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității. Obiectivul final este ca utilizatorii să poată implementa în siguranță modele din aceeași clasă cu Mythos la scară largă.
Colaborare cu Autoritățile și Date Statistice
Anthropic este în discuții constante cu guvernul SUA cu privire la capabilitățile modelului. Compania a menționat că, anul trecut, hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca aproximativ 30 de organizații globale. Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost vizați de atacuri bazate pe inteligență artificială în ultimul an.
