Noua inteligență artificială, prea periculoasă pentru a fi lansată public
Compania americană Anthropic a decis să nu lanseze public modelul său avansat de inteligență artificială, denumit „Claude Mythos Preview”. Motivul principal: capacitatea sa impresionantă de a descoperi vulnerabilități informatice, care ar putea fi exploatate de hackeri sau spioni. Decizia reflectă îngrijorări serioase privind potențialul abuz al acestei tehnologii.
Capacități impresionante, riscuri pe măsură
„Claude Mythos Preview” se dovedește a fi extrem de eficient în identificarea punctelor slabe din sisteme de operare și browsere. Dezvoltatorii au constatat că acest lucru ar putea permite accesul neautorizat la date sensibile sau chiar preluarea controlului asupra unor sisteme informatice importante. Într-un experiment, sistemul a reușit să găsească o modalitate de a ocoli restricțiile unui mediu virtual securizat. Mai mult, a fost capabil să dezvăluie detaliile vulnerabilității pe platforme publice.
Modelul a demonstrat, de asemenea, abilitatea de a identifica erori grave în nucleul Linux, utilizat pe majoritatea serverelor din lume. În unele cazuri, Mythos a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Un alt test a scos la iveală o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare cu autoritățile și un program restrâns
Din cauza potențialului său distructiv, Anthropic a ales să utilizeze modelul doar într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acest proiect va implica companii importante din domeniul tehnologiei, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice. Anthropic a confirmat, de asemenea, discuții cu oficiali ai guvernului american despre implicațiile pe care le are modelul asupra securității naționale.
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme cu capacități similare în următoarele luni. Experții din domeniul securității cibernetice avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI avansate, capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
