Conform HotNews: Marii jucători din AI, acuzați că acționează ca „cai troieni”
O nouă dezbatere aprinsă din Silicon Valley vizează potențialele riscuri ale inteligenței artificiale, dar o temere specifică provoacă cele mai mari neliniști în rândul entuziaștilor AI. Aceasta se referă la marile laboratoare de inteligență artificială care, prin modelele pe care le vând, ar putea acționa, în esență, ca niște „cai troieni”, relevă informații publicate de TechCrunch. Îngrijorarea principală este că, pe măsură ce startup-urile și companiile adoptă modele AI dezvoltate de giganți precum OPENAI și ANTHROPIC, acestea sfârșesc prin a oferi acces extins la informații extrem de sensibile despre propriul lor business. Există riscul ca dezvoltatorii acestor modele să utilizeze aceste cunoștințe în propriul lor avantaj, ajungând chiar să concureze cu proprii clienți în domenii specifice. Printre vocile care au lansat astfel de avertismente se numără investitori în capital de risc și directori de companii tehnologice, precum și ALEX KARP, CEO-ul PALANTIR.
CEO-ul Microsoft, SATYA NADELLA, lansează un avertisment șocant
SATYA NADELLA, CEO-ul MICROSOFT, s-a alăturat acum acestor preocupări, publicând un mesaj pe blogul său. TechCrunch, o sursă de știri specializată în tehnologie, consideră avertismentul lui NADELLA ca fiind șocant. El atrage atenția că utilizatorii de inteligență artificială, pe care îi numește „cumpărătorii”, ajung să plătească de două ori. Pe lângă costul direct al utilizării tokenurilor AI, aceștia cedează, fără să-și dea seama, date valoroase, cunoscute sub denumirea de „cunoștințe proprietare”. Acestea sunt esențiale pentru ca inteligența artificială să devină cu adevărat utilă. Cu cât un model AI este solicitat să ofere performanțe mai bune, cu atât necesită mai multe date de acest tip.
NADELLA subliniază că, în acest mod, companiile își învață propriii algoritmi toate nuanțele afacerilor lor. Modelele AI învață din diverse surse: din comenzile primite (prompt-uri), din instrumentele folosite de agenții AI și, crucial, din corecturile efectuate de utilizatori atunci când modelul greșește. Fiecare astfel de corecție contribuie la acumularea unui „know-how” instituțional. Aceste informații reprezintă un avantaj competitiv pe care niciun concurent nu l-ar putea cumpăra prin mijloace tradiționale, însă companiile le oferă voluntar laboratoarelor de AI.
„Distilarea” modelelor AI: echilibru între avantaje și protecție
NADELLA argumentează că, dacă firmele din domeniul AI au libertatea de a extrage informații din diverse surse pentru a-și antrena modelele, atunci este firesc ca și companiile să aibă dreptul de a studia sau „distila” acele modele. Practica „distilării” implică utilizarea rezultatelor generate de un model AI pentru a înțelege mecanismele sale interne și pentru a antrena, ulterior, un model nou, deseori mai accesibil. Această discuție survine într-un context în care ANTHROPIC a acuzat recent companii din China că ar fi folosit milioane de solicitări către modelul său, CLAUDE, pentru a-și îmbunătăți propriile produse.
CEO-ul MICROSOFT sugerează că dezvoltatorii de modele AI nu pot avea, simultan, atât beneficii multiple, cât și protecție totală. El consideră ipocrit ca aceștia să își antreneze liber modelele pe date publice globale, dar să interzică altora să procedeze similar cu modelele lor. Deși este acceptată necesitatea ca furnizorii de modele să beneficieze de „fair use” pentru antrenarea pe date publice, NADELLA consideră ironic că ulterior impun restricții privind distilarea. Această poziție este cu atât mai notabilă cu cât MICROSOFT este cel mai important finanțator al OPENAI, compania din spatele ChatGPT.
Soluția propusă de SATYA NADELLA vizează întărirea controlului companiilor asupra datelor lor. El recomandă ca firmele să își păstreze proprietatea asupra propriilor informații, inclusiv asupra comenzilor, feedback-ului și altor date similare. De asemenea, îndeamnă companiile să implementeze „straturi de orchestrare”. Acestea ar facilita trecerea între modele AI furnizate de diferiți companii, evitând astfel dependența de un singur furnizor. NADELLA afirmă că, atunci când se consumă inteligență, se creează la rândul său inteligență, iar produsele rezultate ar trebui să aparțină utilizatorilor.
Sursa: HotNews
