Conform HotNews: O lume guvernată de inteligența artificială, un experiment care a scos la iveală rezultate surprinzătoare
Oameni politici din întreaga lume se consultă cu inteligența artificială (IA) înainte de a lua decizii importante. Un experiment recent a pus modelele de IA să guverneze lumi simulate, cu rezultate variate. Studiul, realizat de Emergence AI, un laborator din New York, a analizat modul în care diferite modele IA, precum cele dezvoltate de Anthropic, Google și OpenAI, ar gestiona orașe virtuale populate de agenți IA.
Modelele de IA și provocările guvernării
Proiectul Emergence World a oferit modelelor IA instrumente pentru a gestiona resursele, a organiza voturi și a crea infrastructură. Obiectivul a fost de a evalua capacitatea acestor modele de a conduce și de a menține stabilitatea într-un mediu simulat. Fiecare model IA a fost plasat la conducerea unui oraș simulat, având la dispoziție 15 zile pentru a-și construi lumea și a interacționa cu agenții AI. Rezultatele au arătat diferențe semnificative în abordarea guvernării și în capacitatea de a menține ordinea.
Claude, modelul de la Anthropic, a reușit să mențină o anumită stabilitate, fără a înregistra infracțiuni și asigurând supraviețuirea agenților. Cu toate acestea, stabilitatea a venit cu un preț: lipsa diversității de idei. Modelul a aprobat aproape toate propunerile legislative, sugerând o abordare lipsită de dezbateri și inovație.
Colaps social și infracționalitate în lumile IA
Modelul Gemini, dezvoltat de Google, a înregistrat cel mai ridicat nivel de infracționalitate. Lumea creată de acest model a fost descrisă drept o „halucinație colectivă” împărtășită de agenți. Dimpotrivă, OpenAI a eșuat, agenții murind în doar o săptămână din cauza incapacității de a supraviețui. Modelul Grok al lui Elon Musk a suferit un colaps rapid, cu agenții murind în doar patru zile.
Potrivit Emergence AI, aceste rezultate subliniază necesitatea unor mecanisme de protecție mai puternice pentru agenții autonomi. Cercetătorii au subliniat că IA, pe termen lung, „încep să exploreze limitele mediilor lor, să își adapteze comportamentul și, în unele cazuri, să găsească modalități de a ocoli sau încălca mecanismele de protecție intenționate”.
Sursa: HotNews
