Conform Mediafax: Cercetătorii din domeniul inteligenței artificiale, atât din Statele Unite, cât și din China, lansează un apel urgent pentru cooperare globală. Există temeri serioase că dezvoltarea necontrolată a IA ar putea duce la o catastrofă de proporții, un avertisment exprimat explicit de informaticianul Stephen Casper de la MIT, în cadrul unei conferințe influente desfășurate la Beijing.
Pericolul unei „catastrofe AI”
Potrivit declarațiilor lui Casper, citate de publicația Wired, „un lucru asupra căruia aproape toată lumea din domeniul inteligenței artificiale poate fi de acord în acest moment este că inteligența artificială nu are nevoie de un moment Cernobîl”. Deși nu a oferit detalii suplimentare despre analogia sa, intenția este clară: cercetătorii se tem că un incident major ar putea afecta negativ percepția publică asupra inteligenței artificiale și ar putea să-i înăbușe dezvoltarea, similar cu impactul pe termen lung al dezastrului de la Cernobîl asupra industriei energiei nucleare.
Scenarii sumbre pentru viitorul IA
Analizele comunității științifice explorează o serie de scenarii potențial catastrofale generate de inteligența artificială. Acestea variază de la preluarea controlului de către sistemele IA până la înlocuirea masivă a forței de muncă umane, generând astfel șomaj la scară largă.
Un pericol emergent, descoperit recent, se referă la securitatea cibernetică. IA, fie acționând independent, fie sub comanda unor grupuri ostile, ar putea declanșa atacuri cibernetice cu un potențial distructiv imens. Un exemplu în acest sens este refuzul companiei Anthropic de a lansa public modelul său de IA, denumit Claude Mythos, în cursul acestui an. Unii specialiști susțin că acest model este atât de avansat încât ar fi capabil să pătrundă cu ușurință „în fiecare sistem de operare major și în fiecare browser web major”.
Sursa: Mediafax
