Conform Mediafax: NVIDIA propune o soluție ingenioasă pentru optimizarea utilizării resurselor de calcul din locuințe, prin intermediul noului sistem denumit Personal AI Router (PAIR). Acesta permite distribuirea sarcinilor de inteligență artificială către calculatoarele neutilizate dintr-o rețea locală, eliberând resursele PC-ului principal.
Optimizarea resurselor locale pentru inteligența artificială
Ideea NVIDIA pornește de la constatarea că numeroase locuințe dispun de mai multe calculatoare, o parte din capacitatea de procesare a acestora rămânând nefolosită. Estimările companiei indică faptul că în peste jumătate din gospodăriile din Statele Unite ale Americii există cel puțin două PC-uri. Sistemul PAIR vizează tocmai această resursă latentă.
Prin identificarea calculatoarelor compatibile în rețeaua locală, PAIR poate direcționa către acestea anumite sarcini de calcul. Un utilizator care lucrează pe PC-ul său principal nu mai este nevoit să consume integral resursele acestuia pentru rularea agenților de inteligență artificială. Acest lucru se traduce printr-o experiență mai fluidă pentru utilizator, fie că lucrează sau se joacă.
Cum funcționează PAIR în scenarii complexe
Sistemul PAIR este conceput special pentru situațiile în care agenții AI trebuie să gestioneze sarcini complexe, împărțindu-le în sub-sarcini. De exemplu, un agent responsabil cu organizarea unei căsuțe de e-mail poate delega activități către mai mulți subagenți. PAIR facilitează apoi distribuirea acestor operațiuni către calculatoarele disponibile în rețeaua locală, optimizând astfel procesul.
Astfel, un PC care în mod normal ar fi inactiv poate contribui activ la puterea de procesare necesară. Acest mecanism asigură că calculatorul principal rămâne rapid și responsiv pentru alte activități critice, cum ar fi sarcinile de muncă sau sesiunile de joc. Este o abordare eficientă pentru a valorifica la maximum infrastructura de calcul existentă în locuințe.
Compatibilitate și disponibilitate
NVIDIA PAIR se integrează cu platforme populare precum Ollama și LM Studio, oferind utilizatorilor flexibilitate în utilizarea sa. Soluția este disponibilă în prezent într-o versiune beta, compatibilă cu sistemele de operare Windows, macOS și Linux. Aceasta demonstrează angajamentul NVIDIA de a facilita accesul la tehnologiile AI.
Compatibilitatea se extinde la o gamă largă de hardware, incluzând plăcile GeForce RTX începând cu seria RTX 20, anumite plăci RTX PRO, precum și sistemele DGX Spark. De asemenea, calculatoarele Apple echipate cu cipuri M4 sau versiuni mai noi sunt compatibile cu această soluție. Această deschidere către diverse configurații hardware extinde semnificativ potențialul de adoptare al sistemului.
Acest concept reprezintă un pas important în strategia NVIDIA de a descentraliza procesarea inteligenței artificiale, mutând o parte din aceasta de pe serverele din cloud direct pe dispozitivele utilizatorilor. Pe lângă PAIR, compania a anunțat la IFA 2026 și instrumente noi pentru simplificarea rulării locale a agenților AI, precum și optimizări pentru llama.cpp și vLLM, care promit creșteri semnificative ale vitezei de inferență pe anumite sisteme.
Sursa: Mediafax
