Rimani aggiornato con WebMasterPoint
Nei PC AI di AMD, la NPU gestisce i carichi di intelligenza artificiale direttamente in locale, alleggerendo CPU e GPU. Il suo ruolo nellelaborazione e limpatto su memoria e uso quotidiano mostrano come cambia il lavoro al computer.
AMD ha mostrato un modello AI con 35 miliardi di parametri mentre genera risposte in locale su un PC dotato di NPU XDNA 2, senza ricorrere al cloud. La dimostrazione stata realizzata con Unsloth Desktop e FastFlowLM: linferenza viene affidata a ununit dedicata, mentre CPU e GPU restano disponibili per gli altri carichi del sistema.
Il modello usato Qwen3.6 35B A3B, unarchitettura mixture-of-experts con 35 miliardi di parametri complessivi. Per eseguire il modello servono una NPU compatibile e memoria accessibile sufficiente. Sono questi gli elementi che determinano su quali PC AMD possibile riprodurre la prova.
Come la NPU esegue lintelligenza artificiale
La NPU un processore specializzato nei calcoli legati allintelligenza artificiale. Con lintegrazione annunciata da AMD e Unsloth, Unsloth Desktop supporta le NPU basate su architettura AMD XDNA 2. A gestire il serving e linferenza, cio il caricamento del modello e lelaborazione delle richieste, sono Lemonade e FastFlowLM (FLM), che indirizzano queste operazioni allunit dedicata.
Quando il carico supportato, il lavoro passa alla NPU anzich impegnare CPU o GPU. Le risorse principali del sistema rimangono cos disponibili per le altre applicazioni. Questa ripartizione pu anche contribuire a contenere i consumi, un vantaggio utile soprattutto sui portatili alimentati a batteria.
Il modello gira sul dispositivo: per le richieste elaborate localmente non occorre una connessione a un servizio cloud e i dati non devono essere inviati a un server esterno per quella fase. I servizi online, dal canto loro, possono mettere a disposizione risorse che non si trovano sul PC.
Memoria e uso quotidiano
Con il contesto completo, Qwen3.6 35B A3B richiede circa 28 GB di memoria accessibile alla NPU. Windows assegna per impostazione predefinita il 50% della memoria condivisa; con questa configurazione, il requisito corrisponde a un PC con 64 GB di RAM. La memoria quindi un elemento da considerare quando si sceglie un modello da eseguire in locale: il sistema deve poter riservare alla NPU lo spazio necessario.
Chi possiede un PC AMD con NPU XDNA 2 pu installare la versione Windows di Unsloth Desktop e selezionare il filtro NPU nel model hub. Dopo aver abilitato lopzione dedicata, pu scaricare un modello compatibile. Una volta completato il download, basta sceglierlo nella sezione NPU di New Chat e avviare linferenza.
Laccesso non limitato allinterfaccia di Unsloth Desktop. Le API del programma, compatibili con lo standard OpenAI, permettono di collegarsi anche a strumenti come Open WebUI, Cline e VS Code. La dimostrazione porta cos un modello di grandi dimensioni sullhardware locale, a condizione che memoria, NPU e software siano compatibili con il carico scelto.

