AMD Ryzen 5 4600G, la prima APU utilizzata per l’IA come scheda

Una delle peculiarità di una CPU è che possono eseguire qualsiasi algoritmo. Sebbene non lo facciano in modo efficiente o rapido come un chip dedicato, il fatto che si tratti di un chip generico ha i suoi vantaggi. D’altra parte non è normale vederli come chip di supporto, ma è ciò che ha fatto un utente trasformando un AMD Ryzen in una scheda AI per il tuo PC.

La capacità di creare schede di espansione espandere le capacità di un PC, è qualcosa che esiste sin dal primo modello lanciato da IBM nel 1981 ed è stato mantenuto fino ad oggi. Cosa ha permesso di produrre nuove parti hardware finora sconosciute e che hanno contribuito a rendere possibile la sviluppo di nuove applicazioniSono lui scoperta di nuovi usi del PC. Tuttavia, quello che vi proponiamo oggi è qualcosa di atipico, l’utilizzo di una CPU che presiede a una scheda di questo tipo, invece di farlo su un PC.

Trasformano un AMD Ryzen 5 4600G in una scheda di espansione per l’IA

Un utente ha costruito una scheda di espansionepresieduto dall’a APU AMDin particolare il modello AMD Ryzen 5 4600Gcon 6 core e 12 thread di esecuzione. L’obiettivo? Dal momento in cui detto chip ha un file GPU integratapiuttosto è stato utilizzare detto componente all’interno del chip per poterlo misurare le sue prestazioni con l’intelligenza artificiale generativache ha saputo generare in 1 minuto e 50 secondi un’immagine creata localmente tramite diffusione stabile. Il che non è male per un chip che costa meno di $ 100.

La chiave del successo di questo esperimento risiede però nella allocazione della memoria. Ed è proprio quella delle particolarità che permette di realizzare il PCI Express è la creazione di schede di espansione senza memoria propriapoiché il sistema può essere utilizzato tramite meccanismi DMA, che è ciò che dispositivi come SSD senza DRAM. Pertanto, il creatore del mod ha scelto di assegnare 16 GB dei 32 GB di indirizzi di memoria del suo PC per l’uso esclusivo dell’AMD Ryzen come scheda AI.

Nel video puoi vedere come l’utente commenta come l’AMD Ryzen 5 4600G può funzionare senza problemi buona parte delle applicazioni dell’IANon solo diffusione stabilema anche tanti altri come: Chat veloce, miniGPT-4, Alpaca-LoRA, sussurro, LLME Chiamate. Il problema? Hai mostrato solo la performance del primo e inoltre non hai specificato il tutto Processo di costruzione E collocamento dell’hardware.

Perché avere molta chiave di memoria nell’IA?

La risposta è semplice: il modelli utilizzati per l’intelligenza artificiale hanno un certo peso e devono adattarsi alla memoria Sebbene in un ambiente professionale possiamo vedere diverse schede grafiche lavorare all’unisono e condividere i loro spazi di memoria, questo non è il caso nel mondo dei PC, soprattutto quando molte schede madri non supportano più protocolli di comunicazione tra schede come SLI E fuoco incrociato Oggi. Pertanto, molti utenti con un PC dedito al mondo dell’intelligenza artificiale finiscono per scegliere prima GPU accompagnate da una buona quantità di VRAM, che non è potente.

Tieni presente che se devi caricare un modello AI che richiede 16 GB e disponi di una scheda grafica da 8 GB, non sarai in grado di utilizzarla a meno che non inserisci un’altra scheda grafica nel sistema o ne acquisti una con 16 GB. D’altro canto un AMD Ryzen come scheda di espansione e una tale quantità di memoria possono succedere e lo stesso accadrebbe con un Intel Core. La differenza è che è qualcosa di molto più lento quando si tratta di ottenere risultati, ma la cosa importante qui è il basso costoe dell’esperimento.

Tuttavia, non vedremo CPU a basso costo fungere da carte per l’IA, ma piuttosto schede grafiche orientate all’intelligenza artificiale, ma con una maggiore quantità di memoria rispetto ai modelli convenzionali. E non lo diciamo tanto per dirlo, il GDDR6Wcon capacità fino a 4 GB per chip di memoriaè stato creato proprio per questo.