211service.com
Vuoi distribuire DeepSeek a livello locale? Una guida completa per te!
DeepSeek è popolare in questi giorni. Questo post da Magia di partizione introduce Requisiti di profondità e mostra come distribuire DeepSeek passo dopo passo. Puoi provare.
Cos'è DeepSeek?
DeepSeek è un chatbot creato dalla società di intelligenza artificiale cinese Deepseek. Questo chatbot può rispondere alle domande, risolvere i problemi logici e scrivere programmi per computer alla pari con altri chatbot.
Il 10 gennaio 2025, DeepSeek ha rilasciato il chatbot, basato sul modello DeepSeek-R1, per iOS e Android. Entro il 27 gennaio, DeepSeek-R1 aveva superato Chatgpt come l'app freeware più scaricata sull'app store iOS negli Stati Uniti.
DeepSeek utilizza significativamente meno risorse rispetto ai suoi coetanei. Le prestazioni competitive di Deepseek ad un costo relativamente minimo sono state riconosciute come potenzialmente sfidando il dominio globale dei modelli AI americani. Il 27 gennaio 2025, le azioni di Nvidia sono diminuite del 17-18%, così come lo stock di rivale Broadcom.
Leggi anche: DeepSeek Il server è occupato: usa DeepSeek localmente su Windows!
Requisiti di profondità
Puoi utilizzare la versione web di DeepSeek, ma puoi anche distribuire DeepSeek localmente sul tuo PC. Per fare ciò, il tuo PC dovrebbe soddisfare i requisiti di DeepSeek.
#1. Requisiti GPU di DeepSeek
Il modello 7B necessita di circa 16 GB VRAM (FP16) o 4 GB (quantizzazione a 4 bit). La modalità 16B necessita di circa 37 GB VRAM o 9 GB. Il modello 67B necessita di circa 154 GB VRAM o 38 GB. Il modello 236B richiede circa 543 GB VRAM o 136 GB. Il modello 671B necessita di circa 1.543 GB VRAM o 386 GB.
Come puoi vedere, i requisiti VRAM aumentano con la dimensione del modello. Se si utilizzano modelli più piccoli come 7B e 16B, sono adatte GPU di consumo come Nvidia RTX 4090. Se si utilizzano modelli più grandi, si consigliano GPU di livello dei data center come NVIDIA H100 o GPU di consumo multipli di fascia alta.
#2. Requisiti CPU e RAM DeepSeek
Si consiglia un potente processore multi-core come CPU a doppio EPYC con sostanziali configurazioni RAM. Per quanto riguarda la RAM, è consigliabile un minimo di 64 GB per la gestione in modo efficiente modelli più grandi.
#3. Requisiti di archiviazione DeepSeek
A seconda della dimensione del modello, lo spazio del disco necessario potrebbe variare da decine a centinaia di gigabyte per ospitare i file del modello e qualsiasi dati aggiuntivi richiesti per l'elaborazione.
Suggerimenti: Se lo desidera Aggiorna il disco rigido a uno più grande , questo mago della partizione del sito può aiutarti.questa demo del mago della partizione del sito Fai clic per scaricare 100% Pulito e sicuro
Come distribuire DeepSeek a livello locale
Se è necessario utilizzare spesso DeepSeek e avere esigenze di personalizzazione personalizzate, potresti voler distribuire DeepSeek localmente sul tuo PC. Per fare ciò, puoi fare riferimento alla seguente guida.
Passaggio 1: Scarica e installa Ollama adatto al tuo sistema. La posizione di installazione consigliata è l'unità C. Questo software è uno strumento per la gestione e l'esecuzione di grandi modelli a livello locale, che semplifica le operazioni di download e pianificazione dei modelli.
Passaggio 2: Torna al sito Web Ollama, fai clic su Modelli Scheda, quindi fare clic su DeepSeek-R1 . Seleziona la versione del modello. Più è grande è il numero, più i parametri del modello, più forti sono le prestazioni e maggiore è il requisito della memoria video. Quindi, copiare il comando visualizzato nella pagina.
Passaggio 3: Premere il Tasto logo Windows + R , tipo ' cmd 'Nella casella di testo, quindi premere Entrare per aprire Prompt dei comandi . Incolla il comando che hai copiato proprio ora e premere Entrare . Il sistema inizierà automaticamente a scaricare il modello.
Passaggio 4: Al termine del download, il computer avrà un profondo offline che può essere utilizzato anche quando la rete è disconnessa. A questo punto, è possibile inserire direttamente le domande nella riga di comando per iniziare a interagire con il modello.
Suggerimenti: Ogni volta che chiudi il computer, la prossima volta che si desidera chattare con DeepSeek, devi riavviare il prompt dei comandi e inserire il comando utilizzato per scaricare il modello. Leggi anche: Correggi ERRORE ERRORE DEEPEEEK 503 - Servizio temporaneamente non disponibileIn conclusione
Se si desidera distribuire DeepSeek a livello locale, il tuo PC deve soddisfare i requisiti di DeepSeek. Questo post te lo presenta.