Sådan kører du DeepSeek AI-chatbot med Ollama på din VPS
DeepSeek har taget AI-verdenen med storm med sine imponerende sprogmodeller, der matcher eller overgår mange kommercielle alternativer - og er fuldstændig open source. Med Ollama kan du køre DeepSeek direkte på din egen VPS eller server, uden at sende data til tredjeparts API'er. Denne guide viser dig præcis, hvordan du gør det trin for trin.
Hvorfor køre DeepSeek lokalt?
Der er flere gode grunde til at køre AI-modeller som DeepSeek på din egen server frem for at bruge cloud-baserede API'er:
- Databeskyttelse: Dine data forlader aldrig din server - vigtigt for GDPR-overholdelse og fortrolige forretningsdata
- Ingen API-omkostninger: Undgå løbende API-udgifter ved høj brug
- Fuld kontrol: Tilpas modellen og dens adfærd præcis som du ønsker
- Offline-kapabilitet: Modellen kører uden internetforbindelse
- Ingen rate limits: Kør så mange forespørgsler, du har brug for
Hvad er Ollama?
Ollama er et open source-værktøj, der gør det nemt at køre store sprogmodeller (LLM'er) lokalt. Det håndterer download, installation og kørsel af modeller som DeepSeek, Llama, Mistral og mange andre. Ollama tilbyder en simpel kommandolinjegrænseflade og en REST API, som du kan integrere i dine applikationer.
Systemkrav
Kravene afhænger af hvilken DeepSeek-model du vil køre. Her er en oversigt:
| Model | RAM krav | Diskplads | Anbefalet brug |
|---|---|---|---|
| DeepSeek-R1:1.5b | 4 GB | ~1 GB | Test og udvikling |
| DeepSeek-R1:7b | 8 GB | ~4 GB | Lettere produktion |
| DeepSeek-R1:14b | 16 GB | ~8 GB | Balanceret ydeevne |
| DeepSeek-R1:32b | 32 GB | ~20 GB | Høj kvalitet |
| DeepSeek-R1:70b | 64 GB+ | ~40 GB | Maksimal kvalitet |
Til de fleste formål anbefaler vi at starte med DeepSeek-R1:7b på en VPS med 8-16 GB RAM. Det giver en god balance mellem ydeevne og ressourceforbrug.
Trin 1: Forbered din Linux VPS
Start med at opdatere dit system og sikre, at du har de nødvendige pakker installeret:
sudo apt update && sudo apt upgrade -y
sudo apt install -y curl wget gitTrin 2: Installer Ollama
Ollama kan installeres med ét enkelt kommando:
curl -fsSL https://ollama.com/install.sh | shInstallationsscriptet sætter automatisk Ollama op som en systemtjeneste, der starter ved boot. Verificer installationen:
ollama --versionTrin 3: Download DeepSeek-modellen
Nu kan du downloade DeepSeek-modellen. Her bruger vi 7b-versionen:
ollama pull deepseek-r1:7bDownload kan tage et stykke tid afhængigt af din forbindelseshastighed. Modellen gemmes lokalt og behøver kun downloades én gang.
Trin 4: Test modellen
Når download er færdig, kan du straks teste modellen i terminalen:
ollama run deepseek-r1:7bDu vil nu se en interaktiv prompt, hvor du kan stille spørgsmål direkte til modellen. Tast /bye for at afslutte.
Trin 5: Brug REST API'et
Ollama eksponerer automatisk en REST API på port 11434. Du kan bruge den til at integrere DeepSeek i dine applikationer:
curl http://localhost:11434/api/generate -d '{ "model": "deepseek-r1:7b", "prompt": "Forklar hvad en VPS er på dansk", "stream": false
}'Trin 6: Åbn API'et for ekstern adgang (valgfrit)
Som standard lytter Ollama kun på localhost. Hvis du vil tilgå API'et fra andre maskiner, skal du ændre konfigurationen:
# Rediger Ollama's systemd service
sudo systemctl edit ollama.service # Tilføj disse linjer under [Service]:
[Service]
Environment="OLLAMA_HOST=0.0.0.0" # Genstart tjenesten
sudo systemctl restart ollamaVigtigt: Hvis du åbner API'et for ekstern adgang, bør du beskytte det med en firewall og eventuelt en reverse proxy med autentificering.
Trin 7: Opsæt Open WebUI (valgfrit)
For en brugervenlig chatgrænseflade kan du installere Open WebUI, der giver dig en ChatGPT-lignende interface til dine lokale modeller:
# Installer Docker hvis du ikke allerede har det
curl -fsSL https://get.docker.com | sh # Kør Open WebUI
docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:mainÅbn nu din browser og gå til http://din-server-ip:3000 for at tilgå webgrænsefladen.
Optimering og tips
Her er nogle nyttige tips til at optimere din DeepSeek-opsætning:
- Brug GPU hvis tilgængeligt: Ollama understøtter automatisk NVIDIA og AMD GPU'er, hvilket giver markant hurtigere inferens
- Juster kontekstlængde: Kortere kontekst kræver mindre RAM og giver hurtigere svar
- Kør flere modeller: Ollama kan håndtere flere modeller simultant - nyttigt til at sammenligne resultater
- Automatisk opstart: Ollama-tjenesten starter automatisk ved serverrestart
Konklusion
At køre DeepSeek med Ollama på din egen VPS er overraskende nemt og giver dig fuld kontrol over dine AI-modeller og data. Med en VPS fra GITC med tilstrækkelig RAM og NVMe SSD-lager kan du have din egen AI-chatbot kørende på under 30 minutter.
Har du brug for mere kraft til tunge AI-workloads? GITC tilbyder også GPU-hosting til virksomheder, der ønsker at køre større modeller med maksimal ydeevne. Kontakt os for at høre mere om vores GPU-løsninger.