Sådan kører du DeepSeek AI-chatbot med Ollama på din VPS

DeepSeek har taget AI-verdenen med storm med sine imponerende sprogmodeller, der matcher eller overgår mange kommercielle alternativer - og er fuldstændig open source. Med Ollama kan du køre DeepSeek direkte på din egen VPS eller server, uden at sende data til tredjeparts API'er. Denne guide viser dig præcis, hvordan du gør det trin for trin.

Hvorfor køre DeepSeek lokalt?

Der er flere gode grunde til at køre AI-modeller som DeepSeek på din egen server frem for at bruge cloud-baserede API'er:

  • Databeskyttelse: Dine data forlader aldrig din server - vigtigt for GDPR-overholdelse og fortrolige forretningsdata
  • Ingen API-omkostninger: Undgå løbende API-udgifter ved høj brug
  • Fuld kontrol: Tilpas modellen og dens adfærd præcis som du ønsker
  • Offline-kapabilitet: Modellen kører uden internetforbindelse
  • Ingen rate limits: Kør så mange forespørgsler, du har brug for

Hvad er Ollama?

Ollama er et open source-værktøj, der gør det nemt at køre store sprogmodeller (LLM'er) lokalt. Det håndterer download, installation og kørsel af modeller som DeepSeek, Llama, Mistral og mange andre. Ollama tilbyder en simpel kommandolinjegrænseflade og en REST API, som du kan integrere i dine applikationer.

Systemkrav

Kravene afhænger af hvilken DeepSeek-model du vil køre. Her er en oversigt:

ModelRAM kravDiskpladsAnbefalet brug
DeepSeek-R1:1.5b4 GB~1 GBTest og udvikling
DeepSeek-R1:7b8 GB~4 GBLettere produktion
DeepSeek-R1:14b16 GB~8 GBBalanceret ydeevne
DeepSeek-R1:32b32 GB~20 GBHøj kvalitet
DeepSeek-R1:70b64 GB+~40 GBMaksimal kvalitet

Til de fleste formål anbefaler vi at starte med DeepSeek-R1:7b på en VPS med 8-16 GB RAM. Det giver en god balance mellem ydeevne og ressourceforbrug.

Trin 1: Forbered din Linux VPS

Start med at opdatere dit system og sikre, at du har de nødvendige pakker installeret:

sudo apt update && sudo apt upgrade -y
sudo apt install -y curl wget git

Trin 2: Installer Ollama

Ollama kan installeres med ét enkelt kommando:

curl -fsSL https://ollama.com/install.sh | sh

Installationsscriptet sætter automatisk Ollama op som en systemtjeneste, der starter ved boot. Verificer installationen:

ollama --version

Trin 3: Download DeepSeek-modellen

Nu kan du downloade DeepSeek-modellen. Her bruger vi 7b-versionen:

ollama pull deepseek-r1:7b

Download kan tage et stykke tid afhængigt af din forbindelseshastighed. Modellen gemmes lokalt og behøver kun downloades én gang.

Trin 4: Test modellen

Når download er færdig, kan du straks teste modellen i terminalen:

ollama run deepseek-r1:7b

Du vil nu se en interaktiv prompt, hvor du kan stille spørgsmål direkte til modellen. Tast /bye for at afslutte.

Trin 5: Brug REST API'et

Ollama eksponerer automatisk en REST API på port 11434. Du kan bruge den til at integrere DeepSeek i dine applikationer:

curl http://localhost:11434/api/generate -d '{ "model": "deepseek-r1:7b", "prompt": "Forklar hvad en VPS er på dansk", "stream": false
}'

Trin 6: Åbn API'et for ekstern adgang (valgfrit)

Som standard lytter Ollama kun på localhost. Hvis du vil tilgå API'et fra andre maskiner, skal du ændre konfigurationen:

# Rediger Ollama's systemd service
sudo systemctl edit ollama.service # Tilføj disse linjer under [Service]:
[Service]
Environment="OLLAMA_HOST=0.0.0.0" # Genstart tjenesten
sudo systemctl restart ollama

Vigtigt: Hvis du åbner API'et for ekstern adgang, bør du beskytte det med en firewall og eventuelt en reverse proxy med autentificering.

Trin 7: Opsæt Open WebUI (valgfrit)

For en brugervenlig chatgrænseflade kan du installere Open WebUI, der giver dig en ChatGPT-lignende interface til dine lokale modeller:

# Installer Docker hvis du ikke allerede har det
curl -fsSL https://get.docker.com | sh # Kør Open WebUI
docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main

Åbn nu din browser og gå til http://din-server-ip:3000 for at tilgå webgrænsefladen.

Optimering og tips

Her er nogle nyttige tips til at optimere din DeepSeek-opsætning:

  • Brug GPU hvis tilgængeligt: Ollama understøtter automatisk NVIDIA og AMD GPU'er, hvilket giver markant hurtigere inferens
  • Juster kontekstlængde: Kortere kontekst kræver mindre RAM og giver hurtigere svar
  • Kør flere modeller: Ollama kan håndtere flere modeller simultant - nyttigt til at sammenligne resultater
  • Automatisk opstart: Ollama-tjenesten starter automatisk ved serverrestart

Konklusion

At køre DeepSeek med Ollama på din egen VPS er overraskende nemt og giver dig fuld kontrol over dine AI-modeller og data. Med en VPS fra GITC med tilstrækkelig RAM og NVMe SSD-lager kan du have din egen AI-chatbot kørende på under 30 minutter.

Har du brug for mere kraft til tunge AI-workloads? GITC tilbyder også GPU-hosting til virksomheder, der ønsker at køre større modeller med maksimal ydeevne. Kontakt os for at høre mere om vores GPU-løsninger.