So betreiben Sie einen DeepSeek-KI-Chatbot mit Ollama auf Ihrem VPS

DeepSeek hat die KI-Welt mit beeindruckenden Sprachmodellen erobert, die viele kommerzielle Alternativen erreichen oder übertreffen und vollständig Open Source sind. Mit Ollama können Sie DeepSeek direkt auf Ihrem eigenen VPS oder Server ausführen, ohne Daten an Drittanbieter-APIs zu senden. Dieser Leitfaden zeigt Schritt für Schritt, wie es geht.

Warum DeepSeek lokal ausführen?

Es gibt mehrere gute Gründe, KI-Modelle wie DeepSeek auf dem eigenen Server statt über cloudbasierte APIs zu nutzen:

• Datenschutz: Ihre Daten verlassen Ihren Server nicht – wichtig für die Einhaltung der DSGVO und vertrauliche Geschäftsdaten
• Keine API-Kosten: Vermeiden Sie laufende API-Gebühren bei intensiver Nutzung
• Volle Kontrolle: Passen Sie das Modell und sein Verhalten genau an Ihre Wünsche an
• Offline-Nutzung: Das Modell läuft ohne Internetverbindung
• Keine Anfragebegrenzung: Stellen Sie so viele Anfragen wie nötig

Was ist Ollama?

Ollama ist ein Open-Source-Werkzeug, mit dem sich große Sprachmodelle (LLMs) einfach lokal ausführen lassen. Es übernimmt Download, Installation und Ausführung von DeepSeek, Llama, Mistral und vielen weiteren Modellen. Ollama bietet eine einfache Kommandozeile und eine REST-API zur Einbindung in Ihre Anwendungen.

Systemanforderungen

Die Anforderungen hängen davon ab, welches DeepSeek-Modell Sie ausführen möchten. Hier ein Überblick:

Für die meisten Zwecke empfehlen wir zunächst DeepSeek-R1:7b auf einem VPS mit 8–16 GB RAM. Das bietet ein gutes Verhältnis zwischen Leistung und Ressourcenbedarf.

Schritt 1: Linux-VPS vorbereiten

Aktualisieren Sie zunächst Ihr System und stellen Sie sicher, dass die erforderlichen Pakete installiert sind:

sudo apt update && sudo apt upgrade -y
sudo apt install -y curl wget git

Schritt 2: Ollama installieren

Ollama lässt sich mit einem einzigen Befehl installieren:

curl -fsSL https://ollama.com/install.sh | sh

Das Installationsskript richtet Ollama automatisch als Systemdienst ein, der beim Booten startet. Prüfen Sie die Installation:

ollama --version

Schritt 3: DeepSeek-Modell herunterladen

Jetzt können Sie das DeepSeek-Modell herunterladen. Hier verwenden wir die 7b-Version:

ollama pull deepseek-r1:7b

Der Download kann je nach Verbindungsgeschwindigkeit etwas dauern. Das Modell wird lokal gespeichert und muss nur einmal heruntergeladen werden.

Schritt 4: Modell testen

Sobald der Download abgeschlossen ist, können Sie das Modell direkt im Terminal testen:

ollama run deepseek-r1:7b

Sie sehen nun eine interaktive Eingabeaufforderung und können dem Modell direkt Fragen stellen. Geben Sie /bye ein, um die Sitzung zu beenden.

Schritt 5: REST-API verwenden

Ollama stellt automatisch eine REST-API auf Port 11434 bereit. Damit können Sie DeepSeek in Ihre Anwendungen integrieren:

curl http://localhost:11434/api/generate -d '{ "model": "deepseek-r1:7b", "prompt": "Forklar hvad en VPS er på dansk", "stream": false
}'

Schritt 6: Externen API-Zugriff erlauben (optional)

Standardmäßig lauscht Ollama nur auf localhost. Für den API-Zugriff von anderen Rechnern müssen Sie die Konfiguration ändern:

# Rediger Ollama's systemd service
sudo systemctl edit ollama.service # Tilføj disse linjer under [Service]:
[Service]
Environment="OLLAMA_HOST=0.0.0.0" # Genstart tjenesten
sudo systemctl restart ollama

Wichtig: Wenn Sie externen API-Zugriff erlauben, sollten Sie ihn durch eine Firewall und gegebenenfalls einen Reverse-Proxy mit Authentifizierung schützen.

Schritt 7: Open WebUI einrichten (optional)

Für eine benutzerfreundliche Chatoberfläche können Sie Open WebUI installieren. Es bietet eine ChatGPT-ähnliche Oberfläche für Ihre lokalen Modelle:

# Installer Docker hvis du ikke allerede har det
curl -fsSL https://get.docker.com | sh # Kør Open WebUI
docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main

Öffnen Sie nun im Browser http://din-server-ip:3000, um die Weboberfläche aufzurufen.

Optimierung und Tipps

Hier einige hilfreiche Tipps zur Optimierung Ihrer DeepSeek-Installation:

• GPU nutzen, falls vorhanden: Ollama unterstützt NVIDIA- und AMD-GPUs automatisch und ermöglicht dadurch deutlich schnellere Inferenz
• Kontextlänge anpassen: Kürzere Kontexte benötigen weniger RAM und liefern schnellere Antworten
• Mehrere Modelle ausführen: Ollama kann mehrere Modelle gleichzeitig verwalten – praktisch zum Vergleichen der Ergebnisse
• Automatischer Start: Der Ollama-Dienst startet nach einem Serverneustart automatisch

Fazit

DeepSeek mit Ollama auf dem eigenen VPS auszuführen ist überraschend einfach und gibt Ihnen die volle Kontrolle über Ihre KI-Modelle und Daten. Mit einem GITC-VPS mit ausreichend RAM und NVMe-SSD-Speicher können Sie Ihren eigenen KI-Chatbot in weniger als 30 Minuten betreiben.

Benötigen Sie mehr Leistung für anspruchsvolle KI-Workloads? GITC bietet auch GPU-Hosting für Unternehmen, die größere Modelle mit maximaler Leistung ausführen möchten. Kontaktieren Sie uns, um mehr über unsere GPU-Lösungen zu erfahren.