Ollama bringt offene Sprachmodelle auf den eigenen Rechner – und in die Cloud
19. November 2026

Ollama startet offene KI-Modelle lokal mit einem Befehl und bietet kompatible APIs. Was das MIT-lizenzierte Tool kann, was die Cloud-Tarife kosten und wo die Grenzen liegen.
Worum es geht
Ollama ist eines der bekanntesten Werkzeuge, um offene Sprachmodelle auf dem eigenen Rechner laufen zu lassen. Das Projekt steht unter der MIT-Lizenz, das GitHub-Repository ollama/ollama hatte am 19. November 2026 rund 187.000 Sterne. Die aktuelle Version v0.40.16 erschien am 9. November 2026. Ollama ist längst nicht mehr nur ein Kommandozeilen-Tool für Bastler: Inzwischen gibt es Desktop-Apps für macOS, Windows und Linux, kompatible Schnittstellen für OpenAI- und Anthropic-Clients und ein kostenpflichtiges Cloud-Angebot für Modelle, die auf normaler Hardware nicht laufen.
Gerade diese Mischung aus lokal und Cloud macht einen nüchternen Blick sinnvoll: Was bekommt man kostenlos, wofür zahlt man, und wo liegen die Grenzen?
Was Ollama tatsächlich macht
Im Kern lädt Ollama ein Modell aus der eigenen Bibliothek herunter, verwaltet es lokal und stellt es über einen kleinen Server auf dem Rechner bereit. Ein Befehl wie ollama run gemma4 reicht, um im Terminal mit einem Modell zu chatten. Im Hintergrund nutzt Ollama unter anderem llama.cpp und unterstützt GPUs von Nvidia und AMD sowie Apple Silicon.
Laut Dokumentation lässt sich Ollama über die eigene API, aber auch über OpenAI- und Anthropic-kompatible Endpunkte ansprechen. Damit können viele bestehende Programme, die eigentlich für einen Cloud-Dienst gebaut wurden, ohne große Umbauten auf ein lokales Modell zeigen. Es gibt offizielle Bibliotheken für Python und JavaScript.
Neuer ist der Befehl ollama launch: Er startet Coding-Agenten wie Claude Code und verbindet sie mit einem ausgewählten Ollama-Modell. Das Release v0.40.16 vom 9. November 2026 stellt laut Changelog sicher, dass ollama launch claude Claude Code immer an das gewählte Modell leitet, und meldet verständlich, wenn ein Cloud-Modell eingestellt wurde.
Warum das wichtig ist
Für viele Teams ist die zentrale Frage nicht „Welches Modell ist das beste?“, sondern „Dürfen diese Daten den Rechner überhaupt verlassen?“. Ollama beantwortet das mit einer einfachen Antwort: Lokale Modelle laufen vollständig auf der eigenen Hardware. Das ist für Entwickler, Forschungsgruppen, Kanzleien oder Arztpraxen interessant, die Prototypen bauen wollen, ohne vertrauliche Texte an einen Anbieter zu schicken.
Gleichzeitig hat Ollama ein Cloud-Angebot aufgebaut. Laut Preisseite gibt es einen Pay-as-you-go-Tarif ohne Grundgebühr, bei dem man pro Token für Cloud-Modelle zahlt, einen Pro-Tarif für 20 US-Dollar im Monat mit 60 US-Dollar Nutzungsguthaben und einen Team-Tarif für 500 US-Dollar im Monat mit 1.000 US-Dollar geteiltem Guthaben. Außerhalb von 12:00 bis 18:00 Uhr UTC an Werktagen und am Wochenende gelten für einige Modelle günstigere Off-Peak-Preise. Wer also lokal startet und später mehr Rechenleistung braucht, muss nicht das Werkzeug wechseln.
Ollama ist außerdem ein Baustein in vielen anderen Tools. Oberflächen wie Open WebUI oder Recherche-Werkzeuge wie Khoj, über die Cyber Ivy bereits berichtet hat, können Ollama als Modell-Backend nutzen.
Einfach erklärt
Ollama ist wie eine Kaffeemaschine mit Kapselsystem für die Küche zu Hause. Man legt eine Kapsel ein, drückt einen Knopf und bekommt Kaffee, ohne Bohnen zu mahlen oder Wassertemperaturen einzustellen. Die Kapseln sind hier die Modelle, die Maschine kümmert sich um den Rest. Und wenn mal Gäste kommen und die eigene Maschine nicht reicht, kann man beim selben Hersteller Kaffee bestellen, muss dafür aber bezahlen und das Haus verlassen.
Praktisches Beispiel
Ein Steuerbüro mit acht Mitarbeitenden möchte testen, ob ein Sprachmodell Mandantenbriefe zusammenfassen kann. Die Daten sollen das Büro nicht verlassen. Eine Mitarbeiterin installiert Ollama auf einem Arbeitsplatzrechner mit 32 GB Arbeitsspeicher und lädt ein mittelgroßes offenes Modell herunter. Über eine schlanke Oberfläche fasst sie zehn anonymisierte Musterbriefe zusammen und vergleicht die Ergebnisse mit eigenen Notizen.
Bei sieben von zehn Briefen sind die Zusammenfassungen brauchbar, bei drei fehlen wichtige Fristen. Das Büro entscheidet: Das Modell darf Entwürfe liefern, aber jede Frist wird von einem Menschen geprüft. Gekostet hat der Test bis dahin nur Zeit und Strom, kein Abo.
Einordnung und Grenzen
- Hardware bestimmt die Qualität: Lokale Modelle sind durch Arbeitsspeicher und Grafikkarte begrenzt. Kleine Modelle laufen auf Laptops, liefern aber bei komplexen Aufgaben oft schwächere Ergebnisse als große Cloud-Modelle.
- Cloud bedeutet wieder Datenweitergabe: Sobald man Cloud-Modelle über Ollama nutzt, verlassen die Daten den eigenen Rechner. Wer Ollama wegen des Datenschutzes einsetzt, muss klar trennen, welches Modell lokal und welches in der Cloud läuft.
- Der lokale Server braucht Absicherung: Der Ollama-Server ist für den eigenen Rechner gedacht und bringt keine eigene Benutzerverwaltung mit. Wer ihn im Netzwerk oder im Internet erreichbar macht, sollte ihn hinter einen Reverse Proxy mit Anmeldung oder eine Firewall stellen. Sicherheitsforscher haben 2026 immer wieder offen erreichbare KI-Server gefunden.
Ollama ist außerdem kein fertiger Assistent für Endnutzer mit Dokumentenverwaltung oder Rechtekonzept. Es ist eher der Motor, um den herum man solche Anwendungen baut.
SEO- und GEO-Schlüsselbegriffe
Ollama, lokale KI, Local LLM, Open-Source-Sprachmodelle, llama.cpp, Ollama Cloud, OpenAI-kompatible API, Claude Code, Self-hosted AI, Datenschutz, Gemma, gpt-oss
💡 Im Klartext
Ollama ist ein kostenloses Programm, mit dem man KI-Sprachmodelle auf dem eigenen Computer nutzen kann, ohne dass Texte das Gerät verlassen. Wer größere Modelle braucht, kann sie gegen Bezahlung in der Cloud von Ollama nutzen. Dann gelten aber die üblichen Datenschutzfragen eines Cloud-Dienstes.
Wichtigste Erkenntnisse
- →Ollama ist MIT-lizenziert und läuft auf macOS, Windows und Linux.
- →Die Version v0.40.16 erschien am 9. November 2026 und verbessert unter anderem den Befehl ollama launch für Claude Code.
- →Ollama bietet eine eigene API sowie OpenAI- und Anthropic-kompatible Endpunkte.
- →Lokale Nutzung ist kostenlos; Cloud-Modelle kosten pro Token, Pro kostet 20 US-Dollar im Monat.
- →Wer Cloud-Modelle nutzt, gibt Daten an einen externen Dienst weiter.
- →Der lokale Server sollte nicht ungeschützt im Netz erreichbar sein.
Häufige Fragen
Ist Ollama kostenlos?
Die Software und die lokale Nutzung sind kostenlos und MIT-lizenziert. Kosten entstehen nur für Cloud-Modelle, entweder pro Token oder über die Tarife Pro und Team.
Welche Hardware brauche ich?
Kleine Modelle laufen auf aktuellen Laptops. Für größere Modelle sind viel Arbeitsspeicher und eine leistungsfähige Grafikkarte oder Apple Silicon hilfreich.
Bleiben meine Daten lokal?
Bei lokalen Modellen ja. Wenn Sie ein Cloud-Modell auswählen, werden die Anfragen an die Server von Ollama geschickt.
Kann ich bestehende Programme anbinden?
Ja, Ollama bietet OpenAI- und Anthropic-kompatible Schnittstellen sowie Bibliotheken für Python und JavaScript.