Was bedeutet die Abkürzung LLM?

LLM steht für „Large Language Model“, auf Deutsch „großes Sprachmodell“. Gemeint ist die Technik hinter Werkzeugen wie ChatGPT: ein KI-System, das Texte versteht und selbst formuliert. „Lokal“ heißt, dass dieses Modell in der eigenen Infrastruktur läuft statt bei einem externen Anbieter.

Was ist der Unterschied zwischen einem lokalen LLM und ChatGPT?

ChatGPT ist ein Online-Dienst: Ihre Anfrage geht über das Internet an die Server des Anbieters und wird dort verarbeitet. Ein lokales LLM läuft dagegen auf eigener Hardware. Die Anfrage bleibt im Haus und verlässt Ihre Infrastruktur nicht.

Was bedeutet „Open-Weight“?

Open-Weight-Modelle sind Sprachmodelle, deren fertig trainierte Bausteine — die „Gewichte“ — frei verfügbar sind. Man darf sie herunterladen und auf eigener Hardware betreiben. Erst das macht den lokalen Betrieb überhaupt möglich, denn geschlossene Modelle lassen sich nur als Online-Dienst nutzen.

Brauche ich technisches Wissen, um ein lokales LLM zu nutzen?

Für den Einsatz im Unternehmen braucht es jemanden, der die Einrichtung und den Betrieb übernimmt — das ist mehr Aufwand als das Anmelden bei einem Online-Dienst. Für die Anwender selbst fühlt sich ein gut eingerichtetes lokales LLM aber an wie jedes andere KI-Werkzeug: Frage stellen, Antwort bekommen.

Wissen · Aktualisiert: 4. Juni 2026

Was ist ein lokales LLM?

Eine kompakte, verständliche Antwort auf die Frage „Was ist ein lokales LLM?“ — mit Definition, dem Unterschied zur Cloud und einem Alltagsbeispiel.

Von Slava Spitsyn · AI Builder · Redaktionelle Grundsätze (englisch)

Ein lokales LLM ist ein großes Sprachmodell — die Technik hinter Werkzeugen wie ChatGPT —, das in der eigenen Infrastruktur eines Unternehmens läuft statt auf den Servern eines externen Anbieters. Anfragen und Daten werden auf eigener Hardware verarbeitet und verlassen das Haus nicht. Damit ist es eine Alternative zur klassischen Cloud-KI, bei der jede Anfrage über das Internet an einen Dienstleister geht.

Der Begriff setzt sich aus zwei Teilen zusammen: LLM steht für Large Language Model, also „großes Sprachmodell“ — ein KI-System, das Texte versteht und selbst formuliert. Lokal beschreibt, wo dieses Modell läuft: bei Ihnen, nicht beim Anbieter.

Lokal oder Cloud — der zentrale Unterschied

Bei einem klassischen KI-Dienst wie ChatGPT geben Sie Ihre Frage in ein Eingabefeld ein, diese reist über das Internet zu den Servern des Anbieters, wird dort verarbeitet und kommt als Antwort zurück. Bequem, aber: Ihre Eingaben verlassen dabei Ihr Haus.

Bei einem lokalen LLM passiert dieselbe Verarbeitung auf eigener Hardware — im eigenen Rechenzentrum oder auf eigenen Servern. Die Frage muss nicht ins Internet, die Antwort entsteht im Haus. Das ist vor allem dann wichtig, wenn die Inhalte sensibel sind und nicht an Dritte gelangen sollen.

Ein Bild dazu: Die Cloud-KI ist wie ein Übersetzungsbüro, dem Sie Ihre Dokumente zuschicken — schnell und ohne eigenen Aufwand, aber die Dokumente liegen kurzzeitig bei jemand anderem. Das lokale LLM ist wie ein eigener Übersetzer im Haus: Die Unterlagen verlassen das Gebäude nie.

Was „Open-Weight“ bedeutet

Lokaler Betrieb ist nur möglich, weil es Modelle gibt, die man selbst herunterladen und ausführen darf — sogenannte Open-Weight-Modelle. Der Hersteller veröffentlicht dabei die fertig trainierten Bausteine des Modells (die „Gewichte“) frei zur Nutzung. So kann das Modell auf eigener Hardware laufen, ohne dass man für jede Anfrage einen Dienst des Herstellers anspricht.

Das Gegenstück sind geschlossene Modelle, die nur als Online-Dienst verfügbar sind: Man kann sie benutzen, aber nicht selbst betreiben. Bekannte Open-Weight-Familien sind Llama (von Meta), Mistral (vom französischen Anbieter Mistral AI) und Qwen (vom chinesischen Konzern Alibaba).

Ein Alltagsbeispiel

Stellen Sie sich eine Anwaltskanzlei vor, die KI nutzen möchte, um lange Schriftsätze zusammenzufassen. Die Dokumente enthalten sensible Mandatsinformationen, die das Haus nicht verlassen dürfen.

Ein Cloud-Dienst würde verlangen, diese Dokumente über das Internet zu übermitteln — für viele Kanzleien ein Problem. Ein lokales LLM dagegen läuft auf einem Server in der Kanzlei selbst: Der Schriftsatz wird im Haus zusammengefasst, die Inhalte gelangen nicht nach außen. Genau dieser Unterschied macht lokale LLMs für datensensible Branchen interessant.

Mehr erfahren

Dieser Beitrag erklärt den Begriff im Überblick. Warum lokale LLMs für Unternehmen interessant sind, welche Modelle es gibt und wann sich der eigene Betrieb lohnt, lesen Sie im ausführlichen Leitfaden Lokale LLMs für Unternehmen. Wann eher die Cloud sinnvoll ist, behandelt der Beitrag Lokales LLM oder Cloud-KI: Wann was?.