Was ist ein Large Language Model?

So funktioniert ein Sprachmodell

Ein LLM zerlegt Text in kleine Einheiten, sogenannte Tokens, und berechnet für jede Position, welches Token am wahrscheinlichsten folgt. Diese Wahrscheinlichkeiten hat es im Vortraining auf großen Textsammlungen gelernt; anschließendes Feintuning und menschliches Feedback bringen ihm bei, Anweisungen zu befolgen und im Dialog zu antworten. Im Einsatz – der sogenannten Inferenz – erhält das Modell eine Eingabe (den Prompt), verarbeitet sie innerhalb seines Kontextfensters und erzeugt die Antwort Token für Token.

• Parameter: die gelernten Gewichte des Modells; mehr Parameter bedeuten meist mehr Leistungsfähigkeit, aber auch mehr Rechenaufwand.
• Kontextfenster: die maximale Textmenge, die das Modell gleichzeitig berücksichtigen kann – Frage, Anweisungen, angehängte Dokumente und Chatverlauf.
• Wissensstand: Das Modell kennt nur, was in seinen Trainingsdaten stand; spätere oder unternehmensinterne Informationen sind ihm unbekannt.

Warum LLMs für Unternehmen relevant sind

LLMs übernehmen sprachlastige Arbeit, die bisher manuell erledigt wurde: E-Mails und Angebote entwerfen, Besprechungsnotizen zusammenfassen, Verträge strukturieren, wiederkehrende Fragen beantworten oder Daten auswerten. Der eigentliche Nutzen entsteht, wenn das Modell mit Unternehmenswissen verbunden wird – etwa über RAG – und Zugriff auf Werkzeuge erhält. Dann wird aus dem Sprachmodell ein KI-Agent, der Aufgaben ausführt.

Grenzen und Risiken

• Halluzinationen: Ein LLM erzeugt plausiblen Text, keine geprüften Fakten. Es kann Zahlen, Quellen oder Paragrafen erfinden; mehr dazu unter Halluzination.
• Kein Firmenwissen: Ohne Zugriff auf Ihre Dokumente antwortet das Modell nur allgemein.
• Datenschutz: Eingaben können personenbezogene Daten enthalten. Entscheidend sind Standort der Verarbeitung, Anbieter und ein Vertrag zur Auftragsverarbeitung – siehe DSGVO-konforme KI.
• Kosten: Abgerechnet wird meist pro Token; lange Dokumente und große Modelle erhöhen die Kosten.
• Modellwahl: Kein Modell ist überall das beste. Qualität, Geschwindigkeit, Preis und Hosting-Region unterscheiden sich.

Checkliste für die Modellauswahl

1. Anwendungsfälle klären: Text, Code, Analyse, Bilder oder Sprache?
2. Hosting-Region und Auftragsverarbeitungsbedingungen des Anbieters prüfen.
3. Qualität mit eigenen Beispielaufgaben vergleichen, nicht nur mit Benchmarks.
4. Kosten pro Token und Nutzungsgrenzen transparent machen.
5. Abhängigkeiten vermeiden: Die Möglichkeit, Modelle später zu wechseln, offenhalten.

LLMs in AIPE

AIPE ist selbst kein Sprachmodell, sondern eine Plattform, die verschiedene LLMs in einer Oberfläche nutzbar macht. Modellanbieter lassen sich pro Organisation konfigurieren; veröffentlichte Anbieter in EU-Regionen sind unter anderem Azure OpenAI (Sweden Central), Amazon Bedrock (Frankfurt), Google Vertex (europe-west1) und Mistral (EU). Anfragen laufen über einen Modell-Router, zusätzlich können Organisationen eigene Anbieter-Schlüssel hinterlegen (BYOK). Die Übersicht der verfügbaren Modelle finden Sie auf der Seite KI-Modelle; wie der Einstieg gelingt, beschreibt der Ratgeber KI im Mittelstand.