W0

Vom Sprachmodell zum Agenten

Die Grundlagen, bevor wir mit Claude arbeiten

Inhalt

Was ein Sprachmodell ist

Und was nicht

KI, Machine Learning, Sprachmodell

Claude ist ein Large Language Model (LLM): ein Sprachmodell, das aus riesigen Textmengen gelernt hat, wie Text weitergeht.

KI · Künstliche Intelligenz
ML · Machine Learning
LLM
Large Language Model
Sprachmodelle: Claude, GPT, Gemini
Von außen nach innen immer spezifischer: LLM steckt in ML, ML steckt in KI.

Was ein Sprachmodell nicht ist

Die meisten Enttäuschungen entstehen, weil man etwas anderes erwartet, als ein Sprachmodell ist.

Keine Suchmaschine

Es sucht nicht von selbst im Netz. Es antwortet aus dem, was es im Training gelesen hat — bis zu einem Stichtag.

Keine Datenbank

Es schlägt nichts exakt nach. Es rekonstruiert plausiblen Text — Zahlen und Namen inklusive.

Kein normales Programm

Gleiche Eingabe heißt nicht gleiche Ausgabe. Zweimal fragen, zwei Antworten.

Kein Gedächtnis

Zwischen zwei Aufrufen behält das Modell nichts. Was es wissen soll, muss jedes Mal mitgeschickt werden.

Das Kontextfenster

Token, Fenster, Vorhersage

Das Modell liest Token, nicht Wörter

Bevor das Modell rechnet, wird der Text in Token zerlegt — Wortteile aus einem festen Vokabular.

Der Kunde storniert die Buchung vom 12. März
  1. Ein Token ist oft kürzer als ein Wort. Deutsche Texte brauchen meist mehr Token als englische.
  2. Token sind die Währung: Kontingent und Grenzen werden in Token gemessen, nicht in Wörtern oder Seiten.
  3. Jede Datei, jede Mail, jede Antwort belegt Token — auch was Claude für einen Auftrag selbst liest.
# Größenordnungen
kurze Frage: wenige Token
lange Mail: Hunderte
Bericht, 20 Seiten: Tausende
Postfach, 100 Mails: Zehntausende

# wie groß das Fenster ist,
# hängt vom Modell ab

Im Kontextfenster steht alles, was das Modell sieht

Das Kontextfenster ist die gesamte Eingabe eines Aufrufs.
Was nicht darin steht, existiert für das Modell nicht.

  1. Unsichtbar für euch, aber immer dabei: Anweisungen von Anthropic und eure eigenen Anweisungen.
  2. Der bisherige Verlauf der Unterhaltung, mit allen Antworten.
  3. Was Claude gelesen hat: Dateien, Mails, Kalendereinträge, Suchergebnisse.
  4. Die neue Nachricht — der eigentliche Prompt ist oft der kleinste Teil.
Kontextfenster eines Aufrufs
Anweisungen (System, Projekt)
Verlauf: Frage 1, Antwort 1 …
gelesen: 12 Mails aus dem Postfach
gelesen: Kalender dieser Woche
neue Nachricht: „Bereite Montag vor"
frei
AnweisungenPrompt
Ein guter Auftrag sorgt dafür, dass das Richtige im Fenster steht.

Die Antwort hängt am Inhalt des Fensters

Das Modell berechnet für jedes nächste Token, wie wahrscheinlich es ist — abhängig von allem, was im Fenster steht.

  1. Der Kontext steuert: Stehen „Konto", „Beleg" und „Rechnung" im Fenster, wird „Buchung" wahrscheinlich.
  2. Anderer Kontext, andere Antwort: Derselbe Satz nach einem Reisebericht macht „Reise" wahrscheinlich.
  3. Gewählt wird das Wahrscheinliche, nicht das Wahre. Daraus kommen die Stärken — und die Fehler.
… der Beleg zur Rechnung wurde auf das Konto …
Modellrechnet Wahrscheinlichkeiten
gebucht 61 %
überwiesen 22 %
… 17 %
Zahlen erfunden, zur Veranschaulichung

Kein Gedächtnis

Warum Claude sich trotzdem erinnert

Bei jeder Nachricht wird alles neu geschickt

Das Modell behält zwischen zwei Aufrufen nichts.
Die App schickt bei jeder Nachricht den ganzen Verlauf erneut mit.

Runde Was tatsächlich an das Modell geht
1Anweisungen + Frage 1
2Anweisungen + Frage 1 + Antwort 1 + Frage 2
3Anweisungen + Frage 1 + Antwort 1 + Frage 2 + Antwort 2 + Frage 3
…… bis das Fenster voll ist
Das „Gedächtnis" im Chat entsteht dadurch, dass die App den Verlauf jedes Mal mitschickt.

Was aus dem fehlenden Gedächtnis folgt

Drei Arbeitsregeln folgen direkt daraus, dass alles neu geschickt wird.

1Lange Unterhaltungen werden schlechter, nicht besser. Alter Verlauf belegt Platz und lenkt ab.
2Neu anfangen ist ein Werkzeug. Eine frische Unterhaltung mit einem klaren Auftrag schlägt die hundertste Nachricht.
3Was immer gelten soll, gehört in Anweisungen oder ein Projekt — nicht in eine Nachricht von gestern.
Faustregel: neues Thema, neue Unterhaltung.

Erfundenes und Schwankendes

Halluzination, Zufall, Stichtag

Eine Halluzination klingt wie eine richtige Antwort

Das Modell formuliert Erfundenes genauso sicher wie Belegtes.

Prompt

Die Eingabe an das Modell — Frage, Auftrag, Kontext.

Antwort

Die Fortsetzung, die das Modell erzeugt — Text, Tabelle, Plan.

Halluzination

Eine Antwort, die überzeugend klingt, aber falsch ist — eine erfundene Zahl, Quelle oder Frist.

Erfindungen stecken im Konkreten: Zahlen, Namen, Daten, Zitate.

Derselbe Auftrag, verschiedene Antworten

Das Modell zieht jedes Token aus einer Wahrscheinlichkeitsverteilung.
Zweimal derselbe Auftrag heißt zweimal ein anderer Weg.

Funktioniert nicht

„Gestern hat es geklappt, also klappt es heute."

„Ich finde den perfekten Prompt und bekomme immer dasselbe."

„Die Kollegin hat denselben Prompt, also dasselbe Ergebnis."

Funktioniert

Ein prüfbares Ergebnis statt eines immer gleichen Wegs.

Die Abnahme festlegen: Was muss am Ende nachweisbar dastehen?

Der Weg darf schwanken, die Abnahme nicht.

Das Wissen endet an einem Stichtag

Das Modell hat bis zu einem Stichtag gelernt.
Was danach passiert ist, kennt es nicht — und es merkt das nicht.

Gefährlich

Es sagt nicht „kenne ich nicht", sondern antwortet plausibel mit dem alten Stand: eine Preisliste, eine Regelung, ein Produktname.

Gegenmittel

Nachsehen lassen statt erinnern lassen: Web-Suche, die Datei, die Mail, die Seite im Wissensspeicher — und die Quelle mit angeben lassen.

Vom Textgenerator zum Agenten

Die Schleife mit Werkzeugen

Ein Agent ist ein Sprachmodell in einer Schleife

Ein Agent bekommt Werkzeuge: Er liest, sucht und schreibt selbst — und legt jedes Ergebnis zurück ins Kontextfenster.

  1. Das Modell schlägt einen Schritt vor, etwa „suche Mails von Lieferant X".
  2. Die App führt ihn aus — über einen Connector, eine Datei, die Web-Suche.
  3. Das Ergebnis kommt ins Fenster, und das Modell plant den nächsten Schritt.
  4. Das wiederholt sich, bis der Auftrag erledigt ist oder eine Freigabe nötig wird.
Auftrag
bis erledigt
Modell plant
den Schritt
App führt ausConnector, Datei, Suche
Ergebnis
ins Fenster
zurück zum Modell
Freigabe nötig? Mensch entscheidet
Ergebnis: Antwort, Datei, Entwurf
ModellAppdie Schleife

Werkzeuge erden das Modell an der Wirklichkeit

Die Schwächen eines Sprachmodells lassen sich nicht abtrainieren.
Werkzeuge ersetzen Erinnern durch Nachsehen.

Schwäche Werkzeug dagegen in Claude
Stichtag, veraltetes Wissenaktuelle Quelle lesenWeb-Suche, Dateien, Connectors
Erfundene Zahlen und NamenBelege ins Fenster holenConnector zu Mail, Drive, Notion; Quellenangabe verlangen
Kein Gedächtnisfestgehaltener KontextAnweisungen, Projekte, Memory, Skills
Schwankende Antwortenprüfbares ErgebnisAbnahme im Auftrag, Entwurf statt Versand
Ein Agent ist so verlässlich wie das, was er nachsehen kann — und wie die Prüfung am Ende.

W0 in fünf Sätzen

Was von diesem Deck hängenbleiben soll.

  1. Ein Sprachmodell setzt Text wahrscheinlich fort — es sucht nicht, schlägt nicht nach und rechnet nicht exakt.
  2. Das Modell sieht nur das Kontextfenster. Was nicht darin steht, existiert nicht.
  3. Es behält nichts. Die App schickt den Verlauf jedes Mal neu — deshalb: neues Thema, neue Unterhaltung.
  4. Erfundenes klingt wie Belegtes, und derselbe Auftrag gibt verschiedene Antworten. Geprüft wird das Ergebnis.
  5. Ein Agent ist ein Modell in einer Schleife mit Werkzeugen. Die App führt aus, der Mensch gibt frei.

Glossar Glossar

LLM (Large Language Model) Sprachmodell, das aus großen Textmengen gelernt hat, Text wahrscheinlich fortzusetzen. Claude ist eines.
KI (Künstliche Intelligenz) Oberbegriff für Systeme, die Aufgaben lösen, für die sonst menschliche Intelligenz nötig ist.
ML (Machine Learning) Teilgebiet der KI: Systeme lernen aus Daten, statt fest programmiert zu werden.
Token Wortteil aus einem festen Vokabular. Das Modell liest und schreibt in Token; Grenzen und Kontingente werden in Token gemessen.
Kontextfenster Die gesamte Eingabe eines Aufrufs: Anweisungen, Verlauf, gelesene Inhalte, neue Nachricht.
Prompt Die Eingabe an das Modell, ob Frage oder Auftrag.
Halluzination Eine überzeugend formulierte, aber falsche Antwort.
Stichtag Das Datum, bis zu dem das Modell gelernt hat. Englisch: Cut-off.
Agent Ein Sprachmodell in einer Schleife mit Werkzeugen, das Schritte selbst plant und ausführen lässt.
Werkzeug Eine Fähigkeit, die die App für das Modell ausführt: Datei lesen, Web-Suche, Connector.

© 2026 CGS IT Solutions GmbH

Alle Rechte vorbehalten

Diese Schulungsunterlagen sind urheberrechtlich geschützt. Vervielfältigung, Weitergabe oder kommerzielle Nutzung — auch in Auszügen — nur mit ausdrücklicher schriftlicher Genehmigung der CGS IT Solutions GmbH.

cgsit-claude-training · Wissensarbeit W0 · Grundlagen · v2.0.1