Kapitel 8
Antworten aus deinen Notizen
Das Modell kennt deine Notizen nicht
Der Agent aus Kapitel 7 beantwortet Fragen zu den Notizen, indem er sie liest: Er fordert read_note an, dein Programm schickt die ganze Notiz zurück, und das Modell schreibt seine Antwort aus diesem Text. Ohne die Notiz in der Anfrage hat das Modell nichts von dir, worauf es sich stützen kann. Dieses Kapitel macht diese Idee präzise. Dein Programm findet die wenigen Passagen der Notizen, die zu einer Frage passen, schickt nur diese, bittet das Modell, daraus zu antworten und sie zu nennen, und prüft dann, ob es das getan hat. Eine Antwort aus Passagen, die das Programm liefert, heißt fundierte Antwort (grounded answer).
Dein Projekt für dieses Kapitel
Öffne retrieval.py im Projekteditor. Unter Path und openai importiert die Datei aus drei Kursdateien:
from answer_models import CitedAnswer
from client_calls import MODEL, make_client
from prompts import GROUNDED_SYSTEM
client_calls.py ist der fertige Code aus Kapitel 5. agent.py, der fertige Agent aus Kapitel 7, liegt daneben, zusammen mit allen früheren Dateien, die er importiert, darunter tools.py aus Kapitel 6. Der Code dieses Kapitels importiert ihn nicht, aber das Projekt baut das Such-Tool, das dieser Agent verwenden wird. Wie bisher verwendet die Prüfung deiner Arbeit eigene Kopien dieser Dateien. Eine Änderung daran kann also keine Bewertung beeinflussen, aber sie kann die Demonstration lahmlegen. prompts.py enthält jetzt auch GROUNDED_SYSTEM, die Systemnachricht, die du in Lektion 5 liest. answer_models.py ist neu und fast leer: Darin schreibst du in Lektion 6 ein Pydantic-Modell.
Unter den Importen stehen sechs Konstanten, die spätere Lektionen erklären, eine fertige Funktion, load_notes, zwölf unfertige Funktionen und ein leerer Platzhalter, SEARCH_NOTES_DESCRIPTION = {}. load_notes gibt ein Dictionary zurück, das jede Notiz-ID, etwa 03-lists, auf den Text der Notiz abbildet, gelesen als UTF-8 aus dem Ordner notes, in der Reihenfolge der IDs. python retrieval.py führt die Datei aus, und die Demonstration am Ende ruft jede Funktion auf, sobald es sie gibt.
Eine Frage zu einem Detail
Am 08.11.2026 ging diese Frage als einzige Nachricht an openai/gpt-oss-20b, das Modell hinter pl-live:
What example list does the Python Land lists note use, and what values are in it?
Das ist seine erste Antwort, unbearbeitet:
In the ordinary Python‐language reference (the “Python Land” documentation) the *Lists* section uses a very small example list to illustrate how lists are made and how they’re indexed.
The example list is simply
```python
[1, 2, 3]
```
and it contains the three integers **1, 2** and **3**. The list is used throughout the section to demonstrate indexing, slicing, mutating, and other list operations.
Sie liest sich gut, sie klingt selbstsicher, und sie ist falsch. Zwei weitere Läufe derselben Frage nannten andere Listen, [1, 2, 3, 4, 5, 6, 7, 8, 9] und ['spam', 'ham', 'eggs'], und drei Läufe einer Frage zur Notiz über Funktionen nannten eine Funktion greet oder hello_world. Die Notiz über Funktionen definiert average. Der Kurs bewahrt alle sechs Rohantworten unbearbeitet auf.
Was in der Notiz steht
Führe jetzt in der Shell python retrieval.py aus, bevor du etwas änderst. Die Demonstration lädt die Notizen mit load_notes und gibt die Notiz über Listen aus:
load_notes read 12 notes. The lists note:
# Lists
A list is an ordered collection of values. You write one with square brackets, such as `scores = [90, 72, 85]`. A list can hold values of any type, including a mix of types and other lists.
Each item has a position, called its index, starting at 0. `scores[0]` is the first item and `scores[-1]` is the last. Reading an index that does not exist raises `IndexError`. A slice such as `scores[0:2]` returns a new list with the items from position 0 up to, but not including, position 2.
Lists are mutable, so you can change them after creating them. `scores.append(60)` adds an item to the end, `scores.insert(0, 100)` adds one at a position, `scores.remove(72)` removes the first matching value, and `scores[1] = 75` replaces an item in place. These methods change the list and return `None`, so `scores = scores.append(60)` loses the list.
Because a list is changed in place, two names that refer to the same list both see every change. Use `scores.copy()` or `list(scores)` when you need an independent list. Adding two lists with `+` also builds a new list and leaves both originals unchanged.
`len(scores)` tells you how many items a list holds, and `value in scores` tells you whether a value is one of them.
Run stopped at the next function to build: note_chunks is built in Lesson 2.
Der erste Absatz enthält die Antwort: Die Beispielliste der Notiz ist scores = [90, 72, 85]. Die letzte Zeile ist die übliche Stoppzeile: Die Demonstration hält bei der ersten Funktion an, die du noch nicht geschrieben hast.
Warum das Modell falschlag
Ein Sprachmodell hat aus einer großen Menge öffentlicher Texte gelernt, die vor seinem Training gesammelt wurden. Diese zwölf Notizen gehörten nicht dazu, und die Frage enthielt sie auch nicht. Also tat das Modell, was es immer tut: Es schrieb die wahrscheinlichste Fortsetzung des Textes, den es bekommen hatte. Eine Beispielliste in einem Tutorial über Listen ist sehr oft [1, 2, 3], also schrieb es genau das. Die Antwort ist plausibel, nicht geprüft. Und nichts in der Antwort verrät dir, welche Teile aus einer echten Quelle stammen.
Das geskriptete Modell hilft hier auch nicht weiter. Es beantwortet die Prompts aus seiner Tabelle und wiederholt alles andere. Keines der beiden Modelle kennt deine Notizen, bis dein Programm sie schickt.
Warum nicht einfach alle Notizen schicken
Die einfachste Lösung wäre, alle zwölf Notizen in jede Anfrage einzufügen. Sie umfassen 14943 Zeichen, nach der Zählung des geskripteten Modells etwa 3700 Tokens. Jede Frage würde also für alle bezahlen, selbst eine Frage, die nur einen Absatz braucht. Eine Anfrage muss außerdem in das Kontextfenster des Modells passen, das Kapitel 2 eingeführt hat, und eine echte Dokumentsammlung ist viel größer als zwölf kurze Notizen. Und ein Modell, das viel Text bekommt, kann aus dem einen entscheidenden Absatz weniger zuverlässig antworten als aus diesem Absatz allein.
Der Plan: abrufen, beschriften, zitieren, prüfen
Retrieval wählt die wenigen Passagen aus, die zur Frage passen, und schickt nur diese:
Aufteilen: Jede Notiz wird in Passagen zerlegt, die Abschnitte heißen. Hier ist ein Abschnitt ein Absatz (Lektion 2).
Bewerten: Jeder Abschnitt bekommt eine Punktzahl nach den Wörtern, die er mit der Frage gemeinsam hat (Lektion 3), und die besten paar werden behalten (Lektion 4).
Beschriften: Jeder Abschnitt bekommt ein Label, etwa
03-lists#1für den ersten Absatz der Notiz über Listen, und die Abschnitte werden nach der Frage mitgeschickt. Die Systemnachricht weist das Modell an, nur aus ihnen zu antworten und die verwendeten Labels aufzulisten (Lektion 5).Prüfen: Dein Programm prüft die Antwort. Sie muss gültiges JSON in der erwarteten Form sein, und jedes zitierte Label muss eines sein, das du geschickt hast (Lektion 6).
Keine Antwort geben: Wenn kein Abschnitt gut genug passt, lautet die Antwort „Ich weiß es nicht“, ohne das Modell überhaupt zu fragen (Lektion 7).
Das Projekt fügt diese Schritte in answer_from_notes zusammen und macht aus der Suche ein Tool für den Agenten, search_notes.
Schritt 4 macht die Antwort überprüfbar. Das Modell kann immer noch etwas Falsches schreiben, aber eine Quellenangabe für eine Passage, die nie geschickt wurde, fängt dein Programm jedes Mal ab, und ein Mensch kann die zitierte Passage lesen und die Antwort daran prüfen.
Dieses Kapitel bewertet Abschnitte nach den Wörtern, die sie mit der Frage gemeinsam haben, und verwendet dafür die Standardbibliothek. Kapitel 12 erklärt Embeddings, die Methode, mit der größere Systeme Passagen finden, die dasselbe mit anderen Worten sagen.
Warum hat das Live-Modell behauptet, die Notiz über Listen verwende [1, 2, 3]?
Warum nicht alle zwölf Notizen in jede Anfrage einfügen?
Das Modell antwortet mit einer Antwort und einer Liste von Labels, die es nach eigener Aussage verwendet hat. Was kann dein Programm prüfen, ohne dem Modell zu vertrauen?