Kapitel 6
Tools
Ein Modell, das Hilfe anfordern kann
Der Lernassistent hat zwölf Kursnotizen in seinem Ordner notes, und bisher hat das Modell keine davon gesehen, außer dein Programm hat sie in eine Nachricht eingefügt, wie es note_message in Kapitel 2 getan hat. Das funktioniert, wenn du im Voraus weißt, welche Notiz eine Frage braucht. Oft weißt du das nicht. Ein Lernender fragt „Was steht in den Notizen über das Kopieren einer Liste?“, und das Programm müsste erraten, dass die Antwort in 03-lists.md steht.
Dieses Kapitel dreht das um. Das Programm sagt dem Modell, welche Funktionen es auszuführen bereit ist, und das Modell fragt nach der, die es braucht. So eine Anfrage heißt Tool-Aufruf (tool call), und die angebotenen Funktionen sind Tools.
Dein Projekt für dieses Kapitel
Öffne tools.py im Projekteditor. Unter json, Path und openai importiert die Datei aus zwei Kursdateien:
from client_calls import MODEL, make_client
from prompts import TOOLS_SYSTEM
client_calls.py ist der fertige Code aus Kapitel 5. Er liegt direkt daneben, zusammen mit den früheren Dateien, die er importiert: structured.py, quiz_models.py, conversation.py, llm_basics.py und errors.py. Du musst keine davon ändern. Wie bisher verwendet die Prüfung deiner Arbeit eigene Kopien, sodass eine Änderung dort keine Bewertung beeinflussen kann, aber sie kann die Demonstration lahmlegen. prompts.py enthält jetzt außerdem TOOLS_SYSTEM, die Systemnachricht, die das Projekt sendet.
Weit oben stehen drei fertige Funktionen: note_ids, list_notes und read_note. Das sind die Tools. list_notes gibt die IDs der Notizen zurück, zum Beispiel 03-lists, und read_note gibt den Text einer Notiz zurück. In Lektion 4 liest du sie genau. Darunter stehen zwei leere Platzhalter, TOOL_DESCRIPTIONS = [] und TOOLS = {}, sechs unfertige Funktionen und zwei fertige Werte, die spätere Ausführungen verwenden, MISNAMED_READ_NOTE und BAD_CALLS. python tools.py führt die Datei aus, und die Demonstration ganz unten ruft jede deiner Funktionen auf, sobald es sie gibt.
Eine Frage, die das Modell nicht beantworten kann
Führe in der Shell jetzt python tools.py aus, bevor du irgendetwas änderst. Die Demonstration schickt eine Frage über den Client, ohne Tools in der Anfrage:
question = "What do the notes say about copying a list?"
messages = [{"role": "user", "content": question}]
A question sent with no tools:
I would call the tool read_note here, but this request's tools do not include a tool with that name.
Run stopped at the next function to build: TOOL_DESCRIPTIONS is written in Lesson 2.
Diese Antwort stammt vom geskripteten Modell und ist für diesen Kurs geschrieben: Kein echtes Modell würde über ein Tool read_note sprechen, das niemand erwähnt hat. Das geskriptete Modell hat die Frage in seiner Tabelle, mit einer vorbereiteten Antwort, die die Notizen braucht, und es sagt klar, was fehlt. Ein Live-Modell, das dieselbe Anfrage bekommt, hat die Notizen ebenfalls nicht. Es könnte aus dem antworten, was es im Training gelernt hat, was richtig klingen kann, ohne aus deinen Notizen zu stammen, oder sagen, dass es sie nicht sehen kann. So oder so hat es 03-lists.md nicht gelesen.
Die letzte Zeile ist die übliche Stoppzeile: Die Demonstration hält beim ersten Teil an, den du noch nicht geschrieben hast.
Was ein Tool-Aufruf ist
Ein Modell liest immer nur die Nachrichten in einer Anfrage und schreibt eine Antwort. Es kann keine Datei öffnen, kein Python ausführen und das Internet nicht erreichen. Ein Tool-Aufruf ändert daran nichts. Er ändert, was die Antwort enthalten kann:
Die Anfrage listet die Tools auf: für jede Funktion einen Namen, einen Satz dazu, was sie tut, und die Argumente, die sie annimmt. Lektion 2 schreibt diese Beschreibungen.
Das Modell liest die Frage und die Liste. Wenn ein Tool helfen würde, ist seine Antwort keine Antwort auf die Frage. Sie ist eine Anforderung: „Führe
read_noteaus, mitnote_idgleich03-lists“. Lektion 3 liest diese Anforderung aus der Antwort heraus.Dein Programm führt die Funktion selbst aus (Lektion 4) und schickt eine zweite Anfrage, die das bisherige Gespräch und das Ergebnis der Funktion enthält (Lektion 5).
Das Modell liest das Ergebnis wie jede andere Nachricht und schreibt seine Antwort.
Hier sind dieselben vier Schritte als Nachrichten zwischen deinem Programm und dem Modell. Achte darauf, dass Schritt 3 vollständig auf deiner Seite passiert.

Das Modell führt nie etwas aus. Es wählt eine Funktion aus der Liste, die du ihm gegeben hast, und schreibt Argumente dafür, und dein Programm entscheidet, was tatsächlich passiert. Deshalb kann das Programm auch ablehnen: Lektion 6 prüft jede Anfrage, bevor etwas läuft, denn der Name und die Argumente stammen vom Modell, nicht von dir.
Das geskriptete Modell spielt dasselbe Spiel nach festen Regeln. Mit den richtigen Tools in der Anfrage fordert es read_note mit 03-lists an; bekommt es das Ergebnis, antwortet es. SCRIPTED_MODEL.md listet die Fragen auf, die es kennt, und wie jeder geskriptete Prompt müssen sie genau so gesendet werden, wie sie dort stehen. Ein Live-Modell würde jede Formulierung akzeptieren.
Der Plan für dieses Kapitel
Lektion 2 beschreibt die beiden Tools, damit das Modell sie anfordern kann. Lektion 3 liest einen Tool-Aufruf aus der Antwort, Lektion 4 führt die Funktion aus, die er nennt, und Lektion 5 schickt das Ergebnis für die Antwort zurück. Lektion 6 sorgt dafür, dass das Programm fehlerhafte Anfragen ablehnt, ohne abzustürzen, und Lektion 7 behandelt eine Antwort, die mehrere Tools auf einmal anfordert. Das Projekt fasst die Runde in einer Funktion zusammen, answer_with_tools.
Das Modell antwortet mit einem Tool-Aufruf für read_note mit {"note_id": "03-lists"}. Wer öffnet und liest die Datei notes/03-lists.md?
Eine Anfrage bietet ein Tool read_note an, und das Modell entscheidet, dass es eine Notiz braucht. Was enthält seine Antwort?
Ein Programm schickt einem Modell nur die Frage „Was steht in den Notizen über das Kopieren einer Liste?“. Die Notizen sind Dateien im Arbeitsbereich des Programms. Warum kann das Modell nicht antworten?