Tools · Übung
Das Ergebnis zurückschicken
Dein Programm hat read_note ausgeführt und hält den Text von 03-lists.md in der Hand. Das Modell hat ihn nicht gesehen. Es erinnert sich auch nicht an seine eigene Anforderung, denn wie Kapitel 2 gezeigt hat, behält ein Modell zwischen Anfragen nichts. Die zweite Anfrage muss also die ganze Geschichte enthalten: die Frage, die Anforderung des Modells, ein Tool auszuführen, und das Ergebnis.
Die zwei neuen Nachrichten
Die zweite Anfrage schickt die ursprünglichen Nachrichten erneut, gefolgt von zwei Arten von Nachrichten, die du bisher nicht gesendet hast:
messages = [
{"role": "user", "content": "What do the notes say about copying a list?"},
{
"role": "assistant",
"content": None,
"tool_calls": [
{"id": "call_1_1", "type": "function", "function": {"name": "read_note", "arguments": '{"note_id": "03-lists"}'}},
],
},
{"role": "tool", "tool_call_id": "call_1_1", "content": "# Lists\n\nA list is an ordered collection ..."},
]
Die Assistant-Nachricht hält fest, was das Modell beim letzten Mal gesagt hat, so wie add_turn in Kapitel 2 seine Textantworten festgehalten hat. Diesmal hat es nichts in Worten gesagt, also ist content gleich None, und was es angefordert hat, steht in tool_calls. Jeder Aufruf wird im eigenen Format des Dienstes zurückgeschrieben: seine id, "type": "function" und eine "function" mit name und arguments, immer noch demselben JSON-String, den das Modell gesendet hat. Schick ihn so zurück, wie er kam; das ist die eigene Nachricht des Modells, nichts zum Aufräumen.
Die Tool-Nachricht trägt ein Ergebnis. Ihre Rolle ist "tool", ihr content ist der Ergebnis-String, und tool_call_id ist die ID des Aufrufs, den sie beantwortet. Über die ID ordnet das Modell Ergebnisse den Anforderungen zu. Bei einem einzigen Aufruf wirkt das wie eine Formalität, aber in Lektion 7 gibt es eine Antwort mit zwei Aufrufen, und dort sind die IDs die einzige Verbindung zwischen jedem Ergebnis und seinem Aufruf.
Die Reihenfolge zählt. Zuerst kommt die Assistant-Nachricht mit den Aufrufen, dann eine Tool-Nachricht für jeden ihrer Aufrufe. Eine Tool-Nachricht ohne vorangehende Assistant-Nachricht oder mit einer ID, die zu keinem Aufruf gehört, ist bei echten Diensten ein Fehler. Das geskriptete Modell prüft das nicht. Es zählt die Assistant-Nachrichten, die tool_calls enthalten, und ohne eine solche fordert es das Tool erneut an, statt zu antworten.
Die zweite Anfrage schickt auch tools=TOOL_DESCRIPTIONS noch einmal mit. Eine Anfrage enthält alles, was das Modell weiß, und dazu gehört, welche Tools angeboten werden.
Baue die beiden Funktionen
assistant_turn(calls) nimmt die Liste entgegen, die read_tool_calls zurückgibt, und liefert die Assistant-Nachricht:
Durchlaufe die Aufrufe und baue ein Dictionary pro Aufruf:
{"id": call["id"], "type": "function", "function": {"name": call["name"], "arguments": call["arguments"]}}.Gib
{"role": "assistant", "content": None, "tool_calls": [...]}mit diesen Dictionaries zurück, in derselben Reihenfolge wiecalls.
Schreib den Schlüssel "content": None hin, auch wenn sein Wert leer ist. Er hält fest, dass das Modell keinen Text geliefert hat, im selben Aufbau, den der Dienst in seiner Antwort verwendet hat, und die Prüfungen erwarten ihn.
tool_result(call, result) nimmt ein Aufruf-Dictionary und den String, den run_tool dafür zurückgegeben hat, und liefert {"role": "tool", "tool_call_id": call["id"], "content": result}.
Keine der beiden Funktionen ändert die Dictionaries, die sie bekommt. Beide bauen neue.
Ausführen
Führe python tools.py aus. Die Demonstration nimmt den Aufruf von read_note und sein Ergebnis aus Lektion 4, gibt die Assistant-Nachricht aus und schickt dann die ursprüngliche Frage, deine Assistant-Nachricht und deine Tool-Nachricht, mit denselben Tools:
Sending the result back:
{'role': 'assistant', 'content': None, 'tool_calls': [{'id': 'call_1_1', 'type': 'function', 'function': {'name': 'read_note', 'arguments': '{"note_id": "03-lists"}'}}]}
A tool message for call_1_1 with 1226 characters of content
Answer: The lists note says that two names can refer to the same list, so a change through one shows through the other. Use scores.copy() or list(scores) for an independent copy. (03-lists)
A request for a note that does not exist:
[{'id': 'call_1_1', 'name': 'read_note', 'arguments': '{"note_id": "99-magic"}'}]
run_tool raised ValueError: There is no note called 99-magic. Call list_notes to see the ids.
Run stopped: run_tool does not check the request yet. Lesson 6 changes that.
Das ist eine vollständige Tool-Runde: eine Frage, eine Tool-Anforderung, dein Programm, das es ausführt, und eine Antwort, die die Notiz nennt. Die Antwort des geskripteten Modells ist fest, wie SCRIPTED_MODEL.md sagt: Es zählt die Assistant-Nachrichten mit Tool-Aufrufen in deiner Anfrage und gibt seinen nächsten Schritt aus, ohne die Notiz zu lesen. Ein Live-Modell würde seine Antwort aus dem Text der Notiz schreiben, und genau deshalb muss das Ergebnis überhaupt zurück.
Die letzten Zeilen zeigen das nächste Problem. Die Demonstration hat What does the note 99-magic say? gefragt, das Modell hat eine Notiz angefordert, die es nicht gibt, und der ValueError aus read_note hat das ganze Programm angehalten. Das Modell, das etwas anderes hätte versuchen können, hat nie davon erfahren.
Warum enthält die zweite Anfrage die Assistant-Nachricht mit tool_calls und nicht nur die Frage und die Tool-Nachricht?
Eine Tool-Nachricht hat "tool_call_id": "call_1_1". Wofür ist die ID da?
Aufgabe
Ersetze in tools.py die unfertigen Rümpfe von zwei Funktionen.
assistant_turn(calls)gibt{"role": "assistant", "content": None, "tool_calls": [...]}zurück, mit einem Eintrag pro Aufruf incalls, in derselben Reihenfolge:{"id": call["id"], "type": "function", "function": {"name": call["name"], "arguments": call["arguments"]}}.tool_result(call, result)gibt{"role": "tool", "tool_call_id": call["id"], "content": result}zurück.
Reiche den Argument-String unverändert durch, und ändere die Dictionaries nicht, die du bekommst. Führe python tools.py aus, um zu sehen, wie eine ganze Tool-Runde mit einer Antwort endet, und prüfe dann deine Arbeit.