0%

Tools · Übung

Einen Tool-Aufruf aus der Antwort lesen

Deine Beschreibungen haben das geskriptete Modell mit dem finish_reason "tool_calls" antworten lassen. Diese Lektion liest, was es angefordert hat, und macht aus jeder Anforderung ein einfaches Dictionary, mit dem der Rest des Kapitels arbeiten kann.

Wo die Aufrufe in der Antwort stehen

Eine Antwort, die Tools anfordert, hat außen denselben Aufbau wie jede andere: response.choices[0].message ist die Nachricht, und response.choices[0].finish_reason ist "tool_calls". Zwei Attribute der Nachricht unterscheiden sich von einer Textantwort:

message = response.choices[0].message
message.content      # None: there is no answer yet
message.tool_calls   # a list of calls, here with one item

call = message.tool_calls[0]
call.id                   # "call_1_1"
call.function.name        # "read_note"
call.function.arguments   # '{"note_id": "03-lists"}'

Jeder Aufruf hat drei Dinge, die du brauchst:

  • id, ein String, der genau diesen einen Aufruf benennt. Der Dienst denkt ihn sich aus. Das Ergebnis, das du in Lektion 5 zurückschickst, muss dieselbe ID tragen, damit das Modell erkennen kann, welches Ergebnis zu welchem Aufruf gehört.

  • function.name, das Tool, das das Modell haben möchte, als String.

  • function.arguments, die Argumente als JSON-String, nicht als Dictionary. Das Modell hat diesen Text geschrieben, und noch garantiert nichts, dass er gültiges JSON ist.

Bei einer Textantwort ist es umgekehrt: content enthält die Antwort, und tool_calls ist None. Manche Dienste schicken statt None eine leere Liste, und if not message.tool_calls: ist für beides wahr.

Einfache Dictionaries

read_tool_calls(response) kopiert das Wichtige aus den Objekten des Clients in Dictionaries:

[{"id": "call_1_1", "name": "read_note", "arguments": '{"note_id": "03-lists"}'}]

Dictionaries lassen sich leicht ausgeben, in einer Prüfung vergleichen und von Hand bauen. Die Demonstration in Lektion 6 verwendet von Hand gebaute Aufrufe in genau dieser Form, und die Prüfungen für spätere Lektionen übergeben solche Aufrufe an deine Funktionen, ganz ohne Client.

Lass arguments als String stehen. Beim Dekodieren zeigt sich ein Fehler des Modells, als Text, der kein JSON ist, oder als JSON, das kein Objekt ist. Lektion 6 behandelt das an einer Stelle, in run_tool, wo sich der Fehler in eine Nachricht für das Modell verwandeln lässt. Würdest du hier dekodieren, würde read_tool_calls am selben Text abstürzen.

Baue read_tool_calls

read_tool_calls(response) nimmt eine Antwort vom Client entgegen:

  1. Lies response.choices[0].message.tool_calls.

  2. Wenn es None oder leer ist, gib [] zurück.

  3. Andernfalls durchlaufe die Aufrufe und gib eine neue Liste mit einem Dictionary pro Aufruf zurück, in derselben Reihenfolge: {"id": call.id, "name": call.function.name, "arguments": call.function.arguments}.

Führe python tools.py aus. Die Demonstration gibt die Aufrufe in der Antwort auf die Frage aus Lektion 1 aus und schickt dann Which notes are there? mit deinen Tools, eine Frage, die das geskriptete Modell mit einem Aufruf von list_notes beantwortet:

The tool calls in the reply:
[{'id': 'call_1_1', 'name': 'read_note', 'arguments': '{"note_id": "03-lists"}'}]
The tool calls for Which notes are there?:
[{'id': 'call_1_1', 'name': 'list_notes', 'arguments': '{}'}]
Run stopped at the next function to build: TOOLS is written in Lesson 4.

Beide Aufrufe haben die ID call_1_1, weil jeder der erste Aufruf der ersten Tool-Runde in seinem eigenen Gespräch ist. Der Aufruf von list_notes hat trotzdem Argumente: den Text '{}', ein leeres JSON-Objekt, denn auch ein Tool ohne Argumente bekommt eins.

Was ist response.choices[0].message.tool_calls[0].function.arguments in einer Antwort mit Tool-Aufruf?

Dein Code gibt response.choices[0].message.content für eine Antwort aus, deren finish_reason "tool_calls" ist. Was wird ausgegeben?

Aufgabe

Ersetze in tools.py den unfertigen Rumpf von read_tool_calls(response).

  • Lies response.choices[0].message.tool_calls.

  • Wenn es None oder eine leere Liste ist, gib [] zurück.

  • Andernfalls gib eine neue Liste mit einem Dictionary pro Aufruf zurück, in derselben Reihenfolge: {"id": call.id, "name": call.function.name, "arguments": call.function.arguments}.

Lass arguments genau so, wie das Modell den String gesendet hat: Dekodiere ihn nicht. Führe python tools.py aus, um die Aufrufe für zwei Fragen zu sehen, und prüfe dann deine Arbeit.