Tools · oefening
Lees een toolaanroep uit het antwoord
Door je beschrijvingen antwoordde het gescripte model met finish_reason "tool_calls". In deze les lees je waar het om vroeg, en zet je elke toolaanroep om in een gewone dictionary waarmee de rest van het hoofdstuk kan werken.
Waar de aanroepen in het antwoord staan
Een antwoord dat om tools vraagt, heeft dezelfde buitenkant als elk ander antwoord: response.choices[0].message is het bericht, en response.choices[0].finish_reason is "tool_calls". Twee attributen van het bericht zijn anders dan bij een tekstantwoord:
message = response.choices[0].message
message.content # None: there is no answer yet
message.tool_calls # a list of calls, here with one item
call = message.tool_calls[0]
call.id # "call_1_1"
call.function.name # "read_note"
call.function.arguments # '{"note_id": "03-lists"}'
Elke aanroep heeft drie dingen die je nodig hebt:
id, een string die deze ene aanroep benoemt. De dienst verzint hem. Het resultaat dat je in les 5 terugstuurt, moet hetzelfde id hebben, zodat het model kan zien welk resultaat bij welke aanroep hoort.function.name, de tool die het model wil, als string.function.arguments, de argumenten als een JSON-string, geen dictionary. Het model schreef die tekst, en nog niets garandeert dat het geldige JSON is.
Bij een tekstantwoord is het andersom: content bevat het antwoord en tool_calls is None. Sommige diensten sturen een lege lijst in plaats van None, en if not message.tool_calls: is voor allebei waar.
Gewone dictionaries
read_tool_calls(response) kopieert wat ertoe doet uit de objecten van de client naar dictionaries:
[{"id": "call_1_1", "name": "read_note", "arguments": '{"note_id": "03-lists"}'}]
Dictionaries zijn makkelijk af te drukken, te vergelijken in een controle en met de hand te bouwen. De demonstratie van les 6 gebruikt met de hand gebouwde aanroepen in precies deze vorm, en de controles voor latere lessen geven zulke aanroepen aan je functies door zonder dat er ergens een client is.
Houd arguments als string. Bij het decoderen komt de fout van een model aan het licht, als tekst die geen JSON is of JSON die geen object is. Les 6 handelt dat op één plek af, in run_tool, waar de fout een bericht voor het model kan worden. Hier decoderen zou read_tool_calls op dezelfde tekst laten crashen.
Bouw read_tool_calls
read_tool_calls(response) krijgt een antwoord van de client:
Lees
response.choices[0].message.tool_calls.Als die
Noneof leeg is, geef je[]terug.Loop anders over de aanroepen en geef een nieuwe lijst terug met één dictionary per aanroep, in dezelfde volgorde:
{"id": call.id, "name": call.function.name, "arguments": call.function.arguments}.
Voer python tools.py uit. De demonstratie drukt de aanroepen af uit het antwoord op de vraag uit les 1, en stuurt daarna Which notes are there? met je tools, een vraag die het gescripte model beantwoordt met een aanroep van list_notes:
The tool calls in the reply:
[{'id': 'call_1_1', 'name': 'read_note', 'arguments': '{"note_id": "03-lists"}'}]
The tool calls for Which notes are there?:
[{'id': 'call_1_1', 'name': 'list_notes', 'arguments': '{}'}]
Run stopped at the next function to build: TOOLS is written in Lesson 4.
Beide aanroepen hebben het id call_1_1, omdat elk de eerste aanroep is van de eerste toolronde in een eigen gesprek. De aanroep van list_notes heeft toch argumenten: de tekst '{}', een leeg JSON-object, omdat ook een tool zonder argumenten er een krijgt.
Wat is response.choices[0].message.tool_calls[0].function.arguments in een antwoord met een toolaanroep?
Je code drukt response.choices[0].message.content af voor een antwoord waarvan de finish_reason "tool_calls" is. Wat drukt die af?
Opdracht
Vervang in tools.py de onafgemaakte body van read_tool_calls(response).
Lees
response.choices[0].message.tool_calls.Als die
Noneof een lege lijst is, geef je[]terug.Geef anders een nieuwe lijst terug met één dictionary per aanroep, in dezelfde volgorde:
{"id": call.id, "name": call.function.name, "arguments": call.function.arguments}.
Houd arguments precies zoals de string die het model stuurde: decodeer hem niet. Voer python tools.py uit om de aanroepen voor twee vragen te zien, en controleer daarna je werk.