Een kleine agent · oefening
Merk op wanneer de agent vastzit
De trace uit les 5 van de tool-loop-run liet zien dat het model drie keer om list_notes met {} vroeg. De stappenlimiet stopte het, maar pas na twee verspilde stappen, en met max_steps=6 waren het er vijf geweest. De trace bevat al wat het programma nodig heeft om het eerder op te merken.
Dezelfde vraag krijgt hetzelfde antwoord
Een toolaanroep is een naam en een tekst met argumenten. Als het model om precies dezelfde naam met precies dezelfde argumenten vraagt als in een eerdere stap, is het resultaat hetzelfde als de vorige keer, en dat staat al in het gesprek. Opnieuw uitvoeren levert geen nieuwe informatie op. Een model dat dit doet, draait in kringetjes, en de lus kan het meteen stoppen in plaats van op de stappenlimiet te wachten.
Dat geldt niet voor elke herhaling in elk programma. Een tool die de tijd uitleest, of een bestand dat een ander programma verandert, kan op dezelfde aanroep een nieuw antwoord geven. De tools van de cursus lezen vaste notities, dus hier is een herhaling altijd verspild.
Bouw repeated_call
repeated_call(calls, trace) vergelijkt de aanroepen van het huidige antwoord met elke aanroep in de trace:
Verzamel de aanroepen die al gedaan zijn. Voeg voor elk item in
trace, en elke aanroep in de"tool_calls"ervan, de tuple(call["name"], call["arguments"])toe aan een lijst.Bouw voor elke aanroep in
callsdezelfde tuple en controleer of dieindie lijst staat. Zo ja, geefTrueterug.Geef anders
Falseterug.
Een tuple houdt de naam en de argumenten bij elkaar, dus in vergelijkt beide tegelijk: ("read_note", '{"note_id": "03-lists"}') past alleen bij dezelfde tool met dezelfde argumenten. Dezelfde tool met andere argumenten is een nieuwe vraag, en een andere tool met dezelfde argumenten ook.
De argumenten worden als tekst vergeleken. Dat is exact en eenvoudig, en het is wat het gescripte model stuurt. Een live model kan om hetzelfde vragen met de JSON anders gespatieerd, {"note_id":"03-lists"} in plaats van {"note_id": "03-lists"}, en dan komen de teksten niet overeen. Beide eerst decoderen met json.loads zou dat opvangen. De stappenlimiet vangt nog steeds op wat erdoorheen glipt.
Gebruik het in de lus
Roep in run_agent repeated_call(calls, trace) aan direct na het lezen van de aanroepen, voordat je het item van de huidige stap aan trace toevoegt. Het huidige antwoord mag alleen met eerdere stappen vergeleken worden. Als je eerst toevoegt, past elke aanroep bij zichzelf en zit de agent altijd vast.
Geef daarna, na een antwoord dat om tools vraagt, {"answer": "", "stop_reason": "stuck", "trace": trace, "messages": messages} terug als het een aanroep herhaalt. Zet deze controle na de budgetcontrole en vóór de stappenlimiet. Als een model zichzelf herhaalt op de laatste toegestane stap, zegt "stuck" wat er misging; "max_steps" zou alleen zeggen dat de stappen op waren. De herhaalde aanroepen worden niet uitgevoerd.
Twee identieke aanroepen in hetzelfde antwoord, zonder iets vergelijkbaars in eerdere stappen, zijn volgens deze regel geen herhaling: geen van beide is al beantwoord.
Voer het uit
Voer python agent.py uit. De demonstratie stuurt de vraag over errors nu via scenario_client("tool-loop") met max_steps=6 en drukt de trace af:
A model that keeps asking, with max_steps=6:
Step 1 (48 tokens)
list_notes {} -> 140 characters
Step 2 (83 tokens)
list_notes {} (not run)
stop_reason: stuck
Twee requests in plaats van zes, en 131 tokens in plaats van wat vier extra groeiende stappen zouden kosten. De eerdere tool-loop-run in de uitvoer, die met max_steps=3, stopt nu op dezelfde manier na twee stappen.
run_agent heeft nu drie beschermingen: een stappenlimiet, een budget en een controle op herhalingen. Ze staan in de lus in de volgorde waarin je ze toevoegde. Het project haalt ze eruit naar één functie, zodat de volgorde zichtbaar en testbaar is.
Stap 1 riep read_note aan met {"note_id": "03-lists"}. Bij welke aanroep in stap 2 geeft repeated_call True terug?
Waarom moet run_agent repeated_call aanroepen voordat het item van de huidige stap aan de trace wordt toegevoegd?
Bij stap 2 vraagt een live model om read_note met {"note_id":"03-lists"}, zonder spaties. Stap 1 had {"note_id": "03-lists"}. Wat geeft repeated_call terug, en waarom?
Opdracht
Vervang in agent.py de onafgemaakte body van repeated_call(calls, trace) en gebruik de functie daarna in run_agent.
repeated_callgeeftTrueterug als een aanroep incallsdezelfde naam en dezelfde argumenttekst heeft als een aanroep in een item vantrace, en andersFalse. Verzamel(name, arguments)-tuples uit de trace en controleer elke aanroep metin.Roep in
run_agentrepeated_call(calls, trace)aan voordat je het item van de huidige stap toevoegt, zodat een aanroep alleen met eerdere stappen wordt vergeleken.Geef na een antwoord dat om tools vraagt
"stuck"terug als het een aanroep herhaalt: na de budgetcontrole, vóór de stappenlimiet. Voer de aanroepen niet uit.
Voer python agent.py uit om het lussende model na twee requests te stoppen, en controleer daarna je werk.