Een kleine agent · oefening
Stop na een vast aantal stappen
Je run_agent stopt wanneer een antwoord nergens om vraagt. Niets anders stopt de functie. Dat gaat goed zolang het model zich gedraagt, en het is een probleem zodra het dat een keer niet doet.
Een model dat blijft vragen
Het gescripte model kan zich expres misdragen. scenario_client("tool-loop") uit client_calls.py geeft een client terug die bij elk request de header X-Scripted-Scenario: tool-loop meestuurt. In dat scenario vraagt elk antwoord opnieuw om dezelfde toolaanroep, hoeveel rondes het gesprek ook al bevat. Voor de vraag over errors is dat list_notes met {}, eindeloos. MODEL_SERVICE.md beschrijft het.
Een live model is niet gebouwd om in een lus te blijven hangen, maar het kan er wel in belanden: een tool blijft een fout teruggeven die het niet begrijpt, een resultaat bevat nooit wat het hoopte, of het raakt gewoon de draad kwijt. Het scenario staat voor die gevallen, maar dan herhaalbaar, zodat je ertegen kunt testen.
Stuur de vraag over errors via die client naar je huidige run_agent en de functie komt nooit terug. Elke ronde voegt een assistant-bericht en een lijst met notities toe aan het gesprek, dus elk request is groter dan het vorige, en de lus blijft ervoor betalen tot iemand het programma stopt. Een while True:-lus heeft een uitweg nodig die het programma zelf in de hand heeft, een die niet afhangt van wat het model zegt.
Tel de stappen
Een stap is één modelaanroep: één request en het antwoord erop. De eenvoudigste garantie is een limiet op het aantal stappen.
run_agent krijgt nog een keyword-only parameter, max_steps, na system:
def run_agent(question, *, client, tools, system, max_steps):
Daarbinnen:
Start vóór de lus een teller:
steps = 0.Tel er na elke aanroep van
createéén bij op:steps += 1.Na het lezen van de aanroepen geeft een antwoord zonder aanroepen nog steeds
"answered"terug, zoals eerst.Een antwoord dat om tools vraagt, wordt daarna gecontroleerd. Als
steps >= max_steps, geef dan{"answer": "", "stop_reason": "max_steps", "messages": messages}terug.Voeg anders het assistant-bericht en de toolresultaten toe en ga nog een ronde, zoals eerst.
De volgorde van stap 3 en 4 doet ertoe. Met max_steps=3 is een derde antwoord dat de vraag beantwoordt nog steeds een antwoord, dus wordt het teruggegeven. Alleen een antwoord dat een vierde stap wil, wordt gestopt.
De aanroepen van een gestopt antwoord worden nooit uitgevoerd. Dat heeft geen zin: hun resultaten zouden alleen nuttig zijn in een vierde request, en dat verbiedt de limiet. Om dezelfde reden wordt het assistant-bericht van het gestopte antwoord niet aan messages toegevoegd. Het gesprek dat je teruggeeft, eindigt met de laatste toolresultaten, precies zoals het het laatst is verstuurd, dus het bevat nooit een vraag om tools zonder de resultaten ervan.
Gebruik >=, niet ==. Beide werken zolang steps met één tegelijk groeit, maar >= klopt nog steeds als een latere wijziging aan de lus ooit een getal overslaat.
Voer het uit
Voer python agent.py uit. De demonstratie geeft nu max_steps=6 mee aan de vraag over errors en stelt die daarna opnieuw via scenario_client("tool-loop") met max_steps=3:
The agent loop:
stop_reason: answered
answer: The errors note says that a finally block always runs, whether or not an exception was raised. An else block, by contrast, runs only when nothing was raised. (07-errors)
The conversation has 7 messages.
A model that keeps asking, with max_steps=3:
stop_reason: max_steps
The conversation has 6 messages.
Run stopped at the next function to build: run_agent gets its max_tokens_total parameter in Lesson 4.
De eerste run heeft drie stappen nodig en heeft er zes, dus de limiet verandert niets. De tweede doet drie requests en stopt. De zes berichten daarvan zijn het systeembericht, de vraag en twee rondes van een assistant-bericht met zijn toolresultaat; de vraag om list_notes in het derde antwoord is weggelaten.
Hoeveel stappen je toestaat, is een afweging. Te weinig en een vraag die meerdere opzoekingen nodig heeft, krijgt geen antwoord; te veel en een vastgelopen model verspilt aanroepen voordat de limiet het opvangt. Het project gebruikt 6 voor de studieassistent, twee keer zoveel als de vragen nodig hebben.
max_steps is 3, en het derde antwoord beantwoordt de vraag zonder toolaanroepen. Wat geeft run_agent terug?
Met max_steps=3 vraagt het derde antwoord om read_note. Wat gebeurt er met die aanroep?
Opdracht
Geef run_agent in agent.py een keyword-only parameter max_steps, na system.
Tel de stappen: één stap is één aanroep van
create. Begin bij 0 en tel er na elke aanroep 1 bij op.Een antwoord zonder toolaanroepen geeft nog steeds
"answered"terug, zoals eerst, ook op de laatste toegestane stap.Als na een antwoord dat om tools vraagt de teller
max_stepsheeft bereikt, geef dan{"answer": "", "stop_reason": "max_steps", "messages": messages}terug zonder die aanroepen uit te voeren en zonder hun assistant-bericht toe te voegen.Voer anders de aanroepen uit en ga nog een ronde, zoals eerst.
Voer python agent.py uit om het lussende model na drie requests te stoppen, en controleer daarna je werk.