Ein kleiner Agent · Übung
Die Schleife schreiben
Die Schleife aus Lektion 1 braucht drei Dinge von ihrem Aufrufer: die Frage, die Tools, die das Modell verwenden darf, und die Anweisungen in der Systemnachricht. In dieser Lektion baust du sie als run_agent.
Welche Tools, und ihre Beschreibungen
In Kapitel 6 hat answer_with_tools die Werte TOOLS und TOOL_DESCRIPTIONS des Moduls verwendet und deshalb immer dieselben zwei Tools angeboten. Ein Agent sollte nicht standardmäßig jedes Tool bekommen: Ein Agent, der Fragen beantwortet, hat mit dem Schreiben von Dateien nichts zu tun. Deshalb nimmt run_agent tools als Parameter, ein Dictionary von Namen auf Funktionen, wie TOOLS. Weit oben in agent.py stehen zwei, die die Demonstrationsläufe verwenden:
READ_TOOLS = {"list_notes": list_notes, "read_note": read_note}
AGENT_TOOLS = {"list_notes": list_notes, "read_note": read_note, "save_flashcard": save_flashcard}
Die Anfrage braucht eine Beschreibung für jedes dieser Tools, und nur für diese. Die Beschreibungen stehen in einer Liste, AGENT_DESCRIPTIONS: TOOL_DESCRIPTIONS aus Kapitel 6 plus SAVE_FLASHCARD_DESCRIPTION. Das mitgelieferte describe_tools sucht die heraus, die du brauchst:
def describe_tools(tools, descriptions):
"""Return the descriptions of the tools in tools, in the order of descriptions."""
names = []
for description in descriptions:
names.append(description["function"]["name"])
for name in tools:
if name not in names:
raise ValueError(f"There is no description for the tool {name}.")
chosen = []
for description in descriptions:
if description["function"]["name"] in tools:
chosen.append(description)
return chosen
describe_tools(READ_TOOLS, AGENT_DESCRIPTIONS) gibt die Beschreibungen von list_notes und read_note zurück und lässt save_flashcard weg. Ein Tool ohne Beschreibung ist ein Fehler im Programm, nicht etwas, das das Modell getan hat. Deshalb löst die Funktion eine Ausnahme aus, statt das Tool stillschweigend wegzulassen. Der Aufrufer wählt die Tools, und die Beschreibungen ergeben sich aus dieser Wahl.
Baue run_agent
run_agent(question, *, client, tools, system):
Beginne das Gespräch:
messages = [{"role": "system", "content": system}, {"role": "user", "content": question}].Hol die Beschreibungen einmal:
descriptions = describe_tools(tools, AGENT_DESCRIPTIONS).Bilde eine Schleife mit
while True:. In jedem Durchlauf:Sende das Gespräch:
response = client.chat.completions.create(model=MODEL, messages=messages, tools=descriptions).Lies die Aufrufe mit
calls = read_tool_calls(response).Gibt es keine, ist das die eigentliche Antwort. Nimm den
contentder Antwort des Modells, oder"", wenn erNoneist, füge{"role": "assistant", "content": answer}zumessageshinzu und gib{"answer": answer, "stop_reason": "answered", "messages": messages}zurück.Andernfalls füge
assistant_turn(calls)zumessageshinzu, danach der Reihe nach jede Nachricht austool_messages(calls, tools).
Das return innerhalb der Schleife beendet sie. Eine while True:-Schleife hat keine Bedingung, die falsch werden kann, also ist ein return (oder eine Ausnahme) der einzige Ausweg.
Verwende die tools und das system, die du bekommst. Die Prüfungen übergeben ihre eigenen Tools und ihren eigenen Systemtext, und sie geben die Antworten des Modells per Skript vor, darunter zwei Aufrufe in einer Antwort und drei Runden Tools vor einer Antwort.
Warum es ein Dictionary zurückgibt
run_agent könnte, wie answer_with_tools, nur den Antworttext zurückgeben. Es gibt stattdessen ein Dictionary zurück, weil ein Aufrufer mehr als den Text braucht:
"answer"ist die Antwort, die die Person sieht."stop_reason"sagt, warum die Schleife geendet hat. Bisher gibt es nur einen Weg, sie zu beenden,"answered". Die nächsten Lektionen fügen weitere hinzu, und dann bedeutet eine leere Antwort je nach Grund etwas anderes."messages"ist das ganze Gespräch, einschließlich der endgültigen Antwort. Ein Aufrufer, der eine Folgefrage stellen will, kann eine User-Nachricht anhängen und weitermachen, so wie der Chat aus Kapitel 2 mit seinem Verlauf.
Spätere Lektionen fügen demselben Dictionary Schlüssel hinzu, ohne die Bedeutung der ersten drei zu ändern.
Der Systemtext ist aus einem ähnlichen Grund ein Parameter. Die Demonstrationsläufe dieses Kapitels übergeben TOOLS_SYSTEM, das das Modell bittet, Dinge nachzuschlagen und die verwendete Notiz zu nennen. Eine andere Aufgabe braucht andere Anweisungen: Der Lernassistent, den du in Kapitel 11 fertigstellst, führt dieselbe Schleife mit einer Systemnachricht aus, die eine Antwort mit Quellenangaben verlangt.
Ausführen
Führe python agent.py aus. Die Demonstration ruft dein run_agent mit der Frage zu Fehlern, READ_TOOLS und system=TOOLS_SYSTEM auf:
The agent loop:
stop_reason: answered
answer: The errors note says that a finally block always runs, whether or not an exception was raised. An else block, by contrast, runs only when nothing was raised. (07-errors)
The conversation has 7 messages.
Run stopped at the next function to build: run_agent gets its max_steps parameter in Lesson 3.
Die Schleife hat die drei Anfragen aus der Tabelle in Lektion 1 gestellt. Die sieben Nachrichten sind die Systemnachricht, die Frage, zwei Assistant-Nachrichten mit ihren Tool-Ergebnissen und die endgültige Antwort.
Diese Schleife vertraut dem Modell vollständig: Sie läuft so lange weiter, wie das Modell weiter anfordert. Das geskriptete Modell hört bei dieser Frage nach zwei Runden auf. Die nächste Lektion zeigt ein Modell, das nie aufhört.
run_agent wird mit tools=READ_TOOLS aufgerufen. Warum lässt die Anfrage die Beschreibung von save_flashcard weg, die in AGENT_DESCRIPTIONS steht?
run_agent läuft in einer Schleife mit while True:. Wie endet es überhaupt?
Aufgabe
Ersetze in agent.py den unfertigen Rumpf von run_agent(question, *, client, tools, system).
Beginne mit
messages = [{"role": "system", "content": system}, {"role": "user", "content": question}]unddescriptions = describe_tools(tools, AGENT_DESCRIPTIONS).Rufe in einer
while True:-Schleifeclient.chat.completions.create(model=MODEL, messages=messages, tools=descriptions)auf und lies die Aufrufe mitread_tool_calls.Gibt es keine Aufrufe, füge
{"role": "assistant", "content": answer}zumessageshinzu, wobeianswerder Inhalt der Antwort des Modells ist oder"", wenn erNoneist, und gib{"answer": answer, "stop_reason": "answered", "messages": messages}zurück.Andernfalls füge
assistant_turn(calls)und jede Nachricht austool_messages(calls, tools)zumessageshinzu und starte die nächste Runde.
Verwende die tools und das system, die du bekommst. Führe python agent.py aus, um zu sehen, wie der Agent die Frage zu Fehlern beantwortet, und prüfe dann deine Arbeit.