0%

Gespräche und Anweisungen · Übung

Ein Gespräch am Laufen halten

In Lektion 1 hast du einen Verlauf von Hand geschrieben. Ein echtes Gespräch baut seinen Verlauf nach und nach auf: Schicke eine Frage mit allem, was bisher gesagt wurde, lies die Antwort, füge beides zum Verlauf hinzu und wiederhole das. Diese Lektion baut die zwei Funktionen, die das erledigen.

Eine Runde nach der anderen

Eine Runde (turn) ist eine Frage plus die Antwort darauf: eine user-Nachricht, gefolgt von einer assistant-Nachricht. Ein Gespräch, das mit der Systemnachricht für den Lern-Chat beginnt, wächst so:

[system]
[system, user, assistant]
[system, user, assistant, user, assistant]

Zwei Funktionen decken das ab:

  • next_request(history, question) baut den Anfrage-Body für eine neue Frage: {"model": MODEL, "messages": ...}, wobei die Nachrichten der ganze Verlauf sind, gefolgt von der Frage als user-Nachricht.

  • add_turn(history, question, answer) gibt den Verlauf mit der abgeschlossenen Runde zurück: die Frage als user-Nachricht, dann die Antwort als assistant-Nachricht.

Die Demonstration in conversation.py verwendet sie in einer Schleife:

history = [system_message()]
for question in ["My name is Sam.", "What is my name?"]:
    response = send_body(next_request(history, question))
    history = add_turn(history, question, answer_text(response))

Achte auf die Zuweisung in der letzten Zeile. add_turn ändert history nicht. Es gibt eine neue Liste zurück, und die Schleife lässt history auf diese verweisen.

Lass die Liste des Aufrufers in Ruhe

Beide Funktionen müssen eine neue Liste zurückgeben und die Liste, die sie bekommen haben, genau so lassen, wie sie war. Hier ist der Grund dafür. Angenommen, next_request würde die Frage mit append an die Liste des Aufrufers anhängen. Die Anfrage schlägt fehl, weil der Dienst nicht erreichbar ist, und send_body löst eine Ausnahme aus. Der Verlauf des Aufrufers endet jetzt mit einer Frage, die nie beantwortet wurde, und die nächste Anfrage schickt sie doppelt. Funktionen, die neue Listen zurückgeben, können einen Verlauf nicht so halb geändert zurücklassen.

Du hast zwei Möglichkeiten, eine neue Liste zu bauen. + verbindet zwei Listen zu einer neuen und ändert keine von beiden:

history = [{"role": "system", "content": "Be brief."}]
messages = history + [{"role": "user", "content": "What is a tuple?"}]
print(len(history), len(messages))

Oder du kopierst die Liste zuerst und änderst die Kopie:

history = [{"role": "system", "content": "Be brief."}]
longer = history.copy()
longer.append({"role": "user", "content": "What is a tuple?"})
longer.append({"role": "assistant", "content": "An ordered collection you cannot change."})
print(len(history), len(longer))

Beide geben zuerst die ursprüngliche Länge aus, weil die ursprüngliche Liste nie angefasst wurde. Verwende in deinen Funktionen eine der beiden Varianten. Würdest du append auf history selbst aufrufen, würdest du die Liste des Aufrufers ändern, und genau das sollst du vermeiden.

Verwende im Rumpf von next_request die Konstante MODEL, so wie ask_model es in llm_basics.py tut. Übernimm die Frage und die Antwort genau so, wie sie übergeben wurden.

Das Gespräch ausführen

Führe python conversation.py aus. Die Schleife schickt My name is Sam., fügt die Runde hinzu und schickt dann What is my name? mit dem Verlauf davor:

A conversation that grows by whole turns:
  You: My name is Sam.
  Model: Nice to meet you, Sam.
  You: What is my name?
  Model: Your name is Sam.
  The history now holds 5 messages.
Trimming a long history:
Before trimming:
[pl-scripted echo] No scripted reply matches this prompt, so here is what I received.
Messages: 12
System message: You are a patient Python tutor. Answer only questions about the course notes and Python. If a question is about something else, say so and suggest a Python topic instead.
Last user message: How many messages did you get?
After trimming:
Run stopped at the next function to build: trim_history is built in Lesson 5.

Das Modell hat die zweite Frage anhand des Verlaufs beantwortet, den deine Funktionen gebaut haben: die Systemnachricht und zwei vollständige Runden, fünf Nachrichten. Danach baut die Demonstration ein längeres Gespräch aus fünf erfundenen Runden und schickt noch eine Frage. Zwölf Nachrichten sind angekommen. Jede neue Runde fügt zwei weitere hinzu, und die nächsten beiden Lektionen beschäftigen sich damit, wohin das führt.

history enthält drei Nachrichten. Du führst longer = add_turn(history, "Why?", "Because.") aus. Wie viele Nachrichten enthält danach jede der beiden Listen?

Aufgabe

Ersetze in conversation.py die unfertigen Rümpfe von add_turn und next_request.

  • add_turn(history, question, answer) gibt eine neue Liste zurück: jede Nachricht aus history, dann {"role": "user", "content": question}, dann {"role": "assistant", "content": answer}.

  • next_request(history, question) gibt {"model": MODEL, "messages": messages} zurück, wobei messages eine neue Liste ist: jede Nachricht aus history, dann {"role": "user", "content": question}.

Keine der beiden Funktionen darf die Liste ändern, die sie bekommen hat. Übernimm die Frage und die Antwort genau so, wie sie übergeben wurden. Führe python conversation.py aus, um zu sehen, wie das Gespräch wächst, und prüfe dann deine Arbeit.