Gespräche und Anweisungen · Übung
System-, User- und Assistant-Nachrichten
Dein Verlauf aus Lektion 1 hat zwei Rollen verwendet. Eine Chat-Anfrage kennt eine dritte, und mit genau dieser entscheidet dein Programm, nicht die tippende Person, wie sich das Modell verhalten soll.
Drei Rollen
Jede Nachricht in messages hat eine role:
userist, was die Person getippt hat: eine Frage, eine Bitte oder Text, den sie eingefügt hat.assistantist etwas, das das Modell früher im Gespräch gesagt hat. Dein Programm gibt die Antworten des Modells mit dieser Rolle zurück, so wie du es in Lektion 1 getan hast.systemist eine Anweisung deines Programms, wie sich das Modell während des ganzen Gesprächs verhalten soll: wofür es da ist, wovon es die Finger lassen soll und wie es antworten soll.
Die Person, die dein Programm benutzt, tippt die Systemnachricht nie. Du schreibst sie einmal in deinem Code und schickst sie bei jeder Anfrage mit. Das Modell behandelt sie als dauerhafte Anweisungen, die für jede folgende User-Nachricht gelten.
Die Systemnachricht kommt zuerst
Setze die Systemnachricht an den Anfang von messages, vor jede User- und Assistant-Nachricht, und schicke nur eine:
messages = [
{"role": "system", "content": "You are a patient Python tutor."},
{"role": "user", "content": "My name is Sam."},
{"role": "assistant", "content": "Nice to meet you, Sam."},
{"role": "user", "content": "What is my name?"},
]
for message in messages:
print(message["role"])
Eine Systemnachricht ist eine starke Lenkung, keine Regel, die das Modell zwingend befolgen muss. Modelle werden darauf trainiert, ihr Gewicht zu geben, und gute Anweisungen werden meistens befolgt, aber eine hartnäckige User-Nachricht kann ein Modell trotzdem vom Kurs abbringen. Lektion 6 sieht sich an, wodurch eine Anweisung funktioniert, und Lektion 7, was mit Text ist, der sie auszuhebeln versucht.
Die Systemnachricht für den Lern-Chat
conversation.py enthält bereits die Systemnachricht, die der Lern-Chat dieses Kapitels verwendet, in der Konstante STUDY_SYSTEM:
STUDY_SYSTEM = (
"You are a patient Python tutor. Answer only questions about the course "
"notes and Python. If a question is about something else, say so and "
"suggest a Python topic instead."
)
Durch die Klammern kann sich ein langer String über mehrere Zeilen erstrecken: Python fügt String-Literale, die direkt nebeneinanderstehen, zu einem einzigen String zusammen. Lektion 6 erklärt, warum er so formuliert ist.
Baue system_message() so, dass es diesen Text als Chat-Nachricht zurückgibt: ein Dictionary, in dem "role" auf "system" und "content" auf STUDY_SYSTEM gesetzt ist. Verwende die Konstante, statt den Text erneut zu tippen, damit es nur eine Stelle gibt, an der sich die Formulierung ändern lässt. Gib bei jedem Aufruf ein neues Dictionary zurück, aus demselben Grund wie in Lektion 1: Ein Aufrufer, der die erhaltene Nachricht ändert, darf damit nicht die Nachricht des nächsten Aufrufers ändern.
Sieh zu, wie sie ankommt
Führe python conversation.py aus. Die Demonstration schickt deine Systemnachricht und danach die User-Nachricht Hello. Hello ist keine vorbereitete Frage, deshalb meldet das Echo, was angekommen ist:
A system message first:
[pl-scripted echo] No scripted reply matches this prompt, so here is what I received.
Messages: 2
System message: You are a patient Python tutor. Answer only questions about the course notes and Python. If a question is about something else, say so and suggest a Python topic instead.
Last user message: Hello
A conversation that grows by whole turns:
Run stopped at the next function to build: next_request is built in Lesson 3.
Zwei Nachrichten sind angekommen: deine Systemnachricht und Hello als letzte User-Nachricht. In Kapitel 1 meldete das Echo System message: (none).
Dein Programm schickt eine Systemnachricht mit dem Inhalt „Answer only questions about Python.“ Wer schreibt diese Nachricht, und wann gilt sie?
Wohin gehört die Systemnachricht in einer Anfrage an llm-api?
Aufgabe
Ersetze in conversation.py den unfertigen Rumpf von system_message().
Gib bei jedem Aufruf ein neues Dictionary mit genau zwei Schlüsseln zurück: "role" gesetzt auf "system" und "content" gesetzt auf die Konstante STUDY_SYSTEM.
Führe python conversation.py aus, um zu sehen, wie das Echo deine Systemnachricht meldet, und prüfe dann deine Arbeit.