0%

Gesprekken en instructies · oefening

Systeem-, gebruikers- en assistant-berichten

Je geschiedenis uit les 1 gebruikte twee rollen. Een chatrequest heeft er een derde, en juist die laat je programma, en niet de persoon die typt, bepalen hoe het model zich gedraagt.

Drie rollen

Elk bericht in messages heeft een role:

  • user is wat de persoon typte: een vraag, een opdracht of tekst die hij of zij erin plakte.

  • assistant is iets wat het model eerder in het gesprek zei. Je programma zet de antwoorden van het model met deze rol terug, zoals je in les 1 deed.

  • system is een instructie van je programma over hoe het model zich het hele gesprek moet gedragen: waarvoor het dient, waar het vanaf moet blijven, hoe het moet antwoorden.

De persoon die je programma gebruikt, typt het systeembericht nooit. Jij schrijft het één keer, in je code, en stuurt het met elk request mee. Het model behandelt het als vaste instructies die gelden voor elk gebruikersbericht daarna.

Het systeembericht komt eerst

Zet het systeembericht aan het begin van messages, vóór elk gebruikers- of assistant-bericht, en stuur er maar één:

messages = [
    {"role": "system", "content": "You are a patient Python tutor."},
    {"role": "user", "content": "My name is Sam."},
    {"role": "assistant", "content": "Nice to meet you, Sam."},
    {"role": "user", "content": "What is my name?"},
]
for message in messages:
    print(message["role"])

Een systeembericht is een sterke sturing, geen regel die het model verplicht moet volgen. Modellen zijn getraind om er gewicht aan te geven, en goede instructies worden meestal opgevolgd, maar een vastberaden gebruikersbericht kan een model toch van koers brengen. Les 6 bekijkt wat een instructie laat werken, en les 7 tekst die haar probeert te omzeilen.

Het studiesysteembericht

conversation.py bevat al het systeembericht dat de studiechat van dit hoofdstuk gebruikt, in de constante STUDY_SYSTEM:

STUDY_SYSTEM = (
    "You are a patient Python tutor. Answer only questions about the course "
    "notes and Python. If a question is about something else, say so and "
    "suggest a Python topic instead."
)

Dankzij de haakjes kan één lange string over meerdere regels doorlopen: Python voegt stringliterals die naast elkaar staan samen tot één string. Les 6 legt uit waarom het zo geformuleerd is.

Bouw system_message() zo dat het die tekst als chatbericht teruggeeft: een dictionary met "role" op "system" en "content" op STUDY_SYSTEM. Gebruik de constante in plaats van de tekst opnieuw te typen, zodat er één plek is om de formulering te wijzigen. Geef bij elke aanroep een nieuwe dictionary terug, om dezelfde reden als in les 1: een aanroeper die het bericht dat hij kreeg verandert, mag dat van de volgende aanroeper niet veranderen.

Zie het aankomen

Voer python conversation.py uit. De demonstratie stuurt je systeembericht gevolgd door een gebruikersbericht, Hello. Hello is geen voorbereide vraag, dus de echo meldt wat er aankwam:

A system message first:
[pl-scripted echo] No scripted reply matches this prompt, so here is what I received.
Messages: 2
System message: You are a patient Python tutor. Answer only questions about the course notes and Python. If a question is about something else, say so and suggest a Python topic instead.
Last user message: Hello
A conversation that grows by whole turns:
Run stopped at the next function to build: next_request is built in Lesson 3.

Er kwamen twee berichten aan: je systeembericht en Hello als laatste gebruikersbericht. In hoofdstuk 1 zei de echo System message: (none).

Je programma stuurt een systeembericht met de tekst "Beantwoord alleen vragen over Python." Wie schrijft dat bericht, en wanneer geldt het?

Waar komt het systeembericht in een request aan llm-api?

Opdracht

Vervang in conversation.py de onafgemaakte body van system_message().

Geef bij elke aanroep een nieuwe dictionary terug, met precies twee sleutels: "role" op "system" en "content" op de constante STUDY_SYSTEM.

Voer python conversation.py uit om de echo je systeembericht te zien melden, en controleer daarna je werk.