Een LLM-aanroep is een HTTP-request · oefening
Verstuur één chatrequest
send_body verstuurt elke dictionary die je meegeeft. Het model begrijpt echter maar één vorm van dictionary: een chatrequest. In deze les bouw je die vorm op uit een vraag, zodat de rest van je code het model iets kan vragen zonder met de hand dictionaries in elkaar te zetten.
Het kleinste chatrequest
De body van een chatrequest heeft twee sleutels nodig:
model: welk model moet antwoorden. In deze cursus is datpl-scripted, opgeslagen in de constanteMODELbovenaanllm_basics.py.messages: een lijst met berichten. Elk bericht is een dictionary met eenrole, die zegt wie er spreekt, en eencontent, de tekst zelf.
Voor één vraag stuur je één bericht, met de rol user:
question = "What is a Python list?"
body = {
"model": "pl-scripted",
"messages": [
{"role": "user", "content": question},
],
}
print(body)
De dienst maakt van deze berichten het ene tekstblok dat het model voortzet, en de rollen vertellen het model wie wat zei. messages is een lijst, ook als er maar één bericht in zit, omdat een gesprek een lijst met beurten is. Hoofdstuk 2 voegt meer berichten en nog twee rollen toe. Voor nu is één user-bericht een volledig request.
Stuur de vraag zoals je hem kreeg. Als je spaties weghaalt, hoofdletters verandert of er woorden omheen zet, verander je wat het model leest.
Bouw ask_model
ask_model(question, *, session=None) bouwt die body, met MODEL als modelnaam, en geeft send_body(body, session=session) terug. Dat je session=session doorgeeft, is belangrijk: als een controle ask_model een nep-sessie geeft, moet send_body dezelfde nep-sessie krijgen, anders gaat het request over het echte netwerk.
De functie controleert zelf geen status en decodeert niets. send_body doet allebei al, en daarom bouw je erop voort in plaats van een tweede POST te schrijven.
Bekijk de hele response
Voer python llm_basics.py opnieuw uit. Na de uitvoer van les 3 roept de demonstratie ask_model("What is a Python list?") aan en drukt het hele responsedocument af:
Response document:
{
"id": "chatcmpl-scripted-6048c79fc77f43ee8740c369",
"object": "chat.completion",
"created": 1794134874,
"model": "pl-scripted",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "A list is an ordered, changeable collection of values. You write one with square brackets, like [1, 2, 3], and you can add, remove and change items after creating it."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 6,
"completion_tokens": 42,
"total_tokens": 48
}
}
What is a Python list? is een van de voorbereide vragen van het gescripte model, dus deze keer krijg je een echt antwoord in plaats van een echo. SCRIPTED_MODEL.md in je project somt de vragen op die dit hoofdstuk gebruikt. Het antwoord zit een paar niveaus diep, naast een finish_reason en een usage-gedeelte. De volgende twee lessen lezen die onderdelen.
Hier is de hele aanroep in één plaatje. Het request bovenaan draagt de body die ask_model bouwde. De response eronder draagt het antwoord, en dat antwoord is de gemarkeerde content, binnen message, binnen het eerste item van choices.

Probeer het live
Deze stap is optioneel. Typ in de python om Python te starten en stuur dan dezelfde vraag naar pl-live:
import llm_basics
llm_basics.MODEL = "pl-live"
response = llm_basics.ask_model("What is a Python list?")
print(response)
Als je account live toegang heeft, bevat de response het antwoord van een echt model, anders geformuleerd dan het gescripte antwoord, en weer anders als je het twee keer uitvoert. Een 403-fout betekent dat je account geen live toegang heeft, en een 429 dat je je live tegoed voorlopig hebt opgebruikt. Ook een lees-time-out kan voorkomen: een live model kan langer nadenken dan de leesgrens van 10 seconden. Alle drie zijn normale uitkomsten en geen ervan heeft invloed op je voortgang.
Waarom is messages een lijst als je maar één vraag stuurt?
Opdracht
Vervang in llm_basics.py de onafgemaakte body van ask_model(question, *, session=None).
Bouw een body met precies twee sleutels: "model" met de waarde MODEL, en "messages" met een lijst die één bericht bevat, {"role": "user", "content": question}, met de vraag ongewijzigd. Geef send_body(body, session=session) terug.
Voer python llm_basics.py uit om het volledige responsedocument te zien en controleer daarna je werk.