Mee naar huis
Voer het eindproject lokaal uit
Alles tot nu toe draaide binnen deze site, tegen een model dat elke keer hetzelfde antwoord geeft. Deze les neemt het project mee naar huis: naar je eigen computer, met de tests, en daarna met één echte aanroep naar een echte aanbieder met je eigen sleutel. Niets hierin wordt beoordeeld, en niets verderop in de cursus hangt ervan af. Als je Python nu niet op je eigen computer kunt installeren, lees dan de stappen en stop aan het eind van deze pagina.
Het project heeft een README.md die precies hiervoor is geschreven. Open die nu in de projecteditor. Het is het draaiboek (runbook) dat je thuis volgt, en deze pagina legt elke stap uit.
Haal het project van de site
Gebruik Download project terwijl je bent ingelogd, zoals je aan het eind van Python in de praktijk deed. Je krijgt een ZIP van je werkruimte. Pak die uit in een nieuwe, lege map en open een
Een verse omgeving en de tests
Maak een virtuele omgeving en installeer de ontwikkelvereisten erin, door de eigen Python van de omgeving direct aan te roepen zodat niets van activeren afhangt, zoals hoofdstuk 12 van Python in de praktijk je leerde. Op
python3 -m venv .venv
./.venv/bin/python -m pip install -r requirements-dev.txt
./.venv/bin/python -m pytest -q
In PowerShell:
py -3 -m venv .venv
.\.venv\Scripts\python.exe -m pip install -r requirements-dev.txt
.\.venv\Scripts\python.exe -m pytest -q
requirements-dev.txt begint met -r requirements.txt, dus het installeert de runtimepakketten, openai, pydantic en requests in de versies van de cursus, plus pytest. Wie alleen het programma wil draaien, installeert in plaats daarvan requirements.txt.
De tests slagen thuis precies zoals in de sandbox. Hoofdstuk 10 schreef ze met de nep-client en opgenomen antwoorden, dus ze hebben geen netwerk, geen llm-api en geen sleutel nodig. Daarom schrijf je ze zo: ze controleren je code overal.
Je sleutel, alleen op je eigen computer
Stel nu de drie instellingen uit les 2 in, in de terminal, met je eigen sleutel van je aanbieder. Stel eerst een kredietlimiet in op de sleutel (les 3). Op macOS en Linux stelt export elk ervan in voor deze terminalsessie:
export STUDY_ASSISTANT_API_KEY=sk-or-...
export STUDY_ASSISTANT_BASE_URL=https://openrouter.ai/api/v1
export STUDY_ASSISTANT_MODEL=openai/gpt-oss-20b
In PowerShell stelt $env: elk ervan in voor dit venster:
$env:STUDY_ASSISTANT_API_KEY = "sk-or-..."
$env:STUDY_ASSISTANT_BASE_URL = "https://openrouter.ai/api/v1"
$env:STUDY_ASSISTANT_MODEL = "openai/gpt-oss-20b"
Vervang sk-or-... door je sleutel en houd je aan de regels uit les 1: de sleutel blijft in deze terminal en nergens anders. Niet in een bestand in de projectmap, niet in een chat, niet in een screenshot. Als je hem hier typt, belandt hij in de geschiedenis van je shell, dus doe dit in een privésessie op je eigen computer.
Voer daarna één live commando uit:
./.venv/bin/python study_assistant.py ask "How do I make an independent copy of a list?"
Begin de regel in PowerShell in plaats daarvan met .\.venv\Scripts\python.exe. Een echt model schrijft zijn eigen antwoord, dus de formulering is niet die van het cursusmodel, en de laatste regel hoort nog steeds Sources: 03-lists#4 of een ander label uit de notities te zijn. Open study-assistant-log.jsonl: de laatste regel noemt nu openai/gpt-oss-20b, met de tokentelling van de aanbieder en hoe lang de run duurde. Voer ./.venv/bin/python summarize.py uit om de totalen en de kostenschatting te zien.
Wat er anders zal zijn
De vaste antwoorden van het gescripte model zijn weg. Een live model zoekt misschien met andere woorden, leest een notitie in zijn geheel of vermeldt een passage die het niet kreeg, dus ask heeft misschien zijn corrigerende nieuwe poging nodig, en af en toe zakt het voor de bronvermeldingscontrole en sluit het af met 1. Dat is het programma dat zijn werk doet: het weigert een antwoord dat het niet met een bron kan onderbouwen. De tokenaantallen zijn de eigen telling van de aanbieder, inclusief de toolbeschrijvingen, dus ze liggen hoger dan die van het cursusmodel voor dezelfde vraag.
Een echt model kan ook meer ruimte of meer tijd nodig hebben dan het cursusmodel. Eindigt de run met Error: The reply was cut off at the max_tokens limit. of een time-out, verhoog dan DEFAULT_MAX_TOKENS in reliable.py of CLIENT_TIMEOUT in client_calls.py een beetje, zoals les 3 voorstelde, één tegelijk.
evals.py praat nog steeds met het cursusmodel op http://llm-api:8080/v1, dat alleen binnen deze site bestaat, dus thuis meldt het dat het llm-api niet kon bereiken. stages.py roept de main van je programma aan, dus met de drie variabelen ingesteld stuurt het blok van les 4 echte requests naar je aanbieder, en zonder die variabelen kan het het cursusmodel niet bereiken. Beide bestanden zijn voor de cursus; het programma heeft ze thuis niet nodig.
Als ask thuis met 1 afsluit, lees dan eerst de Error:-regel: die zegt of de sleutel ontbreekt, de aanbieder het request weigerde, het netwerk faalde of een time-out gaf, het antwoord werd afgekapt of het antwoord werd afgewezen. Bekijk daarna de laatste regels van het log; die laten zien of dit één slechte run is of het begin van een patroon.
Waarom slagen de tests van het project thuis zonder sleutel en zonder netwerk?
Welke instellingen leest de studieassistent bij het starten uit de omgeving?
Thuis sluit ask af met code 1. Wat doe je eerst?