0%

Ein LLM-Aufruf ist eine HTTP-Anfrage · Übung

Berechnen, was ein Aufruf gekostet hat

Jeder Aufruf an ein echtes Modell kostet Geld, und die Antwort sagt dir, wie viel Arbeit er war. Der letzte Teil des Dokuments, das du gelesen hast, ist usage:

"usage": {
  "prompt_tokens": 6,
  "completion_tokens": 42,
  "total_tokens": 48
}

prompt_tokens zählt, was das Modell gelesen hat: jede Nachricht, die du gesendet hast. completion_tokens zählt, was es geschrieben hat. total_tokens ist die Summe der beiden.

Woher diese Zahlen kommen

Ein echtes Modell zählt mit seinem eigenen Tokenizer, also mit der Zerlegung, die du in Lektion 2 gesehen hast. Das geskriptete Modell schätzt nur: Es zählt die Zeichen in deinen Nachrichten, teilt durch vier und rundet auf. What is a Python list? hat 22 Zeichen, und 22 geteilt durch 4 ergibt 5.5, aufgerundet 6. Die Antwort mit 166 Zeichen ergibt 42. Ein echtes Modell würde für denselben Text andere Zahlen melden, betrachte die geskripteten Werte also als Platzhalter für die echten, nicht als Messung.

Preise gelten pro Million Tokens

Anbieter veröffentlichen zwei Preise pro Modell: einen für Eingabe-Tokens und einen für Ausgabe-Tokens, jeweils in Dollar pro Million Tokens. Die Ausgabe kostet fast immer mehr. llm_basics.py enthält zwei Preistabellen, mit einem Datum in einem Kommentar darüber:

LIVE_PRICES = {"input_per_million": 0.03, "output_per_million": 0.13}
LARGER_MODEL_PRICES = {"input_per_million": 2.00, "output_per_million": 10.00}

LIVE_PRICES ist der Preis, den das Modell hinter pl-live auf OpenRouter kostete, als diese Lektion geschrieben wurde. LARGER_MODEL_PRICES ist anthropic/claude-sonnet-5.5, ein großes, bekanntes Modell aus derselben Liste, zum Vergleich. Preise ändern sich, das hier ist also eine Momentaufnahme.

Um einen Aufruf zu bepreisen, berechnest du jede Seite für sich und addierst sie:

prompt_tokens = 6
completion_tokens = 42

input_cost = prompt_tokens * 0.03 / 1_000_000
output_cost = completion_tokens * 0.13 / 1_000_000
cost = input_cost + output_cost
print(f"${cost:.8f}")

Das gibt $0.00000564 aus. Sechs Eingabe-Tokens zu drei Cent pro Million kosten $0.00000018, und 42 Ausgabe-Tokens zu dreizehn Cent pro Million kosten $0.00000546. Die Unterstriche in 1_000_000 dienen nur der Lesbarkeit; Python ignoriert sie.

Das :.8f im f-String zeigt die Zahl mit acht Nachkommastellen an. Ohne das gibt Python sehr kleine Zahlen in wissenschaftlicher Schreibweise aus, etwa 5.64e-06, was 5.64 Millionstel bedeutet.

Verwende prompt_tokens und completion_tokens, niemals total_tokens. Die Summe vermischt Eingabe und Ausgabe, und die haben unterschiedliche Preise, daher kann kein einzelner Preis daraus die richtigen Kosten machen.

Baue call_cost

call_cost(usage, prices) nimmt ein usage-Dictionary wie das oben und eine Preistabelle mit den Schlüsseln input_per_million und output_per_million entgegen und gibt die Kosten in Dollar als Float zurück. Nimm die Zahlen aus den Dictionaries, statt sie in die Funktion zu schreiben, damit dieselbe Funktion jeden Aufruf bei jedem Modell bepreisen kann.

Führe python llm_basics.py aus, sobald es funktioniert. Die Demonstration bepreist den Aufruf aus Lektion 4 mit beiden Preistabellen, einmal und zehntausendmal:

At pl-live prices: $0.00000564 per call, $0.0564 for 10,000 calls
At the larger model's prices: $0.00043200 per call, $4.3200 for 10,000 calls

Dieselbe Frage kostet beim größeren Modell etwa 77-mal so viel. Für einen Aufruf sind beide Beträge winzig. Für ein Programm, das zehntausend Fragen am Tag beantwortet, ist die Wahl des Modells eine echte Entscheidung, und deshalb führen spätere Kapitel ein Budget.

Eine Antwort meldet prompt_tokens 1000, completion_tokens 200 und total_tokens 1200. Warum nicht einfach 1200 mit einem Preis multiplizieren?

Aufgabe

Ersetze in llm_basics.py den unfertigen Rumpf von call_cost(usage, prices).

Gib die Kosten eines Aufrufs in Dollar als Float zurück: usage["prompt_tokens"] mal prices["input_per_million"] plus usage["completion_tokens"] mal prices["output_per_million"], wobei jedes Produkt durch eine Million geteilt wird. Verwende nicht total_tokens.

Führe python llm_basics.py aus, um die beiden Preistabellen zu vergleichen, und prüfe dann deine Arbeit.