0%

Kapitel 1

Ein LLM-Aufruf ist eine HTTP-Anfrage

Willkommen bei „KI-Apps mit Python bauen“

Hallo, ich bin Erik. In diesem Kurs geht es darum, Python-Programme zu schreiben, die ein Sprachmodell nutzen, also die Art von Modell, die hinter Chat-Assistenten steckt. Du weißt bereits, wie du mit requests eine HTTP-Anfrage sendest, ihren Status prüfst und JSON aus der Antwort liest. Wie sich zeigt, ist das schon der größte Teil dessen, was ein Modellaufruf braucht. Im restlichen Kurs geht es darum, diesen Aufruf zuverlässig zu machen: Antworten, die eintreffen, während das Modell noch schreibt, Antworten, denen dein Programm vertrauen kann, ein Modell, das deine eigenen Funktionen aufruft, und ein Programm, das weiterläuft, wenn sich das Modell danebenbenimmt.

Was du baust

Der ganze Kurs entwickelt ein einziges Projekt: einen Lernassistenten für eine Sammlung von zwölf kurzen Notizen über Python. Am Ende hat er drei Befehle. ask beantwortet eine Frage anhand der Notizen und sagt, welche Notizen er verwendet hat. quiz schreibt geprüfte Quizfragen zu einer Notiz. chat führt ein Lerngespräch, das seine Antworten streamt und beim Thema bleibt.

Wenn er fertig ist, sieht eine Frage an ihn ungefähr so aus:

$ python study_assistant.py ask "What does return do in a function?"
return ends the function and hands a value back to the code that called it. Without a return statement, a function gives back None.

Sources: [05-functions#2]

Das schreibst du nicht in einem Rutsch. Jedes Kapitel fügt ein Teil hinzu, und jedes Teil ist eine Funktion, die du für sich testen kannst.

Dieser Kurs erklärt nicht, wie Modelle trainiert werden oder welche Mathematik in ihnen steckt. Du behandelst das Modell als Dienst, der Text annimmt und Text zurückgibt, und lernst, zuverlässige Programme darum herum zu bauen.

Zwei Kursmodelle

Jede Lektion spricht mit einem Dienst namens llm-api, der neben deiner Sandbox läuft. Er bietet zwei Modelle an:

  • pl-scripted wirst du am häufigsten verwenden. Es ist kein echtes Sprachmodell. Es folgt festen Regeln und gibt auf dieselbe Anfrage jedes Mal dieselbe Antwort, es ist kostenlos, und jede Prüfung in diesem Kurs ist darauf ausgelegt. Wenn es eine Frage nicht erkennt, antwortet es mit einer Beschreibung dessen, was es empfangen hat. Das ist nützlich, wenn du genau sehen willst, was dein Code gesendet hat.

  • pl-live ist ein echtes Sprachmodell, das über einen Dienst namens OpenRouter erreicht wird. Einige Lektionen bieten damit einen optionalen Schritt zum Live-Ausprobieren an. Live-Zugang gehört zu Guided und ist begrenzt: ein paar Anfragen pro Minute, ein Tageskontingent und eine Obergrenze für die Länge einer Antwort. Mit einem kostenlosen Konto antwortet pl-live mit dem Status 403. Um eine Lektion abzuschließen, brauchst du es nie.

Text, den du an pl-live sendest, verlässt Python Land und geht an OpenRouter und an das Unternehmen, das das Modell betreibt. Der Kurs bittet OpenRouter, nur Anbieter zu verwenden, die das Gesendete weder speichern noch damit trainieren. Füge trotzdem nichts Privates in eine Live-Anfrage ein: keine Passwörter, keine Schlüssel, keine persönlichen Daten.

So funktioniert dieser Kurs

Ab Lektion 3 öffnen sich die Projektdateien jedes Kapitels im Tab Project neben der Lektion, und du führst sie aus, indem du Befehle im Tab Shell eingibst. Leselektionen wie diese haben kein Projektfenster. Jede Lektion steht dir offen. Mit einem kostenlosen Konto kannst du pro Tag eine begrenzte Zahl von Lektionen abschließen, und die Website zeigt dir, wie viele dir noch bleiben.

Die Prüfung deiner Arbeit ruft nie ein Modell auf. Die Prüfungen geben deinen Funktionen einen Ersatz für das Netzwerk, wie in Kapitel 11 von Python in der Praxis. So kann ein langsamer oder kaputter Dienst eine richtige Lösung nicht scheitern lassen.

Lerne Monty kennen

Monty ist der Lernbegleiter von Python Land und steht dir neben jeder Lektion zur Seite. Frag ihn, was ein Fehler bedeutet, bitte um eine zweite Erklärung oder um einen Hinweis, der dich weiterbringt, ohne dir die Lösung zu verraten. Wenn du angemeldet bist, enthält ein kostenloses Konto 5 Monty-Hilfen pro Tag über alle Kurse hinweg, und mit Guided bekommst du bis zu 50.

Probier es jetzt aus. Öffne Monty und frag:

Was ist der Unterschied zwischen einem Sprachmodell und der Chat-App, über die ich es benutze?

Auf welches Modell sind die Prüfungen in diesem Kurs ausgelegt?

Was passiert mit dem Text, den du an pl-live sendest?