Lerne, Halluzinationen, veraltetes Wissen und die Selbstsicherheit von Assistenten zu erkennen.
Diese Lektion in Kodokon öffnenZum Programmierenlernen ist eine generative KI ein grandioser Verbündeter. Sie glänzt darin, ein Konzept genau auf deinem Niveau zu erklären, es anders zu formulieren, wenn du es nicht verstanden hast, auf Wunsch zusätzliche Beispiele zu geben, maßgeschneiderte Übungen zu erstellen und deine Arbeit durchzusehen, um dir deine Fehler zu zeigen. Kein Lehrbuch passt sich dir so an, und keine Lehrkraft ist rund um die Uhr verfügbar. Aber dieser Verbündete hat drei Schwächen, die du kennen musst, bevor du ihm vertraust.
Erste Schwäche: Halluzinationen. Eine Halluzination ist eine Antwort, die falsch ist, aber so formuliert wird, als wäre sie selbstverständlich. Denk an die vorige Lektion: Das Modell erzeugt *plausiblen* Text, nicht *geprüften* Text. Echte Beispiele: eine JavaScript-Funktion erfinden, die es gar nicht gibt (etwa ein ausgedachtes array.shuffle()), ein Buch zitieren, das nie geschrieben wurde, oder ein Zitat der falschen Person zuschreiben. Der Text ist flüssig, selbstsicher, gut gebaut… und falsch.
Zweite Schwäche: veraltetes Wissen. Ein Modell ist in dem Moment eingefroren, in dem sein Training endet; dieser Zeitpunkt heißt Knowledge Cutoff (Wissensstichtag). Alles, was danach aufgetaucht ist - eine neue Version einer Sprache, eine neue Bibliothek, aktuelle Ereignisse -, ist ihm unbekannt, es sei denn, der Assistent hat ein Werkzeug zur Websuche. In der Praxis: Wenn du fragst "Was ist die neueste Python-Version?", kann die Antwort veraltet sein, ohne dass irgendetwas darauf hinweist.
Dritte Schwäche: Selbstsicherheit. Ein kompetenter Mensch sagt "Ich weiß es nicht" oder "Ich bin nicht sicher". Ein LLM erzeugt standardmäßig eine bejahende Antwort, weil zögerliche Texte in seinem Training selten sind. Die Folge: Je mehr Anfänger du bist, desto eher hältst du eine Vermutung für eine Tatsache. Das Gegenmittel: Bitte das Modell ausdrücklich darum, Sicheres von Unsicherem zu trennen.
Du bist ein gewissenhafter Assistent, der lieber Unsicherheit zugibt, als sich etwas auszudenken.
Beantworte meine Frage weiter unten und halte dich dabei strikt an diese Regeln:
1. Unterscheide klar zwischen GESICHERTEN FAKTEN und ANNAHMEN.
2. Wenn du dir bei einem Punkt unsicher bist, schreibe "ZU PRÜFEN:" davor.
3. Nenne deinen Wissensstichtag und weise darauf hin, was sich seitdem geändert haben könnte.
4. Schließe mit einer Liste der offiziellen Quellen ab, in denen ich selbst nachschauen kann.
Meine Frage: [schreibe deine Frage hier hin]Die richtige Gewohnheit, die du ab heute annehmen solltest: Behandle KI als Ausgangspunkt, niemals als endgültige Quelle. Prüfe jede wichtige Information (eine Syntax, eine Version, eine Tatsache) gegen die offizielle Dokumentation oder eine verlässliche Referenz nach. Dieser kleine Prüfaufwand ist keine verlorene Zeit: In der Dokumentation zu suchen ist eine Programmierfähigkeit, die du dabei ganz nebenbei trainierst.
Du hast mir gerade Folgendes gesagt: [füge hier die Aussage der KI ein].
Spiel jetzt den Advocatus Diaboli: Nenne mir die Gründe, warum diese Aussage falsch, unvollständig oder veraltet sein könnte, und sage mir dann genau, wie ich das selbst überprüfe (welche offizielle Dokumentation ich lesen soll, wonach ich darin suchen muss).