KI macht Fehler — schiefe Beispiele, sichere falsche Antworten

AI Makes Mistakes — Skewed Examples, Confident Wrong Answers

Informatik Klasse 4 13 Aufgaben
InformatikKIDigitale KompetenzEthik

Weil eine KI nur das Muster ihrer Beispiele kennt, übernimmt sie deren Lücken: Hat eine Schuh-App nur Turnschuhe gesehen, erkennt sie Gummistiefel nicht; wer in den Beispielen fehlt, wird schlechter erkannt (Buolamwini & Gebru 2018 zeigen das für Gesichtserkennung). Ein Chatbot erzeugt Sätze, die gut klingen, und schreibt Falsches genauso sicher wie Richtiges. Die Kinder sagen aus den Beispielen den Fehler voraus und trennen „klingt sicher“ von „stimmt“. Gegen die Fehlvorstellung, Computer irrten nicht (vgl. Girouard-Hallam & Danovitch 2022 zum Vertrauen von Kindern in Sprachassistenten); AI4K12 Big Idea 5 und UNESCO 2024 „Ethics of AI". Trägt „KI klug und sicher nutzen“, Bias und Fairness im überwachten Lernen ab Klasse 5 und die Medienethik (Deepfakes).

Voraussetzungen (1)

KI lernt aus Beispielen — Muster finden und raten
Klasse 4
›

Ermöglicht (1)

KI klug und sicher nutzen — prüfen statt glauben
Klasse 4
›
Leicht
Multiple Choice #1 15s ▶ Testen

Eine Schuh-App hat nur Fotos von Turnschuhen gelernt. Bei welchem Schuh irrt sie sich am ehesten?

  • ● Gummistiefel
  • ○ Laufschuh
  • ○ Hallenturnschuh
Gummistiefel kamen in den Beispielen nie vor. Was in den Trainingsdaten fehlt, erkennt eine KI schlecht.
Wahr / Falsch #2 12s ▶ Testen

Ein Chatbot schreibt: „Die Zugspitze ist der höchste Berg der Welt.“ Weil er so sicher klingt, stimmt das.

✓ Falsch
Der höchste Berg der Welt ist der Mount Everest. Ein Chatbot klingt immer sicher, auch wenn er sich irrt.
Multiple Choice #3 15s ▶ Testen

Eine Obst-App soll Bananen erkennen. Mit welchen Beispielen irrt sie sich später am wenigsten?

  • ● Gelbe, grüne und braune Bananen
  • ○ Nur gelbe Bananen
  • ○ Nur gelbe Zitronen
Je vielfältiger die Beispiele, desto weniger Lücken. Kennt die App nur gelbe Bananen, hält sie eine grüne vielleicht für etwas anderes.
Wahr / Falsch #4 10s ▶ Testen

Ein Computer rechnet immer richtig, also kann sich auch eine KI nicht irren.

✓ Falsch
Eine KI rechnet nicht nach festen Regeln, sondern rät aus Beispielen. Raten kann danebengehen.
Multiple Choice #5 15s ▶ Testen

Ein Chatbot rechnet: „17 + 25 = 32“. Welche Antwort wäre richtig gewesen?

  • ● 42
  • ○ 32
  • ○ 312
17 + 25 = 42. Ein Chatbot schreibt Zahlen, die passend aussehen — er kann sich verrechnen und klingt dabei trotzdem sicher. Nachrechnen hilft.
Lückentext #6 12s ▶ Testen

Wenn in den Beispielen einer KI eine Gruppe fehlt, erkennt sie diese Gruppe ___.

✓ Antwort: schlechter
Was die KI nicht geübt hat, kann sie schlecht erkennen. Darum braucht sie Beispiele von allen.
Mittel
Multiple Choice #1 15s ▶ Testen

Eine Spracherkennung hat fast nur mit Stimmen von Erwachsenen geübt. Wen versteht sie am schlechtesten?

  • ● Ein Kind aus der 2. Klasse
  • ○ Eine Lehrerin
  • ○ Einen Opa
Kinderstimmen waren in den Beispielen kaum dabei. Wer in den Trainingsdaten fehlt, wird schlechter verstanden — das ist nicht seine Schuld.
Wahr / Falsch #2 18s ▶ Testen

Eine Tier-App hat alle Hundefotos auf einer Wiese gesehen. Jetzt sieht sie eine Katze auf einer Wiese und sagt „Hund“. Die App hat das Muster „Wiese“ gelernt statt „Hund“.

✓ Wahr
Die KI sucht, was ihre Beispiele gemeinsam haben. Lag jeder Hund auf einer Wiese, kann sie Wiese mit Hund verwechseln.
Multiple Choice #3 20s ▶ Testen

Lina bittet einen Chatbot um ein Buch über Igel. Er nennt „Igel im Schnee“ von Anna Berg — dieses Buch gibt es nicht. Was ist passiert?

  • ● Er hat einen passend klingenden Titel erfunden
  • ○ Er hat in einer Bücherei nachgeschaut
  • ○ Er wollte Lina absichtlich anlügen
Ein Chatbot setzt Wörter so zusammen, wie sie oft zusammen vorkommen. Dabei entstehen Titel, die echt klingen und erfunden sind. Er lügt nicht mit Absicht — er weiß nicht, was wahr ist.
Wahr / Falsch #4 15s ▶ Testen

Wenn eine Foto-App sich bei Menschen mit dunkler Haut öfter irrt, kann das an ihren Beispielen liegen.

✓ Wahr
Waren in den Trainingsdaten viel weniger Fotos von Menschen mit dunkler Haut, lernt die App sie schlechter zu erkennen. Forscherinnen haben genau das nachgewiesen.
Wahr / Falsch #5 10s ▶ Testen

Ein Chatbot schreibt bei einer falschen Antwort meistens dazu, dass er unsicher ist.

✓ Falsch
Oft schreibt er Falsches genauso sicher wie Richtiges. Am Ton der Antwort erkennt man nicht, ob sie stimmt.
Multiple Choice #6 18s ▶ Testen

Eine Pilz-App hat nur Pilze aus dem Supermarkt gelernt. Wo ist sie am gefährlichsten?

  • ● Im Wald bei unbekannten Pilzen
  • ○ Im Wald bei Champignons
  • ○ Im Supermarkt bei Champignons
Nicht der Ort zählt, sondern ob die Pilzsorte in den Beispielen vorkam. Bei unbekannten Sorten rät die App mit einem Muster, das nicht passt — und ein Irrtum kann giftig sein.
Wahr / Falsch #7 15s ▶ Testen

Ein Chatbot schreibt: „Igel halten im Winter Winterschlaf.“ Das stimmt — aber nicht deshalb, weil der Chatbot es sagt.

✓ Wahr
Igel halten tatsächlich Winterschlaf. Ob etwas stimmt, zeigt ein Blick in ein Sachbuch, nicht die Stimme oder der Ton des Chatbots.