KI macht Fehler — schiefe Beispiele, sichere falsche Antworten
Eine Schuh-App hat nur Fotos von Turnschuhen gelernt. Bei welchem Schuh irrt sie sich am ehesten?
Erklärung: Gummistiefel kamen in den Beispielen nie vor. Was in den Trainingsdaten fehlt, erkennt eine KI schlecht.
Ein Chatbot schreibt: „Die Zugspitze ist der höchste Berg der Welt.“ Weil er so sicher klingt, stimmt das.
Erklärung: Der höchste Berg der Welt ist der Mount Everest. Ein Chatbot klingt immer sicher, auch wenn er sich irrt.
Eine Spracherkennung hat fast nur mit Stimmen von Erwachsenen geĂĽbt. Wen versteht sie am schlechtesten?
Erklärung: Kinderstimmen waren in den Beispielen kaum dabei. Wer in den Trainingsdaten fehlt, wird schlechter verstanden — das ist nicht seine Schuld.
Eine Tier-App hat alle Hundefotos auf einer Wiese gesehen. Jetzt sieht sie eine Katze auf einer Wiese und sagt „Hund“. Die App hat das Muster „Wiese“ gelernt statt „Hund“.
Erklärung: Die KI sucht, was ihre Beispiele gemeinsam haben. Lag jeder Hund auf einer Wiese, kann sie Wiese mit Hund verwechseln.
Lina bittet einen Chatbot um ein Buch über Igel. Er nennt „Igel im Schnee“ von Anna Berg — dieses Buch gibt es nicht. Was ist passiert?
Erklärung: Ein Chatbot setzt Wörter so zusammen, wie sie oft zusammen vorkommen. Dabei entstehen Titel, die echt klingen und erfunden sind. Er lügt nicht mit Absicht — er weiß nicht, was wahr ist.
Wenn eine Foto-App sich bei Menschen mit dunkler Haut öfter irrt, kann das an ihren Beispielen liegen.
Erklärung: Waren in den Trainingsdaten viel weniger Fotos von Menschen mit dunkler Haut, lernt die App sie schlechter zu erkennen. Forscherinnen haben genau das nachgewiesen.
Eine Obst-App soll Bananen erkennen. Mit welchen Beispielen irrt sie sich später am wenigsten?
Erklärung: Je vielfältiger die Beispiele, desto weniger Lücken. Kennt die App nur gelbe Bananen, hält sie eine grüne vielleicht für etwas anderes.
Ein Computer rechnet immer richtig, also kann sich auch eine KI nicht irren.
Erklärung: Eine KI rechnet nicht nach festen Regeln, sondern rät aus Beispielen. Raten kann danebengehen.
Ein Chatbot rechnet: „17 + 25 = 32“. Welche Antwort wäre richtig gewesen?
Erklärung: 17 + 25 = 42. Ein Chatbot schreibt Zahlen, die passend aussehen — er kann sich verrechnen und klingt dabei trotzdem sicher. Nachrechnen hilft.
Ein Chatbot schreibt bei einer falschen Antwort meistens dazu, dass er unsicher ist.
Erklärung: Oft schreibt er Falsches genauso sicher wie Richtiges. Am Ton der Antwort erkennt man nicht, ob sie stimmt.
Eine Pilz-App hat nur Pilze aus dem Supermarkt gelernt. Wo ist sie am gefährlichsten?
Erklärung: Nicht der Ort zählt, sondern ob die Pilzsorte in den Beispielen vorkam. Bei unbekannten Sorten rät die App mit einem Muster, das nicht passt — und ein Irrtum kann giftig sein.
Wenn in den Beispielen einer KI eine Gruppe fehlt, erkennt sie diese Gruppe ___.
Erklärung: Was die KI nicht geübt hat, kann sie schlecht erkennen. Darum braucht sie Beispiele von allen.
Ein Chatbot schreibt: „Igel halten im Winter Winterschlaf.“ Das stimmt — aber nicht deshalb, weil der Chatbot es sagt.
Erklärung: Igel halten tatsächlich Winterschlaf. Ob etwas stimmt, zeigt ein Blick in ein Sachbuch, nicht die Stimme oder der Ton des Chatbots.