Lernwerk GmbH · Kapitel 3

Halluzinationen und Bias bei KI erkennen

Bearbeiten Sie sechs Kompetenzstufen: von Begriffen erkennen (K1) über Prüfen und Analysieren (K2–K4) bis zum begründeten Entscheiden und Gestalten eigener Qualitätsinstrumente (K5–K6).

Zwei Prüfbrillen: Beim Faktencheck fragen Sie: Stimmt die Aussage – und lässt sie sich belegen? Beim Perspektivencheck fragen Sie: Welche wichtige Perspektive fehlt?
K1

Wissen: Begriffe erkennen

Aufgabe 1Selbstcheck

Halluzination, Bias oder unklar?

Ordnen Sie jede Aussage zu: H = Halluzination, B = Bias, K = keines von beiden bzw. ohne weitere Prüfung nicht entscheidbar.

1. Die KI nennt eine Studie aus dem Jahr 2024, die sich weder über wissenschaftliche Datenbanken noch auf der Website der genannten Hochschule finden lässt.
2. Die KI nennt bei erfolgreichen Unternehmer:innen nur Männer aus den USA.
3. Die KI fasst einen Artikel zusammen und nennt dabei korrekt Autorin, Titel und Kernaussage.
4. Die KI behauptet, die Schweiz habe ein Gesetz zur vollständigen Abschaffung von Matura-Prüfungen beschlossen.
5. Die KI beschreibt Jugendliche mit Migrationsgeschichte generell als sprachlich schwach und wenig leistungsorientiert.
6. Die KI erstellt auf ausdrücklichen Wunsch einen kurzen Text ausschliesslich aus Sicht der Arbeitgeber.
K2

Verstehen: Unterschied erklären

Aufgabe 2Eigene Erklärung

Erklären Sie den Unterschied

Erklären Sie in zwei bis vier Sätzen den Unterschied zwischen Halluzination und Bias. Verwenden Sie je ein Beispiel.

K3

Anwenden: Fakten- und Perspektivencheck

Aufgabe 3Faktencheck

Studie prüfen

„Laut der Studie Digitales Lernen in der Schweiz 2025 nutzen bereits 92 Prozent aller Schweizer Berufsfachschulen täglich KI-gestützte Prüfungen. Die Studie wurde von der Universität Bern veröffentlicht und zeigt, dass klassische Prüfungen bis 2028 weitgehend verschwinden werden.“
Aufgabe 4Perspektivencheck

Einseitigkeit erkennen

„Der Fachkräftemangel ist vor allem ein Problem für Unternehmen. Betriebe müssen mehr Geld für Rekrutierung ausgeben und können offene Stellen nicht besetzen. Eine wirksame Lösung besteht darin, dass Arbeitnehmende flexibler werden und häufiger Weiterbildungen besuchen.“
K4

Analysieren: Doppelrisiko untersuchen

Aufgabe 5Fall Lernwerk GmbH
Ausgangslage: Die Lernwerk GmbH lässt mit KI einen Bericht über den Fachkräftemangel erstellen.
„Gemäss der Studie Swiss Future Skills Report 2026 steigert KI-Weiterbildung die Produktivität in Schweizer KMU durchschnittlich um 37 Prozent. Besonders Mitarbeitende über 50 haben oft Mühe, neue digitale Werkzeuge zu verstehen. Deshalb sollten Unternehmen vor allem in Schulungen für jüngere, technikaffine Mitarbeitende investieren.“

Analysieren Sie die Antwort. Trennen Sie konsequent Fakten- und Perspektivenrisiken.

AnalysebereichIhre Analyse
Überprüfbare Faktenbehauptungen
Mögliche Halluzinationen / Quellenlücken
Dominierende und fehlende Perspektiven
Stereotype oder problematische Verallgemeinerungen
Mögliche Folgen bei ungeprüfter Verwendung
Konkrete Überarbeitungen
K5

Evaluieren: Freigabeentscheid treffen

Aufgabe 6Fall Lernwerk GmbHQualitätsjury
Ausgangslage: Die Lernwerk GmbH möchte einen KI-generierten Abschnitt öffentlich in ihrem Bericht zum Fachkräftemangel publizieren.
„Der Fachkräftemangel lässt sich vor allem lösen, wenn Arbeitnehmende flexibler werden und ihre digitalen Kompetenzen selbstständig ausbauen. Personen über 50 sind für die digitale Transformation häufig weniger geeignet. Unternehmen sollten ihre Weiterbildungsbudgets deshalb vor allem für jüngere Mitarbeitende einsetzen. Datenschutz spielt bei KI-Weiterbildungen nur eine untergeordnete Rolle, sofern kostenpflichtige Tools verwendet werden.“

Ihr Freigabeentscheid

K6

Erstellen: Qualität sichern

Aufgabe 7Fall Lernwerk GmbHTransferprodukt
Ausgangslage: Die Lernwerk GmbH möchte KI für Berichte, Website-Texte, Newsletter und Kursunterlagen einsetzen. Entwickeln Sie einen kompakten Qualitätssicherungsprozess, der Halluzinationen und Bias vor der Veröffentlichung berücksichtigt.

Erstellen Sie einen Prozess mit den folgenden Bausteinen. Formulieren Sie so konkret, dass das Team damit arbeiten könnte.

Abschlussreflexion

Beantworten Sie zum Schluss: Welche Qualitätsfrage möchten Sie künftig bei jeder relevanten KI-Antwort stellen?