Kapitel 4 · Stärken, Grenzen und Verantwortung

Das können Sie danach: Stärken und Grenzen von LLMs einschätzen · begründen, weshalb ein überzeugender Output nicht für jede Aufgabe taugt · regelbasierte und lernende Systeme unterscheiden · das passende Werkzeug auswählen · menschliche Verantwortung bei folgenreichen Entscheidungen begründen.

Wissen: Systeme und Grenzen erkennen

Aufgabe 1Selbstcheck

Regelbasiert, lernend – oder Grenze eines LLM?

Entscheiden Sie bei jeder Aussage: R = richtig, F = falsch.

Verstehen: Regelbasiert vs. lernend

Aufgabe 2Eigene Erklärung

Worin unterscheiden sie sich?

Erklären Sie in zwei bis vier Sätzen und in eigenen Worten den Unterschied zwischen einem regelbasierten System und einem lernenden System. Nennen Sie je ein Beispiel aus dem Büroalltag.

Erwartungshorizont: Ein regelbasiertes System folgt festen, von Menschen vorgegebenen Regeln (Wenn-dann). Es ist nachvollziehbar und zuverlässig, aber unflexibel – Beispiel: eine Mailregel, die alle Nachrichten mit «Rechnung» in einen Ordner verschiebt. Ein lernendes System erkennt Muster aus Daten und kann auch mit neuen, ähnlichen Fällen umgehen, ist dafür aber weniger durchschaubar – Beispiel: ein Spamfilter, der aus vielen Beispielen gelernt hat. Für viele Aufgaben ist eine Kombination sinnvoll.

Anwenden: Das passende Werkzeug wählen

Aufgabe 3Fall Lernwerk GmbH

Ausgangslage: Die Lernwerk GmbH hat verschiedene Aufgaben und überlegt jeweils das passende Werkzeug: Taschenrechner/Tabelle, regelbasierte Automatisierung oder ein LLM.

Ordnen Sie zu und begründen Sie.

Welches Werkzeug passt zu welcher Aufgabe? Nennen Sie mindestens drei Beispiele (Aufgabe → Werkzeug).Bei welcher Aufgabe wäre eine Kombination mehrerer Werkzeuge sinnvoll – und warum?

Analysieren: Überzeugend ≠ geeignet

Aufgabe 4Fall Lernwerk GmbH

Ausgangslage: Ein LLM liefert der Lernwerk GmbH eine flüssig formulierte, überzeugend klingende Empfehlung, welche Weiterbildung ein bestimmter Mitarbeiter «unbedingt» machen sollte – inklusive konkreter Begründung.

Analysieren Sie, warum ein überzeugender Output hier nicht automatisch geeignet ist.

Was macht den Output überzeugend – und warum ist das allein kein Qualitätsbeweis?Welche Risiken entstehen, wenn man der Empfehlung ungeprüft folgt?Was müsste ergänzt oder geprüft werden, bevor man entscheidet?

Musteraspekte: Überzeugend wirkt der Output durch flüssige Sprache und eine scheinbar schlüssige Begründung – doch Form ist kein Beleg für Richtigkeit oder Angemessenheit. Bei einer personenbezogenen Empfehlung fehlen dem Modell der konkrete Kontext, verlässliche Daten und die Perspektive der betroffenen Person; es kann zudem verzerren. Vor einer Entscheidung braucht es reale Informationen, ein Gespräch mit der Person und eine menschliche Abwägung.

Evaluieren: Menschliche Kontrolle

Aufgabe 5Fall Lernwerk GmbH

Ausgangslage: Bei welcher Entscheidung darf die Lernwerk GmbH einem KI-System die letzte Entscheidung überlassen?

Vorsortieren eingehender E-Mails nach Thema, mit späterer Kontrolle Endgültige Auswahl, wer eine Stelle bekommt oder eine Kündigung erhält Verbindliche medizinische oder rechtliche Auskunft ohne Fachperson

Begründen Sie, weshalb bei folgenreichen Entscheidungen menschliche Verantwortung und Kontrolle nötig bleiben.

Erstellen: Werkzeug-Auswahlhilfe

Aufgabe 6Fall Lernwerk GmbHTransferprodukt

Ausgangslage: Die Lernwerk GmbH möchte eine kurze Auswahlhilfe: «Welches Werkzeug für welche Aufgabe – und wo bleibt der Mensch verantwortlich?»

Erstellen Sie eine kompakte Auswahlhilfe. Bearbeiten Sie alle Bausteine.

1. Wann regelbasiert, wann lernend, wann LLM?2. Wann ist eine Kombination sinnvoll?3. Wie gehe ich mit überzeugenden Outputs um?

4. Wo bleibt der Mensch letztverantwortlich?5. Wer prüft und gibt frei?6. Auswahl-Checkliste in 3–5 Schritten

Qualitätskriterien: Eine gute Auswahlhilfe ordnet Werkzeuge nach Aufgabentyp (exakte Berechnung, feste Regeln, Sprache/Entwurf), benennt sinnvolle Kombinationen, mahnt zur Prüfung überzeugender Outputs, hält fest, dass folgenreiche und personenbezogene Entscheidungen in menschlicher Verantwortung bleiben, und fasst alles in wenigen klaren Schritten zusammen.

Abschlussreflexion Kapitel 4

Beantworten Sie zum Schluss: Bei welcher Entscheidung in Ihrem Alltag möchten Sie die letzte Kontrolle bewusst bei sich behalten – und warum?