Ordne jedem Fall das passende Risiko zu: V = Verzerrung, B = Blackbox, H = Halluzination, D = Datenschutz.
Eine Kredit-KI lehnt Anträge aus einem bestimmten Stadtteil viel häufiger ab.
Ein Chatbot nennt ein Buch samt Autor und Jahreszahl — es existiert nicht.
Eine Klinik-KI stuft einen Befund als kritisch ein, kann aber nicht sagen, warum.
Ein Sprachassistent überträgt Wohnzimmer-Aufnahmen zur Auswertung an einen Server.
Eine Gesichtserkennung liegt bei dunklen Hauttönen deutlich häufiger daneben.
Frage dich: Liegt es an den Trainingsdaten (V)? Fehlt die Begründung (B)? Ist die Angabe schlicht erfunden (H)? Oder verlassen Daten über Personen das Gerät (D)?
3
Wer hat hier entschieden?
AFB II
Eine Schule setzt ein KI-System zur Vorsortierung von Aufsätzen ein. Kreuze für jeden Fall an, an welcher Stelle die Entscheidung getroffen wurde, die zu dem Problem geführt hat — manchmal sind es mehrere.
Setze in jeder Zeile überall dort ein Kreuz, wo die Aussage zutrifft — es können mehrere pro Zeile sein. Enter setzt und löscht.
Fall
Entwicklerteam
Schule als Betreiber
Nutzerin / Nutzer
Die Trainingsdaten enthalten fast nur Texte von Erwachsenen.
Das System wird ohne Test direkt für Zeugnisnoten benutzt.
Ein Ergebnis wird ungeprüft in ein Gutachten kopiert.
Niemand kann nachvollziehen, wie eine Bewertung zustande kam.
Es gibt keinen Weg, gegen eine Bewertung Widerspruch einzulegen.
Verantwortung lässt sich nicht an ein Programm abgeben. Entscheidungen fallen an drei Stellen: beim Bauen, beim Einführen und beim Benutzen. Hier ging es nur um die sachliche Frage, wo die jeweilige Entscheidung fiel. Die zweite Frage — wer dafür moralisch oder rechtlich einstehen muss — ist damit nicht beantwortet und wird auch unter Fachleuten unterschiedlich beurteilt: Manche sehen die Hauptlast bei dem, der ein System einsetzt, andere bei dem, der es so gebaut und verkauft hat. Ein einziges richtiges Kreuz gibt es dort nicht.
Frage dich jedes Mal ganz nüchtern: An wessen Schreibtisch wurde genau dieser Punkt festgelegt? Wer hätte ihn vorher merken und ändern können?
4
Trickfrage: die perfekte Quelle
AFB III
Ein Chatbot antwortet immer flüssig, freundlich und selbstbewusst. Schätze ein, wie verlässlich die folgenden Quellen wirklich sind.
Schätze jede Zeile auf der Skala von völlig unzuverlässig (1) bis sehr verlässlich (5) ein. Mit der Tastatur: Tab zur Zeile, ←/→ zwischen den Stufen, Enter setzt.
1 = völlig unzuverlässig5 = sehr verlässlich
Der Chatbot nennt eine Jahreszahl, ohne eine Quelle anzugeben.
Der Chatbot nennt eine Quelle — du findest sie und liest dort dasselbe.
Der Chatbot nennt einen Buchtitel, den es gar nicht gibt.
Ein Fachlexikon mit Autorenname und Erscheinungsjahr.
Ein anonymer Forenbeitrag, der genau deine Meinung bestätigt.
Ein Sprachmodell erzeugt wahrscheinlich klingende Sätze, keine geprüften Fakten. Erfundene, aber plausible Angaben nennt man Halluzination — sie klingen genauso sicher wie richtige.
Verlässlich ist eine Aussage nicht, weil sie überzeugend klingt, sondern weil du sie nachprüfen kannst.
5
Fünf Aussagen über KI und Verantwortung
AFB II
Stimmt die Aussage? Eine Fehleinschätzung beendet die Serie.
Fünf Aussagen nacheinander. Eine falsche Einschätzung reicht — dann startest du die Serie mit „Neue Runde“ neu.
Aussage 1 von 5
Die Leitfrage bei jeder KI-Nutzung lautet: Kann ich das Ergebnis selbst überprüfen? Wo du das nicht kannst, ist die Ausgabe kein Wissen, sondern ein Vorschlag — und die Verantwortung bleibt bei dir.
Denke daran, dass ein Sprachmodell Texte nach Wahrscheinlichkeit erzeugt — nicht nach Wahrheit.
6
Fehlersuche: Ein Referat mit KI-Hilfe
AFB III
Ein Mitschüler beschreibt sein Vorgehen. Drei Schritte sind problematisch. Klicke genau diese an.
In diesem Text stecken Fehler. Klicke genau die falschen Zeilen an — die richtigen musst du stehen lassen.
Ein brauchbarer Umgang sieht so aus: KI als Ideengeber und Erklärer nutzen, jede Tatsachenbehauptung selbst prüfen, keine fremden personenbezogenen Daten eingeben und die Nutzung transparent machen.
Achte auf Stellen, an denen etwas ungeprüft übernommen oder fremde Daten weitergegeben werden.
7
Begriffe aus dem Alltag
AFB I
Vier Situationen aus deinem digitalen Alltag. Verbinde jede mit dem Fachbegriff, der sie beschreibt.
Verbinde jeden linken Eintrag mit genau einem rechten. Ein Klick auf eine Verbindung löst sie wieder.
Die vier Begriffe hängen zusammen: Aus deinem Profil sagt das Empfehlungssystem voraus, was dich hält. Wiederholt sich das lange genug, entsteht eine Filterblase. Das Stellvertreter-Merkmal zeigt, dass ein Modell Informationen „wiederfindet“, die man ihm gar nicht gegeben hat.
Ein Profil ist eine Sammlung von Daten, ein Empfehlungssystem ein Programm, eine Filterblase ein Zustand — und ein Stellvertreter-Merkmal verrät etwas anderes.
8
Was erlaubt die KI-Verordnung?
AFB II
Die KI-Verordnung der EU sortiert KI-Systeme nach ihrem Risiko. Ordne die sieben Anwendungen der passenden Stufe zu.
Ziehe jede Karte in den passenden Korb — oder wähle sie mit Enter aus und drücke dann die Ziffer des Korbs (0 legt sie zurück).
1Verboten
2Hochrisiko-System
3Geringes Risiko
Verboten sind Social Scoring und das Auslesen von Emotionen am Arbeitsplatz oder in der Schule. Wo ein System über Kredite, Noten oder Sozialleistungen mitentscheidet, gilt es als Hochrisiko-System: Trainingsdaten dokumentieren, menschliche Aufsicht, erklärbare Entscheidungen. Spielgegner und Rechtschreibhilfe greifen nicht in wichtige Lebensbereiche ein.
Frage dich: Hat die Entscheidung erhebliche Folgen für einen Menschen? Und bewertet das System Menschen flächendeckend oder liest es ihre Gefühle aus?
9
Abgelehnt — und jetzt?
AFB III
Der Antrag von Herrn Yilmaz auf Wohngeld wurde von einem Programm automatisch abgelehnt, ohne dass ein Mensch den Fall angesehen hat. Welche Aussagen treffen zu? Wähle alle richtigen aus.
Mehrere Antworten sind richtig. Wähle alle passenden aus und prüfe dann.
Nach Artikel 22 der DSGVO muss niemand eine rein maschinelle Entscheidung mit erheblichen Folgen hinnehmen: Ein Mensch muss den Fall ansehen, den Standpunkt anhören und neu entscheiden. Die Verantwortung liegt beim Amt, das das System einsetzt. Ein Recht auf den Quellcode gibt es dagegen nicht — und dass ein Merkmal fehlt, schließt Verzerrung nicht aus, denn Stellvertreter-Merkmale können es verraten.
Drei Stichworte helfen: Was sagt die DSGVO zu rein maschinellen Entscheidungen? Wer trägt Verantwortung? Und was weißt du über Stellvertreter-Merkmale?
10
Rückblick: Trainingsdaten aus 4.2.2
AFB II
Ein Bewerbungssystem lehnt auffallend viele Frauen ab, obwohl das Geschlecht gar nicht abgefragt wird. Wie kann das passieren?
Ein lernendes System bildet ab, was in den Trainingsdaten steckt. Es braucht ein Merkmal nicht direkt, wenn es andere findet, die eng damit zusammenhängen.
