Mias Nachrichten-Feed
AFB I–IIMia ist 15 und nutzt seit sechs Wochen eine Nachrichten-App. In ihrer Stadt wird gerade heftig diskutiert, ob E-Scooter in der Innenstadt verboten werden sollen. Mia ist gegen ein Verbot. Beiträge, die ihre Meinung teilen, liest sie bis zum Ende, kommentiert sie und leitet sie an Freundinnen weiter. Beiträge der Gegenseite scrollt sie meist nach wenigen Sekunden weg. Die App zeigt in ihren Einstellungen, wie sich die Beiträge zu diesem Thema in Mias Feed verändert haben.
- Beschreiben Sie, welche Daten die App über Mia sammelt und wie sie daraus die Auswahl der Beiträge ableitet.
- Ordnen Sie die Veränderung in der Abbildung in den Begriff Filterblase ein.
Hinweise
Hinweis zu Aufgabe a)
Hinweis zu Aufgabe b)
Erwartungshorizont
Erwartungshorizont zu Aufgabe a)
Die App speichert in einem Profil, welche Beiträge Mia öffnet, wie lange sie liest, was sie kommentiert und weiterleitet und was sie schnell wegscrollt. Mias Meinung muss sie dafür nicht kennen — das Verhalten verrät sie. Das Empfehlungssystem sagt aus diesem Profil vorher, welche Beiträge Mia voraussichtlich lange in der App halten, und zeigt ihr davon mehr. Ausgewählt wird also nach erwarteter Verweildauer, nicht nach Ausgewogenheit.
Erwartungshorizont zu Aufgabe b)
Eine Filterblase ist der Zustand, in dem ein Empfehlungssystem überwiegend Inhalte zeigt, die zur bisherigen Meinung passen. Genau das zeigt die Abbildung: Der Anteil der Beiträge gegen das Verbot steigt von 35 % auf 78 %, Beiträge der Gegenseite schrumpfen von 30 % auf 6 %, sachliche von 35 % auf 16 %. Nach sechs Wochen sieht Mia fast nur noch ihre eigene Sicht bestätigt. Die Veränderung ist damit ein typisches Beispiel für eine entstehende Filterblase.
Die Kamera über dem Schwimmbecken
AFB II–IIIDie Gemeinde Lindental will im Freibad ein Kamerasystem einsetzen, das Menschen in Not im Wasser erkennen soll. Zwölf Kameras filmen die Becken, ein Modell wertet die Bilder aus und löst bei Verdacht einen Alarm auf der Uhr der Badeaufsicht aus.
Aus dem Datenblatt des Herstellers: Das Modell wurde mit 20 000 Videoszenen trainiert, überwiegend aus Hallenbädern mit erwachsenen Schwimmerinnen und Schwimmern. Im Test erkannte es 96 von 100 nachgestellten Notfällen; dazu kamen im Schnitt 12 Fehlalarme pro Tag. Wie das Modell im Einzelfall zu einem Alarm kommt, kann der Hersteller nicht angeben. Die Videos werden 30 Tage lang auf Servern des Herstellers gespeichert.
Mit dem System will die Gemeinde pro Schicht einen von drei Rettungsschwimmern einsparen. Im Freibad sind an Sommertagen rund 40 % der Badegäste Kinder.
- Untersuchen Sie das System auf die Risiken Verzerrung, Blackbox und Datenschutz.
- Erklären Sie, wer die Verantwortung trägt, wenn ein Notfall unbemerkt bleibt, weil das System keinen Alarm auslöst.
- Bewerten Sie den Plan der Gemeinde, mit dem System einen Rettungsschwimmer einzusparen.
Hinweise
Hinweis zu Aufgabe a)
Hinweis zu Aufgabe b)
Hinweis zu Aufgabe c)
Erwartungshorizont
Erwartungshorizont zu Aufgabe a)
Verzerrung: Die Trainingsdaten stammen überwiegend aus Hallenbädern mit Erwachsenen. Im Freibad gibt es Sonne, Spiegelungen und Wellen, und 40 % der Gäste sind Kinder, die sich anders bewegen. Das Modell dürfte gerade bei der gefährdetsten Gruppe schlechter erkennen. Blackbox: Der Hersteller kann nicht erklären, warum ein Alarm ausgelöst wird oder ausbleibt; die Aufsicht kann Alarme deshalb schlecht einschätzen, Fehler lassen sich kaum aufklären. Datenschutz: Videos von Menschen in Badekleidung sind personenbezogene Daten; sie liegen 30 Tage auf fremden Servern. Nötig wären Information der Gäste, eine rechtliche Grundlage und möglichst kurze, lokale Speicherung.
Erwartungshorizont zu Aufgabe b)
Die Verantwortung liegt bei Menschen, nicht beim Modell — „die KI war schuld“ ist keine gültige Begründung. Die Gemeinde als Betreiberin hat entschieden, das System einzusetzen und Personal zu reduzieren; sie trägt die Aufsichtspflicht im Bad. Der Hersteller ist verantwortlich für die Qualität des Systems und für ehrliche Angaben zu seinen Grenzen, etwa den einseitigen Trainingsdaten. Die Badeaufsicht bleibt verantwortlich dafür, selbst hinzusehen. Vollständig ist die Antwort, wenn mindestens zwei Beteiligte mit ihrer jeweiligen Entscheidung genannt werden.
Erwartungshorizont zu Aufgabe c)
Für das System spricht: Es ermüdet nicht, überwacht alle Becken gleichzeitig und erkannte 96 % der Test-Notfälle. Gegen die Einsparung spricht: 4 von 100 Notfällen blieben unerkannt, und die Tests fanden nicht mit Kindern im Freibad statt; 12 Fehlalarme täglich führen dazu, dass Alarme weniger ernst genommen werden; ohne Erklärbarkeit kann die Aufsicht dem System nicht gezielt vertrauen. Ein gut begründetes Urteil lautet etwa: Als Ergänzung sinnvoll, als Ersatz eines Rettungsschwimmers nicht vertretbar — höchstens nach eigenen Tests im Freibad mit Kindern. Andere Urteile sind möglich, wenn sie die Daten und die Risiken aus a) abwägen. Vollständig: klares Urteil mit mindestens drei Kriterien.