KI im Alltag & Ethik

KI tritt selten als eigenes Gerät auf. Sie steckt unsichtbar in Apps, die du sowieso nutzt — beim Entsperren des Handys, im Wortvorschlag der Tastatur, im Übersetzer und in der Musik-App.

• Empfehlungssystem:sagt aus deinem bisherigen Verhalten vorher, was dir als Nächstes gefallen könnte — oft optimiert auf lange Verweildauer.
• Profil:Sammlung aller Daten, die ein Dienst über dich speichert: Klicks, Suchen, Sehdauer, Gerät.
• Personenbezogene Daten:alles, was sich auf eine bestimmte Person beziehen lässt — Name, Standort, Gesicht, Stimme, Klickverlauf; in der EU besonders geschützt.
• Filterblase:je genauer dein Profil, desto mehr zeigt dir das System nur noch Inhalte, die zu deiner bisherigen Meinung passen.

Ein Modell entscheidet in Sekunden über tausende Fälle — jeder Fehler wirkt deshalb tausendfach. Einige Risiken tauchen immer wieder auf, und das Recht setzt Grenzen.

• Verzerrung (Bias):einseitige Trainingsdaten machen ein einseitiges Modell; es setzt alte Benachteiligungen fort.
• Stellvertreter-Merkmal:ein Merkmal, das ein gelöschtes Merkmal indirekt verrät — etwa ein Vorname, der auf die Herkunft schließen lässt.
• Blackbox:man sieht Eingabe und Ausgabe, aber nicht, wie das Modell entschieden hat.
• Halluzination:ein Sprachmodell erfindet Fakten oder Quellen, die plausibel klingen, aber nicht stimmen.
• DSGVO und KI-Verordnung:niemand muss eine folgenreiche, rein maschinelle Entscheidung hinnehmen; Hochrisiko-Systeme, etwa für Kredite oder Noten, müssen erklärbar sein und von Menschen beaufsichtigt werden.

Eine Firma trainiert ein Modell mit 200 alten Bewerbungen, um neue vorzusortieren. Du bestimmst mit den Reglern, wie diese Trainingsdaten aussehen. Danach laufen je 100 gleich gut qualifizierte Personen aus Gruppe A und Gruppe B durch das fertige Modell.

Halte fest: Das Modell rechnet korrekt und ist trotzdem unfair. Auch ohne das Merkmal „Gruppe“ bleibt ein Abstand, weil die Postleitzahl die Gruppe fast genauso gut verrät.