Was ist KI-Ethik?
Künstliche Intelligenz (KI) ist Software, die Muster aus Daten lernt und damit etwas vorhersagt oder entscheidet. Ethik beschäftigt sich mit Richtig und Falsch. KI-Ethik fragt also: Ist diese KI fair? Ist sie sicher? Respektiert sie Menschen?
Eine KI hat keine eigenen Werte. Sie kopiert die Muster in ihren Daten und verfolgt das Ziel, das ihre Entwickler ihr gegeben haben. Deshalb sind die Menschen, die KI entwerfen, trainieren und benutzen, für ihr Handeln verantwortlich.
Fünf wichtige Prinzipien
- Fairness: Gruppen von Menschen gleich behandeln.
- Verantwortung: Eine bestimmte Person oder Organisation haftet für Schaden.
- Transparenz: Menschen können erfahren, dass KI genutzt wird und warum sie so entschieden hat.
- Datenschutz: Persönliche Daten werden geschützt.
- Sicherheit: Die KI arbeitet zuverlässig und lässt sich nicht leicht missbrauchen.
Bias in Daten und Algorithmen
Bias (Verzerrung) heißt: Ein System bevorzugt oder benachteiligt unfair eine Gruppe. Er kann auf drei Wegen entstehen:
- Daten-Bias: Die Trainingsdaten enthalten zu wenige Beispiele einer Gruppe oder wiederholen unfaire Entscheidungen der Vergangenheit.
- Design-Bias: Die Entwickler wählen ein Ziel oder ein Merkmal, das einer Gruppe schadet (zum Beispiel die Postleitzahl als Ersatz für Fähigkeit).
- Anwendungs-Bias: Ein Werkzeug, das für einen Ort gebaut wurde, wird an einem ganz anderen Ort benutzt.
Beispiel: Eine Bewerbungs-KI, die mit zehn Jahren früherer Einstellungen trainiert wurde, meist von Männern, lernt vielleicht, Frauen schlechter zu bewerten. Gegenmittel: ausgewogene Daten sammeln, die Ergebnisse für jede Gruppe testen, unfaire Merkmale entfernen und auch nach dem Start weiter prüfen.
Datenschutz und die Ethik von KI-Daten
KI braucht riesige Datenmengen, und vieles davon betrifft Menschen: Fotos, Stimmen, Standorte, Gesundheits- und Einkaufsdaten. Gute Praxis:
- Einwilligung: vor dem Sammeln klar fragen.
- Datensparsamkeit: nur sammeln, was nötig ist.
- Zweckbindung: Daten nur für den genannten Zweck nutzen.
- Sicherheit: sicher speichern und löschen, wenn man sie nicht mehr braucht.
Viele Länder haben heute Datenschutzgesetze, zum Beispiel die DSGVO der EU. Auch das Urheberrecht ist ein Thema: Wird eine KI ohne Erlaubnis mit den Werken von Künstlern oder Autoren trainiert, wirft das Fragen von Fairness und Eigentum auf.
Transparenz, Verantwortung und Sicherheit
Manche KI-Modelle sind eine Black Box: Selbst ihre Entwickler können nicht leicht sagen, warum sie eine Antwort gegeben haben. Erklärbare KI zeigt die wichtigsten Gründe einer Entscheidung, damit Menschen sie prüfen und Einspruch erheben können.
Verantwortung heißt: Ein Mensch ist zuständig. Bei Entscheidungen mit viel Gewicht (Medizin, Recht, Kredite, Prüfungen) sollte eine Person den Vorschlag der KI prüfen. Das nennt man Human in the Loop (der Mensch im Entscheidungsprozess).
Sicherheit und Missbrauch: KI kann sich selbstsicher irren ("Halluzinationen"), kann für Deepfakes und Falschnachrichten missbraucht werden und lässt sich austricksen. Sichere KI wird getestet, nach der Veröffentlichung beobachtet und hat Grenzen für schädliche Nutzung.
KI und gesellschaftlicher Wandel
KI hilft in der Medizin (Scans auswerten), in der Landwirtschaft (Warnung vor Pflanzenkrankheiten), bei Übersetzungen und Barrierefreiheit (Sprachausgabe für Menschen, die nicht sehen können). Sie bringt aber auch Probleme:
- Jobs: Manche Routineaufgaben werden automatisiert, neue Jobs entstehen, Menschen müssen umlernen.
- Digitale Kluft: Wer keine Geräte, kein Internet oder keine Kenntnisse hat, fällt weiter zurück.
- Umwelt: Das Training großer Modelle verbraucht viel Strom und Wasser.
- Zu viel Vertrauen: Menschen hören vielleicht auf, selbst zu denken.
Die soziale Wirkung eines KI-Projekts bewertet man so: Wer ist betroffen? Was kann für jede Gruppe schiefgehen? Wie misst man Fairness? Wie können Menschen sich beschweren? Menschen und KI arbeiten am besten zusammen: Die KI bringt Tempo und Masse, die Menschen bringen Urteilskraft, Fürsorge und Werte.
Probier es aus: Sei der Fairness-Tester
Stelle im letzten 3D-Schritt die Zahl der orangen Beispiele erst auf 2, dann auf 5, dann auf 8. Schreibe die JA-Quote jeder Gruppe auf. Welche Mischung ergibt die kleinste Lücke? Zu Hause: Öffne eine App auf deinem Handy und suche ihre Datenschutz-Einstellungen. Welche Daten sammelt sie? Würdest du allem zustimmen?
Wichtige Formeln und Definitionen
- Bias: unfaire Daten oder unfaires Design führen zu unfairen Ergebnissen
- Fairness-Lücke = JA-Quote von Gruppe A − JA-Quote von Gruppe B
- Einwilligung: Erlaubnis, die vor dem Sammeln von Daten klar gegeben wird
- Erklärbare KI: KI, die die Gründe für ihre Entscheidung zeigt
- Human in the Loop: Ein Mensch prüft die Entscheidungen der KI
- Deepfake: ein gefälschtes Video, Bild oder eine gefälschte Stimme, von KI erzeugt
Gelöste Beispiele
1. Eine Gesichtsentsperrung funktioniert bei 99 von 100 hellhäutigen Nutzern, aber nur bei 90 von 100 dunkelhäutigen Nutzern. Was ist das Problem, und was ist eine Lösung?
Schritt 1: Fehlerquoten: 1 % gegen 10 %, das System ist für eine Gruppe weniger genau. Schritt 2: Das ist Bias, wahrscheinlich weil die Trainingsdaten zu wenige dunklere Gesichter enthalten. Schritt 3: Lösung: viele weitere unterschiedliche Gesichter in die Trainingsdaten aufnehmen und die Genauigkeit vor dem Start für jede Gruppe getrennt testen.
2. Eine Bewerbungs-KI sagt bei 60 von 100 Männern und bei 30 von 100 Frauen mit ähnlichen Noten JA. Bestimme die Fairness-Lücke.
JA-Quote der Männer = 60 %. JA-Quote der Frauen = 30 %. Lücke = 60 − 30 = 30 Prozentpunkte. Eine große Lücke bei ähnlichen Noten zeigt, dass die KI unfair ist und vor dem Einsatz korrigiert werden muss.
3. Eine Schule will Kameras mit KI einsetzen, die die Anwesenheit per Gesicht erfassen. Nenne zwei ethische Prüfpunkte.
1. Datenschutz und Einwilligung: Schüler und Eltern informieren, um Erlaubnis bitten, Gesichtsdaten sicher speichern und später löschen. 2. Fairness und Verantwortung: testen, dass es für jeden Schüler funktioniert, und eine Lehrkraft Fehler korrigieren lassen, statt der KI blind zu vertrauen.
Häufige Fehler
- Zu denken, KI sei neutral, weil sie eine Maschine ist. Sie kopiert Muster aus ihren Daten, auch unfaire.
- Zu glauben, mehr Daten beseitigen Bias immer. Mehr von denselben unausgewogenen Daten behält den Bias bei.
- Der KI selbst die Schuld zu geben. Verantwortlich sind die Menschen und Firmen, die sie bauen und nutzen.
- Anzunehmen, eine selbstsichere Antwort der KI sei richtig. KI kann selbstsicher falsch liegen, prüfe wichtige Fakten deshalb nach.