Wat is AI-ethiek?
Kunstmatige intelligentie (AI) is software die patronen uit data leert en die gebruikt om iets te voorspellen of te beslissen. Ethiek gaat over wat goed en fout is. AI-ethiek vraagt dus: is deze AI eerlijk? Is hij veilig? Respecteert hij mensen?
Een AI heeft geen eigen normen en waarden. Hij kopieert de patronen uit zijn data en volgt het doel dat zijn makers hem gaven. Daarom zijn de mensen die AI ontwerpen, trainen en gebruiken verantwoordelijk voor wat hij doet.
Vijf belangrijke principes
- Eerlijkheid: behandel groepen mensen gelijk.
- Verantwoordelijkheid: een persoon of organisatie met naam staat in voor de schade.
- Transparantie: mensen kunnen weten dat er AI wordt gebruikt en waarom die iets besliste.
- Privacy: persoonlijke gegevens worden beschermd.
- Veiligheid: de AI werkt betrouwbaar en kan niet makkelijk worden misbruikt.
Vooroordeel in data en algoritmes
Vooroordeel (bias) betekent dat een systeem onterecht een groep bevoordeelt of benadeelt. Het kan op drie manieren binnenkomen:
- Databias: de trainingsdata bevat te weinig voorbeelden van een groep, of herhaalt oneerlijke beslissingen uit het verleden.
- Ontwerpbias: de makers kiezen een doel of kenmerk dat een groep schaadt (bijvoorbeeld de postcode gebruiken als maat voor talent).
- Gebruiksbias: een hulpmiddel dat voor één plek is gemaakt, wordt op een heel andere plek gebruikt.
Voorbeeld: een AI voor sollicitaties die is getraind op tien jaar aanstellingen, vooral van mannen, kan leren vrouwen lager te rangschikken. Oplossingen: evenwichtige data verzamelen, de uitkomsten per groep testen, oneerlijke kenmerken weghalen en blijven controleren na de start.
Privacy en de ethiek van AI-data
AI heeft enorme hoeveelheden data nodig en veel daarvan gaat over mensen: foto's, stemmen, locaties, gezondheid en koopgeschiedenis. Goede afspraken:
- Toestemming: vraag duidelijk om ja voordat je data verzamelt.
- Dataminimalisatie: verzamel alleen wat nodig is.
- Doelbinding: gebruik data alleen voor het afgesproken doel.
- Beveiliging: bewaar data veilig en verwijder ze als je ze niet meer nodig hebt.
Veel landen hebben nu wetten voor gegevensbescherming, zoals de AVG (GDPR) van de EU en de DPDP Act 2023 van India. Auteursrecht is ook een probleem: als een AI is getraind op het werk van kunstenaars of schrijvers zonder hun toestemming, roept dat vragen op over eerlijkheid en eigendom.
Transparantie, verantwoordelijkheid en veiligheid
Sommige AI-modellen zijn een zwarte doos (black box): zelfs hun makers kunnen niet makkelijk zeggen waarom ze een antwoord gaven. Uitlegbare AI laat de belangrijkste redenen van een beslissing zien, zodat mensen die kunnen controleren en er bezwaar tegen kunnen maken.
Verantwoordelijkheid betekent dat een mens aansprakelijk is. Bij beslissingen met grote gevolgen (medisch, juridisch, leningen, examens) moet een persoon het voorstel van de AI beoordelen. Dit heet human in the loop (de mens in de lus).
Veiligheid en misbruik: een AI kan met veel zelfvertrouwen fouten maken ("hallucinaties"), kan worden gebruikt om deepfakes en nepnieuws te maken en kan worden misleid. Veilige AI wordt getest, na de lancering in de gaten gehouden en heeft grenzen voor schadelijk gebruik.
AI en verandering in de maatschappij
AI helpt in de geneeskunde (scans lezen), de landbouw (waarschuwingen voor gewasziekten), bij vertalen en toegankelijkheid (een stem voor mensen die niet kunnen zien). Maar er zijn ook problemen:
- Banen: sommige routinetaken worden geautomatiseerd, er komen nieuwe banen bij en mensen moeten bijgeschoold worden.
- Digitale kloof: wie geen apparaten, internet of vaardigheden heeft, raakt verder achter.
- Milieu: het trainen van grote modellen kost veel elektriciteit en water.
- Te veel vertrouwen: mensen kunnen stoppen met zelf nadenken.
De gevolgen voor de maatschappij beoordelen bij een AI-project: noteer wie erdoor geraakt wordt, wat er voor elke groep mis kan gaan, hoe je eerlijkheid meet en hoe mensen kunnen klagen. Mensen en AI werken het best samen: AI zorgt voor snelheid en schaal, mensen brengen oordeelsvermogen, zorg en waarden mee.
Probeer het: wees de eerlijkheidstester
Zet in de laatste 3D-stap het aantal oranje voorbeelden eerst op 2, dan op 5 en dan op 8. Schrijf het JA-percentage van elke groep op. Welke verdeling geeft het kleinste verschil? Thuis: open een app op je telefoon en zoek de privacy-instellingen. Welke gegevens verzamelt de app? Zou je met alles akkoord gaan?
Belangrijke formules en begrippen
- Vooroordeel: oneerlijke data of oneerlijk ontwerp geeft oneerlijke uitkomsten
- Eerlijkheidsverschil = JA-percentage van groep A − JA-percentage van groep B
- Toestemming: duidelijk gegeven goedkeuring voordat data worden verzameld
- Uitlegbare AI: AI die de redenen van zijn beslissing laat zien
- Human in the loop: een persoon beoordeelt de beslissingen van de AI
- Deepfake: een nepvideo, nepafbeelding of nepstem gemaakt door AI
Uitgewerkte voorbeelden
1. Een AI voor gezichtsontgrendeling werkt bij 99 van 100 gebruikers met een lichte huid, maar bij 90 van 100 gebruikers met een donkere huid. Wat is het probleem en wat is één oplossing?
Stap 1: De foutenpercentages zijn 1% en 10%, dus het systeem is minder nauwkeurig voor één groep. Stap 2: Dit is vooroordeel, waarschijnlijk door trainingsdata met te weinig donkere gezichten. Stap 3: Oplossing: veel meer gevarieerde gezichten aan de trainingsdata toevoegen en de nauwkeurigheid voor elke groep apart testen voordat het systeem wordt gebruikt.
2. Een AI voor sollicitaties zegt JA tegen 60 van 100 mannen en 30 van 100 vrouwen met vergelijkbare cijfers. Bereken het eerlijkheidsverschil.
JA-percentage mannen = 60%. JA-percentage vrouwen = 30%. Verschil = 60 − 30 = 30 procentpunten. Een groot verschil bij vergelijkbare cijfers laat zien dat de AI oneerlijk is en moet worden verbeterd voordat hij wordt gebruikt.
3. Een school wil camera's met AI gebruiken om aanwezigheid te registreren met gezichtsherkenning. Noem twee ethische controles.
1. Privacy en toestemming: vertel het aan leerlingen en ouders, vraag toestemming, bewaar gezichtsdata veilig en verwijder ze later. 2. Eerlijkheid en verantwoordelijkheid: test dat het voor elke leerling werkt en laat een leraar fouten verbeteren in plaats van de AI blind te vertrouwen.
Veelgemaakte fouten
- Denken dat AI neutraal is omdat het een machine is. Hij kopieert patronen uit zijn data, ook oneerlijke.
- Geloven dat meer data altijd vooroordeel oplost. Meer van dezelfde scheve data houdt het vooroordeel in stand.
- De AI zelf de schuld geven. De verantwoordelijkheid ligt bij de mensen en bedrijven die hem bouwen en gebruiken.
- Denken dat een zelfverzekerd antwoord van een AI juist is. AI kan zelfverzekerd fout zijn, dus controleer belangrijke feiten.