Che cos'è l'etica dell'IA?
L'intelligenza artificiale (IA) è un software che impara schemi dai dati e li usa per prevedere o decidere. L'etica studia ciò che è giusto e ciò che è sbagliato. Quindi l'etica dell'IA si chiede: questa IA è equa? È sicura? Rispetta le persone?
Un'IA non ha valori propri. Copia gli schemi presenti nei dati e segue l'obiettivo dato da chi l'ha creata. Per questo chi progetta, addestra e usa l'IA è responsabile di ciò che fa.
Cinque principi chiave
- Equità: trattare allo stesso modo i diversi gruppi di persone.
- Responsabilità: una persona o un'organizzazione precisa risponde dei danni.
- Trasparenza: le persone possono sapere che si usa l'IA e perché ha deciso così.
- Privacy: i dati personali sono protetti.
- Sicurezza: l'IA funziona in modo affidabile e non è facile usarla male.
Bias nei dati e negli algoritmi
Il bias (pregiudizio) significa che un sistema favorisce o sfavorisce ingiustamente un gruppo. Può entrare in tre modi:
- Bias nei dati: i dati di addestramento hanno pochi esempi di un gruppo, oppure copiano decisioni ingiuste del passato.
- Bias di progettazione: chi crea il sistema sceglie un obiettivo o una caratteristica che danneggia un gruppo (per esempio usare il CAP di casa come indizio della capacità di una persona).
- Bias d'uso: uno strumento creato per un luogo viene usato in un posto molto diverso.
Esempio: un'IA per le assunzioni addestrata su dieci anni di assunzioni passate, in gran parte uomini, può imparare a classificare le donne più in basso. Rimedi: raccogliere dati equilibrati, controllare i risultati per ogni gruppo, eliminare le caratteristiche ingiuste e continuare a controllare dopo il lancio.
Privacy ed etica dei dati dell'IA
L'IA ha bisogno di enormi quantità di dati e molti riguardano le persone: foto, voci, posizioni, salute e acquisti. Le buone pratiche sono:
- Consenso: chiedere in modo chiaro prima di raccogliere.
- Minimizzazione dei dati: raccogliere solo ciò che serve.
- Limite di scopo: usare i dati solo per lo scopo dichiarato.
- Sicurezza: conservarli al sicuro e cancellarli quando non servono più.
Oggi molti Paesi hanno leggi sulla protezione dei dati, come il GDPR dell'UE e la legge indiana DPDP del 2023. C'è anche il tema del diritto d'autore: un'IA addestrata sulle opere di artisti o scrittori senza permesso solleva dubbi di equità e di proprietà.
Trasparenza, responsabilità e sicurezza
Alcuni modelli di IA sono una scatola nera: nemmeno chi li ha creati sa spiegare facilmente perché hanno dato una risposta. L'IA spiegabile mostra i motivi principali di una decisione, così le persone possono verificarla e fare ricorso.
La responsabilità significa che risponde un essere umano. Per le decisioni importanti (mediche, legali, prestiti, esami) una persona dovrebbe rivedere il suggerimento dell'IA: si chiama human in the loop (persona nel ciclo).
Sicurezza e uso scorretto: l'IA può sbagliare con grande sicurezza (le "allucinazioni"), può essere usata per creare deepfake e notizie false, e può essere ingannata. Un'IA sicura è testata, tenuta sotto controllo dopo il rilascio e ha limiti contro gli usi dannosi.
IA e cambiamento sociale
L'IA aiuta in medicina (lettura delle immagini diagnostiche), in agricoltura (allarmi sulle malattie delle colture), nella traduzione e nell'accessibilità (una voce per chi non vede). Porta anche dei problemi:
- Lavoro: alcuni compiti ripetitivi vengono automatizzati; nascono nuovi lavori; serve riqualificarsi.
- Divario digitale: chi non ha dispositivi, internet o competenze resta sempre più indietro.
- Ambiente: addestrare grandi modelli consuma molta elettricità e acqua.
- Troppa fiducia: le persone possono smettere di pensare con la propria testa.
Valutare l'impatto sociale di un progetto di IA: elenca chi è coinvolto, cosa può andare storto per ogni gruppo, come misurare l'equità e come le persone possono fare reclamo. Umani e IA funzionano meglio insieme: l'IA porta velocità e grandi numeri, gli umani portano giudizio, cura e valori.
Provaci: fai il collaudatore dell'equità
Nell'ultimo passo del 3D, imposta gli esempi arancioni a 2, poi a 5, poi a 8. Annota la percentuale di SÌ di ogni gruppo. Quale combinazione dà la differenza più piccola? A casa: apri una qualsiasi app del telefono e cerca le sue impostazioni sulla privacy. Quali dati raccoglie? Accetteresti di darli tutti?
Formule e definizioni chiave
- Bias: dati o progettazione ingiusti danno risultati ingiusti
- Differenza di equità = percentuale di SÌ del gruppo A − percentuale di SÌ del gruppo B
- Consenso: permesso dato in modo chiaro prima di raccogliere i dati
- IA spiegabile: IA che mostra i motivi della sua decisione
- Human in the loop: una persona rivede le decisioni dell'IA
- Deepfake: video, immagine o voce falsi creati dall'IA
Esempi svolti
1. Un'IA di sblocco facciale funziona per 99 utenti su 100 a pelle chiara ma solo per 90 su 100 a pelle scura. Qual è il problema e una soluzione?
Passo 1: i tassi di errore sono 1% contro 10%, quindi il sistema è meno preciso per un gruppo. Passo 2: è un bias, molto probabilmente causato da dati di addestramento con pochi volti scuri. Passo 3: soluzione: aggiungere molti più volti diversi ai dati di addestramento e testare la precisione separatamente per ogni gruppo prima del rilascio.
2. Un'IA per le assunzioni dice SÌ a 60 uomini su 100 e a 30 donne su 100 con voti simili. Trova la differenza di equità.
Percentuale di SÌ per gli uomini = 60%. Percentuale di SÌ per le donne = 30%. Differenza = 60 − 30 = 30 punti percentuali. Una differenza grande con voti simili mostra che l'IA è ingiusta e va corretta prima dell'uso.
3. Una scuola vuole usare telecamere con IA per segnare le presenze con il riconoscimento del volto. Elenca due controlli etici.
1. Privacy e consenso: informare studenti e genitori, chiedere il permesso, conservare i dati dei volti in modo sicuro e cancellarli poi. 2. Equità e responsabilità: verificare che funzioni per ogni studente e lasciare che un insegnante corregga gli errori invece di fidarsi del tutto dell'IA.
Errori comuni
- Pensare che l'IA sia neutrale perché è una macchina. Copia gli schemi dai suoi dati, anche quelli ingiusti.
- Credere che più dati risolvano sempre il bias. Più dati sbilanciati dello stesso tipo mantengono il bias.
- Dare la colpa all'IA stessa. La responsabilità è delle persone e delle aziende che la creano e la usano.
- Pensare che una risposta sicura dell'IA sia corretta. L'IA può sbagliare con sicurezza, quindi controlla i fatti importanti.