Qu'est-ce que l'éthique de l'IA ?
L'intelligence artificielle (IA) est un logiciel qui apprend des régularités dans des données et s'en sert pour prévoir ou décider. L'éthique étudie ce qui est bien et mal. Donc l'éthique de l'IA pose ces questions : cette IA est-elle juste ? Est-elle sûre ? Respecte-t-elle les gens ?
Une IA n'a pas de valeurs à elle. Elle copie les régularités de ses données et suit l'objectif donné par ses créateurs. C'est pourquoi les personnes qui la conçoivent, l'entraînent et l'utilisent sont responsables de ce qu'elle fait.
Cinq principes clés
- Équité : traiter les groupes de personnes de la même façon.
- Responsabilité : une personne ou une organisation identifiée répond des dégâts.
- Transparence : on peut savoir qu'une IA est utilisée et pourquoi elle a décidé.
- Vie privée : les données personnelles sont protégées.
- Sécurité : l'IA fonctionne de façon fiable et on ne peut pas l'utiliser facilement à mauvais escient.
Les biais dans les données et les algorithmes
Le biais signifie qu'un système favorise ou défavorise injustement un groupe. Il peut apparaître de trois façons :
- Biais de données : les données d'entraînement contiennent trop peu d'exemples d'un groupe, ou elles copient des décisions injustes du passé.
- Biais de conception : les créateurs choisissent un objectif ou un critère qui pénalise un groupe (par exemple, utiliser le code postal comme indice de compétence).
- Biais d'usage : un outil conçu pour un endroit est utilisé dans un endroit très différent.
Exemple : une IA de recrutement entraînée sur dix ans d'embauches, surtout des hommes, peut apprendre à classer les femmes plus bas. Solutions : rassembler des données équilibrées, tester les résultats pour chaque groupe, retirer les critères injustes et continuer à vérifier après le lancement.
Vie privée et éthique des données d'IA
L'IA a besoin de quantités énormes de données, et beaucoup parlent de personnes : photos, voix, lieux, santé, historique d'achats. Les bonnes pratiques :
- Consentement : demander clairement avant de collecter.
- Minimisation des données : ne collecter que le nécessaire.
- Limitation de la finalité : utiliser les données seulement pour le but annoncé.
- Sécurité : les garder en lieu sûr et les supprimer quand elles ne servent plus.
Beaucoup de pays ont des lois de protection des données, comme le RGPD de l'UE et la loi DPDP 2023 de l'Inde. Le droit d'auteur pose aussi problème : une IA entraînée sur le travail d'artistes ou d'écrivains sans leur permission soulève des questions d'équité et de propriété.
Transparence, responsabilité et sécurité
Certains modèles d'IA sont une boîte noire : même leurs créateurs ont du mal à dire pourquoi ils ont donné une réponse. L'IA explicable montre les principales raisons d'une décision, pour que chacun puisse la vérifier et faire appel.
La responsabilité signifie qu'un humain répond des actes. Pour les décisions à fort enjeu (médecine, justice, prêts, examens), une personne doit relire la proposition de l'IA : on appelle cela l'humain dans la boucle.
Sécurité et mauvais usage : l'IA peut se tromper avec assurance (les « hallucinations »), peut servir à fabriquer des deepfakes et de fausses nouvelles, et peut être trompée. Une IA sûre est testée, surveillée après sa sortie et limitée pour les usages nuisibles.
L'IA et le changement social
L'IA aide en médecine (lecture d'images médicales), en agriculture (alertes sur les maladies des cultures), en traduction et en accessibilité (une voix pour les personnes qui ne voient pas). Elle apporte aussi des problèmes :
- Emplois : certaines tâches routinières sont automatisées ; de nouveaux métiers apparaissent ; il faut se reformer.
- Fracture numérique : ceux qui n'ont ni appareil, ni internet, ni compétences prennent encore plus de retard.
- Environnement : entraîner de gros modèles consomme beaucoup d'électricité et d'eau.
- Confiance excessive : on risque de ne plus réfléchir par soi-même.
Évaluer l'impact social d'un projet d'IA : lister les personnes touchées, ce qui pourrait mal tourner pour chaque groupe, comment mesurer l'équité et comment les gens peuvent se plaindre. Humains et IA travaillent mieux ensemble : l'IA apporte vitesse et volume, les humains apportent jugement, attention et valeurs.
À toi : deviens testeur d'équité
Dans la dernière étape 3D, mets le nombre d'exemples orange à 2, puis 5, puis 8. Note le taux de OUI de chaque groupe. Quel mélange donne le plus petit écart ? À la maison : ouvre une appli de ton téléphone et trouve ses réglages de confidentialité. Quelles données collecte-t-elle ? Accepterais-tu tout cela ?
Formules et définitions clés
- Biais : des données ou une conception injustes donnent des résultats injustes
- Écart d'équité = taux de OUI du groupe A − taux de OUI du groupe B
- Consentement : permission donnée clairement avant la collecte des données
- IA explicable : IA qui montre les raisons de sa décision
- Humain dans la boucle : une personne relit les décisions de l'IA
- Deepfake : fausse vidéo, image ou voix créée par une IA
Exemples résolus
1. Une IA de déverrouillage facial fonctionne pour 99 utilisateurs à peau claire sur 100, mais seulement 90 sur 100 à peau foncée. Quel est le problème et une solution ?
Étape 1 : Taux d'erreur : 1 % contre 10 %, donc le système est moins précis pour un groupe. Étape 2 : C'est un biais, très probablement dû à des données d'entraînement avec trop peu de visages foncés. Étape 3 : Solution : ajouter beaucoup plus de visages variés aux données d'entraînement et tester la précision séparément pour chaque groupe avant la mise en service.
2. Une IA de recrutement dit OUI à 60 hommes sur 100 et à 30 femmes sur 100 avec des notes semblables. Trouve l'écart d'équité.
Taux de OUI pour les hommes = 60 %. Taux de OUI pour les femmes = 30 %. Écart = 60 − 30 = 30 points de pourcentage. Un grand écart avec des notes semblables montre que l'IA est injuste et doit être corrigée avant usage.
3. Une école veut utiliser des caméras avec IA pour noter les présences par reconnaissance faciale. Cite deux vérifications éthiques.
1. Vie privée et consentement : informer élèves et parents, demander l'autorisation, stocker les données de visage en sécurité et les supprimer plus tard. 2. Équité et responsabilité : tester que cela marche pour chaque élève, et laisser un enseignant corriger les erreurs au lieu de faire entièrement confiance à l'IA.
Erreurs fréquentes
- Croire que l'IA est neutre parce que c'est une machine. Elle copie les régularités de ses données, même injustes.
- Croire que plus de données corrige toujours le biais. Plus de données déséquilibrées de même type gardent le biais.
- Accuser l'IA elle-même. La responsabilité revient aux personnes et aux entreprises qui la construisent et l'utilisent.
- Penser qu'une réponse donnée avec assurance par l'IA est juste. Elle peut se tromper avec assurance, donc vérifie les faits importants.