Éthique IA Gouvernance : les 9 étapes clés pour passer de zéro à opérationnel
Éthique IA Gouvernance : l'essentiel en un article — vrai code, schémas et étapes concrètes, extraits d'un cours de 35 leçons.
Tout le monde peut apprendre Éthique IA Gouvernance — à condition de suivre les étapes dans le bon ordre. On a condensé un cours complet de 35 leçons en un parcours clair, avec les extraits de code les plus utiles.
- Introduction
- Principes fondamentaux
- Biais algorithmiques
- Vie privee et RGPD
- Explicabilite XAI
Pourquoi l’éthique de l’IA maintenant ?
Objectifs pédagogiques
Accélérateur n°1 : la généralisation des LLM
En novembre 2022, le lancement de ChatGPT a marqué un avant et un après. En deux mois, l’outil atteint 100 millions d’utilisateurs, un record absolu pour un service grand public. Brusquement, chaque salarié, chaque élève, chaque journaliste pouvait générer du texte, du code, des analyses.
Les conséquences sont multiples :
Accélérateur n°2 : l’arrivée du règlement EU AI Act
Adopté en mars 2024, le Règlement (UE) 2024/1689 — surnommé « EU AI Act » — est la première loi générale sur l’IA dans le monde. Il s’applique progressivement entre 2025 et 2027.
Aperçu
Calendrier
Effet d’entraînement
L’arrivée d’une norme contraignante change tout : il ne s’agit plus de « faire de son mieux », mais de documenter, auditer, certifier.
Accélérateur n°3 : la pression sociétale et réputationnelle
Les médias, les ONG (Algorithm Watch, AI Now Institute, La Quadrature du Net), les syndicats et les consommateurs scrutent les usages de l’IA. Une affaire mal gérée devient un scandale en quelques heures sur les réseaux sociaux.
Exemples récents :
Alerte n°1 : COMPAS et la justice américaine (2016)
L’ONG ProPublica publie une enquête en mai 2016 sur l’outil COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilisé par des juges américains pour estimer le risque de récidive.
Alerte n°2 : Amazon et le tri de CV sexiste (2018)
Reuters révèle qu’Amazon a développé entre 2014 et 2017 un outil interne de tri automatique de CV. Le modèle, entraîné sur 10 ans de candidatures passées (majoritairement masculines dans la tech), préférait systématiquement les CV d’hommes.
Le modèle pénalisait toute mention contenant le mot « women’s » (women’s chess club, par exemple) et favorisait des verbes « masculins » comme « executed » ou « captured ». Amazon a abandonné le projet.
Alerte n°3 : Tay et la fragilité des chatbots (2016)
Microsoft lance Tay, un chatbot Twitter censé apprendre « en discutant ». En moins de 24 heures, des utilisateurs malveillants l’ont entraîné à tenir des propos racistes, négationnistes, sexistes. Microsoft retire l’outil.
Le coût réel d’une dérive IA
Équité (fairness)
Objectifs pédagogiques
Qu’est-ce qu’une IA « juste » ?
Le mot fairness (anglais) recouvre une réalité complexe : il s’agit de s’assurer qu’un système ne désavantage pas indûment certaines personnes en raison d’un attribut protégé (sexe, origine, âge, handicap, religion…).
En droit français, ces attributs sont listés par l’article 225-1 du Code pénal et la loi du 27 mai 2008. Toute discrimination directe ou indirecte fondée sur ces critères est interdite, même lorsqu’elle émane d’un algorithme.
Les 4 grandes mesures de fairness
1. Parité démographique (Demographic Parity)
Le taux de prédiction positive doit être identique entre les groupes protégés.
Exemple : 30 % des hommes et 30 % des femmes sont acceptés à un crédit.
2. Égalité des chances (Equal Opportunity)
Parmi les personnes qui méritent un résultat positif, le taux d’acceptation doit être égal entre groupes.
Exemple : parmi les candidats qualifiés, 80 % des hommes et 80 % des femmes sont sélectionnés.
3. Égalité des erreurs (Equalized Odds)
Les taux de faux positifs et de faux négatifs doivent être identiques entre groupes.
4. Calibration
Quand le modèle prédit 70 % de risque, on doit observer 70 % de cas réels, identique pour tous les groupes.
L’impossibilité de Kleinberg (2017)
Ce résultat (Kleinberg, Mullainathan, Raghavan, 2017) explique pourquoi le débat sur COMPAS n’a pas de bonne réponse simple : Northpointe affirmait calibrer le modèle, ProPublica mesurait l’inégalité des erreurs. Les deux avaient raison… sur leur propre critère.
Comment choisir sa définition ?
| Contexte | Définition recommandée | Pourquoi |
|---|---|---|
| Recrutement | Égalité des chances | Parmi les qualifiés, même chance d’être choisi |
| Crédit | Calibration + parité surveillée | Justice individuelle + monitoring de groupe |
| Justice pénale | Égalité des erreurs | Présumés innocents protégés |
| Santé (dépistage) | Sensibilité par sous-groupe | Ne pas rater de cas |
| Publicité ciblée | Parité démographique (selon contexte) | Éviter le ciblage discriminant (logement, emploi) |
Cas concret : la règle des 4/5e (US)
Aux États-Unis, l’Uniform Guidelines on Employee Selection Procedures de l’EEOC pose la « four-fifths rule » (1978) : le taux de sélection d’un groupe protégé doit être au moins égal à 80 % du taux du groupe le plus sélectionné.
Cas célèbres — COMPAS, Amazon, Apple Card
Objectifs pédagogiques
Cas 1 : COMPAS (Northpointe / Equivant)
Le système
COMPAS — Correctional Offender Management Profiling for Alternative Sanctions — est un outil d’aide à la décision utilisé depuis le début des années 2000 par des juges américains. Il prédit un risque de récidive sur 137 questions remplies par le prévenu et le service de probation.
Le score (1 à 10) est utilisé pour décider de la liberté conditionnelle, du montant de la caution, ou de la durée de la peine.
L’enquête ProPublica (2016)
ProPublica analyse 7 000 scores en Floride et compare aux re-arrestations sur deux ans. Résultats :
La défense de Northpointe
Northpointe répond : son modèle est calibré, donc juste pour chaque individu. Le débat révèle l’impossibilité de Kleinberg : on ne peut pas avoir à la fois calibration et égalité des erreurs si les taux de base diffèrent.
Les leçons
- Choisir et documenter sa définition de fairness avant le déploiement
- L’explicabilité des scores doit être publiée
- Un modèle propriétaire (black box) en justice pose problème démocratique
- Les taux de base inégaux reflètent souvent une inégalité structurelle
- Auditer régulièrement avec un tiers indépendant
Cas 2 : Amazon recrutement (2014-2018)
Le contexte
Amazon développe dès 2014 un outil interne de tri automatique des CV pour ses postes tech. Le modèle est entraîné sur 10 ans de candidatures, avec comme cible « CV ressemblant aux profils embauchés ces 10 dernières années ».
Le problème
Les profils embauchés étaient massivement masculins (le secteur tech étant historiquement masculin). Le modèle apprend donc à privilégier les hommes.
Plus précisément :
La réponse
Amazon abandonne le projet en 2017 et n’a jamais déployé l’outil « en production ». L’information sort dans Reuters en 2018, devenant un cas d’école mondial.
Les leçons
- Ne jamais utiliser la performance passée comme cible quand elle reproduit une inégalité
- Supprimer le sexe ne suffit pas : traquer les proxys (vocabulaire, diplômes, clubs)
- Auditer le modèle sur des sous-populations avant tout déploiement
- Impliquer la fonction RH, juridique et éthique dès la conception
- Préférer l’aide à la décision (humain final) au tri 100 % auto
Cas 3 : Apple Card (2019)
Le déclencheur
En novembre 2019, le développeur David Heinemeier Hansson tweete : sa femme et lui partagent leurs comptes, mais elle reçoit une limite de crédit 20 fois inférieure à la sienne sur la nouvelle Apple Card (émise par Goldman Sachs). Le tweet devient viral.
Cet article couvre les extraits les plus utiles — le cours complet Éthique IA Gouvernance (11 chapitres, 35 leçons, exercices corrigés et projet final) t'emmène jusqu'au bout.
./acceder-au-cours-complet cours gratuit : Claude CoworkFAQ
Combien de temps pour apprendre Éthique IA Gouvernance ?
Faut-il des prérequis ?
Par où commencer concrètement ?
📬 Tu veux recevoir ce type de guide chaque semaine ? Abonne-toi gratuitement — code réel, zéro blabla.