Éthique et risques de l'IA : Biais, transparence, et réglementation

L'IA n'est pas neutre

Un des mythes dangereux : "L'IA est objective car elle n'a pas d'émotions."

Faux. Les systèmes d'IA héritent les biais des données et des choix humains qui les créent.

Problème 1 : Les biais algorithimques

D'où viennent les biais ?

1. Données d'entraînement biaisées

   • Un modèle entraîné sur des données historiques reproduit les discriminations du passé
   • Exemple : Si 80% des données d'embauche passées favorisent les hommes, le modèle apprendra ce pattern

2. Labeling manuel

   • Si les "labelers" (humains qui annotent les données) ont des biais, le modèle les apprend
   • Exemple : Qui décide ce qu'est une "image offensante" ?

3. Choix d'optimisation

   • Qu'optimise-t-on ? Précision ? Équité ? Rapidité ?
   • Ces choix sont humains, pas neutres

4. Feedback loops

   • Un modèle biaisé donne des résultats biaisés → humains les acceptent → plus de biais entré dans les données futures
   • Cercle vicieux

Exemples réels de biais en IA

Domaine	Biais observé	Impact
Recrutement	Amazon a arrêté son IA RH — elle discriminait les femmes	Perte d'opportunité d'emploi
Reconnaissance faciale	Taux d'erreur 35% sur visages noirs vs 0.3% sur visages blancs	Fausses accusations
Scoring crédit	IA donne moins de crédit aux zones "défavorisées"	Inégalité économique
Justice	Algorithmes prédictifs surreprésentent certaines communautés	Inégalité dans les peines

Comment atténuer les biais ?

• Diversifier les données : inclure tous les groupes représentés
• Auditer régulièrement : mesurer les biais via équité vs groupes différents
• Transparence : documenter les limitations du modèle
• Humains en boucle : ne jamais automatiser les décisions critiques (emploi, justice, credit)

Problème 2 : Hallucinations et désinformation

Une LLM peut produire du contenu convaincant mais complètement faux.

Pourquoi ?

Rappel : Le modèle prédit le token suivant basé sur les probabilités. Si plusieurs réponses ont des scores proches, il en choisit une. Même si c'est une hallucination.

Exemples réels :

Q: "Qui a remporté le Prix Nobel de physique en 2025 ?"
A: "Jean-Paul Sartre a remporté le Prix Nobel de physique 2025 pour ses travaux en mécanique quantique."

(Note: Sartre est mort en 1980. La réponse est pure invention.)

Risques :

1. Désinformation à grande échelle : L'IA génère du contenu faux persuasif
2. Citations fictives : "Le Président a dit [chose jamais dite]"
3. Données erronées : Des chiffres fabriqués présentés comme factuels

Solutions :

• Ne jamais faire confiance seul à l'IA : Toujours vérifier les faits critiques
• RAG (Retrieval-Augmented Generation) : Donner l'accès à des sources externes vérifiées
• Tools & APIs : L'IA cherche les infos en temps réel plutôt que deviner
• Red-teaming : Tester agressivement pour trouver des hallucinations

Problème 3 : Consommation énergétique

Entraîner une grande LLM consomme énormément d'électricité.

Les chiffres

Modèle	Entraînement	Émissions CO2
Claude 3.5	~1M USD élec.	~1000+ tonnes CO2
GPT-4	Estimé >10M USD	~5000+ tonnes CO2
PaLM 2	Estimé similaire	~5000+ tonnes CO2

À titre de comparaison :

• 1 personne moyenne émet ~5 tonnes CO2/an
• Entraîner Claude = ~200 ans d'émissions d'une personne

Mais : L'inférence (utilisation) est efficace

Une fois entraîné, l'IA consomme très peu par utilisation. Les datacenters modernes optimisent aussi pour l'efficacité.

Néanmoins : Si tous les humains utilisent une IA pour chaque tâche, la consommation cumulée peut être significative.

Problème 4 : Confidentialité et données sensibles

Risques

1. Données dans l'entraînement : Certaines données personnelles ont servi à entraîner les modèles

   • L'IA ne les "se souvient" pas, mais elle les a vues

2. Données en inférence : Quand vous utilisez Claude/ChatGPT, vos conversations sont traitées

   • Anthropic a une politique "pas de log" pour Claude
   • Autres fournisseurs varient

3. Extraction de secrets : Un chercheur peut éventuellement interroger le modèle pour extraire des données de training

   • Risque faible mais réel pour les données très sensibles

Bonnes pratiques

• Ne pas envoyer de données ultra-confidentielles à des APIs cloud
• Envisager un LLM self-hosted pour les données sensibles
• Anonymiser les données avant la transmission
• Lire la politique de confidentialité du fournisseur

Problème 5 : Concentration du pouvoir

Le problème

Créer une LLM coûte des centaines de millions à des milliards de dollars.

Conséquence : Seules quelques grandes corporations (OpenAI, Google, Anthropic, Meta, Microsoft) peuvent créer les meilleurs modèles.

Implications

• Dépendance commerciale : Si vous utilisiez ChatGPT et OpenAI l'arrête, vous êtes bloqués
• Biais corporatif : Les valeurs/biais du créateur sont embedés dans le modèle
• Manque d'innovation : Les startups ne peuvent pas compétir

Contrepoids

• Open-source : Llama, Mistral, autres modèles ouverts réduisent la concentration
• Régulation : L'UE force plus de transparence et de contr ôle
• Recherche académique : Continuer la R&D indépendante

Le cadre légal et réglementaire

En Europe : L'AI Act (2024)

L'Union Européenne impose des règles selon le niveau de risque :

Risque	Exigences
Très élevé (reconnaissance faciale en masse, justice)	Approvals avant deployment, audit continu
Élevé (RH, crédit, santé)	Documentation, transparency, humain en boucle
Moyen/Faible	Guidelines générales

Aux États-Unis : Régulation émergente

• Pas de loi fédérale unique (encore)
• California et autres États expérimentent
• Pressure de la Maison Blanche pour l'oversight

Implications pour les entreprises

• RGPD : Respecter la confidentialité (EU)
• Droit d'explication : Pouvoir expliquer une décision IA
• Audit : Log des décisions, tests réguliers
• Responsabilité : Qui est liable si l'IA fait du mal ?

Checklist éthique pour avant de déployer une IA

• [ ] Avons-nous testé les biais sur différents groupes démographiques ?
• [ ] Avons-nous documenté les limitations et hallucinations possibles ?
• [ ] Les données sensibles sont-elles anonymisées / stockées sécurisé ?
• [ ] Y a-t-il un humain en boucle pour les décisions critiques ?
• [ ] Avons-nous communiqué aux utilisateurs qu'ils interagissent avec une IA ?
• [ ] Pouvons-nous justifier/expliquer la décision de l'IA si quelqu'un le demande ?

À retenir

L'IA n'est pas magique ni neutre.

✅ Elle est puissante, mais ⚠️ Elle hérite des biais humains ⚠️ Elle peut halluciner ⚠️ Elle consomme de l'énergie et des ressources ⚠️ Elle posait des défis de confidentialité ⚠️ Elle concentre le pouvoir

La bonne nouvelle : Ces problèmes sont reconnus et on peut les atténuer avec de la conscience, de la régulation, et du soin.

Prochaine étape

Fin du Bloc 1 !

Vous comprenez maintenant :

• Ce qu'est l'IA et ses types
• Comment fonctionnent les LLMs
• Quand les utiliser vs autres approches
• Les défis éthiques et risques

→ Bloc 2 : Gouvernance IA commence demain.

Pour les exécutifs et leaders, comprendre la gouvernance est critique. On va voir comment structurer une approche responsable de l'IA en entreprise.

: la modale et son overlay sont volontairement HORS de .tutoriel-container (ci-dessous) pour ne jamais être capturés par le split de contenu de tutoriel-gating.js, qui vide et reconstruit innerHTML de part et d'autre du marqueur — sinon la modale se retrouvait imbriquée dans .tutoriel-gated (donc cachée avec lui) et devenait impossible à afficher. -->