Pourquoi cela compte
En janvier 2022, la CNIL a sanctionné Google (150 millions d'euros) et Facebook (60 millions d'euros) pour une raison de conception : sur leurs sites, un seul clic suffisait pour accepter les cookies, alors qu'il en fallait plusieurs pour les refuser.
Ces sanctions ne portent pas sur des failles informatiques. Elles portent sur des choix de conception : comment un bouton est formulé, où une case est pré-cochée, quelle option est mise en avant visuellement.
L'éthique numérique, ce n'est pas de la philosophie abstraite. C'est l'ensemble des décisions de conception, d'organisation et d'utilisation des systèmes numériques qui ont des effets concrets sur des personnes réelles. Ce module vous propose une grille de lecture opérationnelle pour identifier ce qui pose problème et agir en conséquence.
1. Les quatre piliers : une grille de décision
Face à un choix technique ou organisationnel, la question utile n'est pas « est-ce moral ? » mais : ce choix respecte-t-il les quatre conditions qui protègent les personnes concernées ? Ces quatre conditions sont le consentement, la transparence, l'équité et la responsabilité. Elles sont mobilisées dans les textes réglementaires les plus récents — RGPD, DSA, IA Act — et forment un canevas cohérent.
Pilier 1 — Consentement
Le consentement est valide s'il est :
- Univoque : la personne a fait un geste positif pour donner son accord. Une case pré-cochée n'est pas un consentement.
- Libre : la personne peut refuser sans subir de pénalité. Conditionner l'accès à un service à l'acceptation des cookies peut compromettre la liberté du consentement ; la CNIL l'apprécie au cas par cas.
- Informé : la personne sait à quoi elle consent. Formuler « partage avec nos partenaires commerciaux » sans les nommer n'est pas un consentement informé.
- Révocable : la personne peut retirer son consentement aussi facilement qu'elle l'a donné. Si s'inscrire prend 2 clics et se désinscrire exige un formulaire papier, le consentement n'est pas équilibré.
À retenir — Le consentement n'est pas un ticket validé. C'est un accord libre, informé, univoque et réversible. Si l'un de ces quatre critères manque, ce n'est pas un vrai consentement.
Pilier 2 — Transparence
La transparence répond à une question simple : qui fait quoi avec quoi ?
- Transparence sur les finalités : pourquoi ce système existe-t-il ? À quoi servent les données collectées ?
- Transparence sur le fonctionnement : quand une décision est prise par un algorithme, la personne concernée a-t-elle accès à une explication de la logique utilisée ?
- Transparence sur l'IA : l'article 50 du règlement (UE) 2024/1689 (IA Act) impose aux fournisseurs de systèmes d'IA destinés à interagir avec des personnes physiques de les concevoir de façon que ces personnes soient informées qu'elles interagissent avec un système d'IA, sauf si cela ressort clairement du contexte (paragraphe 1). Les obligations des déployeurs dépendent de l'usage (paragraphes 3 et 4), et le marquage technique des contenus de synthèse relève du paragraphe 2. Ces dispositions s'appliquent depuis le 2 août 2026.
À retenir — La transparence se résume à une question honnête : si la personne concernée savait exactement ce que vous faites avec ses données et comment votre système fonctionne, changerait-elle son comportement ? Si oui, il y a probablement un déficit de transparence.
Pilier 3 — Équité
L'équité numérique pose la question suivante : est-ce que ce système désavantage systématiquement un groupe de personnes ? Les inégalités produites par les algorithmes sont souvent invisibles et non intentionnelles. Un algorithme de recrutement entraîné sur des données historiques peut reproduire mécaniquement les biais des dix dernières années, sans que personne n'ait programmé de discrimination.
Dans la pratique, l'équité implique :
- Vérifier la composition des données d'entraînement avant de déployer un système d'IA sur des décisions qui affectent des personnes.
- Tester les résultats d'un système sur des sous-groupes distincts (genre, âge, origine géographique) pour détecter des disparités de traitement.
- Ne pas utiliser comme variable de décision un attribut qui est un indicateur indirect d'une caractéristique protégée.
À retenir — L'équité n'est pas garantie par la bonne intention. Elle se vérifie en regardant les résultats du système sur des groupes différents. Un système « neutre » qui produit des inégalités systématiques n'est pas équitable.
Pilier 4 — Responsabilité
La responsabilité répond à une question précise : si quelque chose se passe mal, qui est imputable ? « C'est l'algorithme » ou « c'est notre prestataire » ne sont pas des réponses acceptables en droit — ni en éthique.
L'IA Act distingue les fournisseurs (qui construisent le système) et les déployeurs (qui l'utilisent). Les deux ont des responsabilités distinctes. Un déployeur qui utilise un système d'IA à haut risque ne peut pas se défausser sur le fournisseur du modèle.
Concrètement, la responsabilité implique :
- Documenter les choix qui ont conduit à l'utilisation d'un système donné.
- Nommer un référent interne pour les décisions automatisées qui affectent des personnes.
- Prévoir un mécanisme de recours pour les personnes qui souhaitent contester une décision.
À retenir — Quatre piliers : consentement, transparence, équité, responsabilité. Ils ne sont pas indépendants. Un système transparent mais inéquitable n'est pas éthique. Un système qui recueille le consentement mais ne prévoit aucun mécanisme de responsabilité non plus.
2. Les interfaces trompeuses : ce que votre interface ne devrait pas faire
Interface trompeuse (dark pattern) — Technique de conception d'interface qui guide l'utilisateur vers une décision qui sert l'organisation, au détriment de l'intérêt de l'utilisateur — souvent à son insu. L'article 25 du DSA (règlement (UE) 2022/2065) interdit ces pratiques aux plateformes en ligne, au-delà de ce que couvrent déjà le RGPD et le droit de la consommation ; les amendes peuvent atteindre 6 % du chiffre d'affaires mondial.
Le mur de cookies (« accepter ou payer »)
L'utilisateur qui refuse les cookies se voit proposer soit de quitter le site, soit de payer pour y accéder sans cookies. Un mur de cookies ou une alternative payante n'est pas interdit par principe, mais peut compromettre la liberté du consentement : sa légalité s'apprécie au cas par cas, notamment selon l'existence d'une alternative réelle et équitable et le caractère raisonnable du prix (critères de la CNIL). Si vous exploitez un site, proposez un refus des cookies aussi facilement accessible que l'acceptation.
Le piège à cafards
S'inscrire est simple (1 clic) ; se désinscrire est long et pénible (formulaire, délai, service client). L'asymétrie entre inscription et désinscription viole le principe de révocabilité du consentement (RGPD, article 7 §3). Mettez en place un bouton de désinscription aussi visible que le bouton d'inscription.
La manipulation émotionnelle
L'option de refus est formulée pour provoquer honte ou culpabilité : « Non merci, je préfère dépenser plus ». La formulation asymétrique exploite des biais cognitifs pour contourner la décision consciente. Formulez les options de refus de manière neutre et factuelle.
Les annonces déguisées
Du contenu publicitaire est présenté comme du contenu éditorial ou des résultats organiques, avec une mention « sponsorisé » peu visible. Le DSA (article 26) impose des obligations de transparence sur la publicité. Distinguez visuellement et clairement le contenu sponsorisé du contenu éditorial.
La continuité forcée
Un essai gratuit se transforme automatiquement en abonnement payant sans rappel clair. L'utilisateur a consenti à un essai, pas à un abonnement. Envoyez un rappel clair avant la fin de la période gratuite avec un lien de résiliation direct.
L'urgence artificielle
Des messages comme « Plus que 2 articles en stock ! » ou des compteurs qui repartent à zéro au rechargement de la page. Quand l'urgence est mensongère, elle constitue une pratique commerciale déloyale. N'affichez des indicateurs d'urgence que s'ils sont factuellement exacts.
À retenir — Les interfaces trompeuses ne sont pas seulement non éthiques — elles sont de plus en plus sanctionnées (DSA, RGPD, droit de la consommation). Les interfaces transparentes génèrent une confiance durable que les interfaces manipulatrices détruisent. Un utilisateur qui se sent manipulé revient rarement.
3. Les biais algorithmiques : ce qui se cache dans les données
Un biais algorithmique est un résultat systématiquement défavorable pour un groupe de personnes, produit par un système automatisé. Il naît rarement d'une intention discriminatoire — il naît de données imparfaites, de définitions approximatives ou d'effets de composition non anticipés.
Biais de représentation
Mécanisme : les données d'entraînement ne représentent pas équitablement tous les groupes. Le modèle apprend à partir d'exemples biaisés et produit des résultats biaisés. Exemple documenté : une étude publiée en 2018 dans les actes de la conférence FAT* (Fairness, Accountability, and Transparency) a montré que trois systèmes commerciaux de reconnaissance faciale présentaient des taux d'erreur bien plus élevés sur des visages de femmes à peau sombre que sur des visages d'hommes à peau claire. Ce que vous pouvez faire : vérifier que les données d'entraînement sont représentatives de la population concernée avant de déployer un système d'IA.
Biais d'historicité
Mécanisme : les données d'entraînement reflètent des inégalités passées. Le modèle « apprend » que certains groupes accèdent moins à certaines ressources — et les en prive systématiquement à l'avenir. Exemple documenté : une entreprise de commerce en ligne a développé entre 2014 et 2017 un outil de tri automatique de CV, entraîné sur ses données historiques de recrutement. L'outil a systématiquement pénalisé des candidatures contenant certains termes associés à des contextes féminins. L'outil a été abandonné sans être déployé. Ce que vous pouvez faire : analyser si vos données historiques contiennent des inégalités passées avant de les utiliser pour entraîner un outil de décision.
Biais de mesure
Mécanisme : la variable utilisée comme indicateur de décision ne mesure pas réellement ce qu'on croit mesurer, ou la mesure est influencée par des facteurs extérieurs au phénomène. Exemple documenté : en 2016, l'organisation ProPublica a publié une analyse d'un logiciel utilisé dans plusieurs États américains pour évaluer le risque de récidive de détenus. L'analyse a conclu que le système présentait des disparités de traitement entre groupes raciaux. Une controverse académique a suivi sur la définition même de l'équité algorithmique — cette controverse est elle-même pédagogique. Ce que vous pouvez faire : questionner ce que votre indicateur mesure réellement et s'il n'est pas influencé par des variables corrélées avec des caractéristiques protégées.
À retenir — Les trois biais (représentation, historicité, mesure) ont en commun d'être invisibles sans une démarche active d'investigation. Ils ne se voient pas dans le code : ils se voient dans les résultats, par groupe de population. La réglementation européenne — notamment l'IA Act pour les systèmes à haut risque — impose une gestion des risques et un contrôle de la qualité des données, précisément parce que ces problèmes ne se résolvent pas d'eux-mêmes.
4. Sobriété numérique et écoconception : les réflexes pratiques
Le numérique a une empreinte physique que son invisibilité tend à masquer. Selon l'ADEME (rapport « La face cachée du numérique », 2021), le secteur numérique représentait environ 4 % des émissions mondiales de gaz à effet de serre, avec une trajectoire en croissance. La consommation d'une requête à un modèle de langage varie fortement selon le modèle, la longueur de la réponse et l'infrastructure : les chiffres qui circulent sont à prendre avec prudence, et l'entraînement des modèles pèse aussi.
RGESN — Référentiel général d'éco-conception de services numériques, dont la version 2024 a été définie par l'Arcep et l'Arcom, en lien avec l'ADEME (loi REEN). Disponible sur ecoresponsable.numerique.gouv.fr. Il structure l'écoconception en plusieurs domaines (stratégie, architecture, UX, contenu, front-end, back-end, hébergement) avec des critères concrets et évaluables.
Cinq réflexes pratiques :
- Compresser les médias avant de les publier : une image non optimisée peut peser 5 à 10 fois plus qu'une image compressée avec la même qualité visuelle perceptible. Moins de poids = moins de bande passante = moins d'énergie par chargement de page.
- Mesurer avant d'optimiser : on ne peut pas réduire ce qu'on ne mesure pas. Des outils comme l'extension EcoIndex permettent d'estimer l'impact d'une page web.
- Réduire la durée et la fréquence des sessions IA : utiliser un modèle de langage pour une tâche qui ne le nécessite pas consomme des ressources disproportionnées. Réservez les requêtes IA aux tâches qui apportent une valeur réelle.
- Choisir des modèles plus petits quand c'est possible : un modèle de 7 milliards de paramètres consomme beaucoup moins d'énergie qu'un grand modèle propriétaire, pour des tâches où il produit des résultats comparables.
- Désactiver la lecture automatique des vidéos : la lecture automatique consomme de la bande passante et de l'énergie sans que l'utilisateur l'ait demandé. Sur vos propres sites, ne l'activez pas par défaut.
À retenir — La sobriété numérique n'est pas une contrainte imposée de l'extérieur. C'est une discipline qui améliore la performance (pages plus rapides), réduit les coûts (moins de bande passante, moins de tokens) et améliore l'expérience utilisateur. Les intérêts économiques et environnementaux sont ici alignés.
5. Construire une charte éthique simple pour son organisation
Une charte éthique n'est pas un document de relations publiques. C'est un outil de gouvernance interne : une liste courte de principes qui guident les décisions quand la situation n'est pas tranchée par une règle explicite. Une bonne charte est courte (3 à 5 principes), concrète (chaque principe s'applique à une décision réelle) et vivante (révisée au moins une fois par an).
Voici une trame en cinq points, adaptable à toute organisation :
- Respect du choix des personnes : quand nous demandons un consentement, il est libre et aussi facile à retirer qu'à donner ; sinon, nous indiquons clairement sur quelle base nous traitons les données.
- Transparence sur les systèmes automatisés : lorsque nous utilisons des systèmes d'IA ou des algorithmes de décision qui affectent des personnes, nous l'indiquons clairement et nous expliquons la logique utilisée sur demande.
- Équité vérifiée : avant de déployer un système automatisé qui produit des décisions affectant des personnes, nous vérifions que ses résultats ne désavantagent pas systématiquement un groupe. Nous documentons cette vérification.
- Responsabilité nommée : chaque système numérique qui affecte des personnes a un référent identifié au sein de l'organisation, joignable pour toute question ou contestation.
- Sobriété proportionnée : nous utilisons les outils numériques de manière proportionnée aux besoins. Nous préférons des solutions légères à des solutions lourdes à valeur équivalente.
À retenir — Une charte éthique n'a de valeur que si elle est utilisée. Fixez un rituel simple : une fois par an, lors d'une réunion d'équipe, relire les principes et nommer deux ou trois situations de l'année où ils ont été appliqués — ou auraient dû l'être.
Sur la sobriété, le guide des outils fait le point sur l'empreinte environnementale de l'IA, avec ses sources.
Ce que vous savez maintenant
- Nommer les quatre piliers de l'éthique numérique : consentement (univoque, libre, informé, révocable), transparence (sur les finalités et les systèmes automatisés), équité (vérification des résultats par groupe), responsabilité (référent identifié, mécanisme de recours).
- Identifier six interfaces trompeuses courantes : mur de cookies, piège à cafards, manipulation émotionnelle, annonces déguisées, continuité forcée, urgence artificielle — de plus en plus sanctionnées (DSA, RGPD, droit de la consommation).
- Reconnaître trois types de biais algorithmiques : biais de représentation, biais d'historicité, biais de mesure — avec des exemples documentés pour chaque type.
- Citer le RGESN comme référentiel pour l'écoconception de services numériques, et appliquer cinq réflexes pratiques de sobriété.
- Esquisser une charte éthique en cinq points pour votre organisation, à partir de la trame proposée.