En coulisse
Omnibus numérique : l’UE veut réorganiser les lois numériques
par Florian Bodoky
Le scandale des deepfakes pédopornographiques de Grok et ses conséquences
14/1/2026
Traduction : Sophie Boissonneau
Le Royaume-Uni entend légiférer après la diffusion de deepfakes à caractère sexuel – concernant des enfants dans certains cas – générés par Grok. Londres ne se laisse pas impressionner par les accusations de censure de Musk. Et la Suisse ?
Mise à jour du 15 janvier 2026
Le groupe technologique X et son entreprise d’IA xAI ont annoncé (en anglais) intégrer de nouvelles limites technologiques à leur chatbot d’IA Grok. Ces limites devraient empêcher la création et la modification d’images sexualisées de vraies personnes. Les demandes de représentation numérique de personnes en bikinis, en lingerie, ou autres tenues provocantes seront bloquées, y compris pour les utilisatrices et utilisateurs payants. En outre, seuls ces derniers ont encore accès aux fonctions de traitement d’images et de photos de Grok. Cette mesure aussi devrait permettre un meilleur contrôle des contenus selon l’entreprise. X réagit ainsi aux critiques concernant principalement la génération non consensuelle de deepfakes à caractère sexuel.
Ces nouvelles mesures constituent une réaction directe à l’enquête ouverte contre xAI par le procureur général de l’État de Californie (en anglais) Rob Bonta. Le gouverneur de ce même État, Gavin Newsom, a exigé une mise au clair rapide et des conséquences éventuelles pour l’entreprise. Au niveau fédéral, le Sénat américain a adopté un projet de loi, le Defiance Act, qui donne le droit aux victimes de deepfakes non consensuels générés par l’IA de poursuivre au civil les auteurs de tels contenus. Le projet de loi doit maintenant être transmis à la chambre des représentants.
Il existe toutefois de sérieux doutes quant à l’efficacité de ces mesures. Le portail The Verge (en anglais) fait par exemple remarquer qu’il est facile de contourner les mesures comme le blocage de certains prompts ou la restriction du traitement d’images aux utilisatrices et utilisateurs payants. Il est encore possible de générer ces images via le site Internet de Grok, l’appli Grok et l’appli X. Les vérifications d’âge qui s’affichent régulièrement ne constituent pas un garde-fou non plus puisqu’il suffit pour les contourner de saisir une date de naissance adéquate sans produire un quelconque justificatif. Le portail critique également la réaction du propriétaire de xAI, Elon Musk, qui a rejeté toute la responsabilité sur les utilisatrices et utilisateurs.
Texte original
Le Royaume-Uni a réagi aux deepfakes générés par l’IA Grok (en anglais) et dont certains concernent aussi des mineurs. Il s’agit de l’intelligence artificielle qui fait partie de l’entreprise d’Elon Musk, xAI. Le gouvernement britannique fait savoir dans un communiqué de presse (en anglais) qu’il considère que « la production et le partage incontrôlés de ces contenus constituent une infraction grave » et qu’il a « donné instruction aux autorités compétentes de faire usage de tous les instruments juridiques existants pour mettre un terme à cette pratique ».
Liz Kendall, secrétaire d’État à la Science, à l’Innovation et à la Technologie, a expliqué que le gouvernement prévoit de faire de la création de deepfakes non consensuels de personnes dénudées ou légèrement vêtues une infraction spécifique. L’autorité britannique de surveillance des médias, l’Ofcom, a également ouvert une enquête (en anglais) pour vérifier si la plateforme X a rempli ses obligations dans le cadre l’Online Safety Act (en anglais).
L’enquête devrait répondre à une question centrale : X et son exploitant agissent-ils de manière proactive et suffisante contre les abus ? Le fait que la génération d’images sur X soit limitée aux utilisatrices et utilisateurs payants ne suffit pas pour les autorités britanniques et les mesures prises ont été considérées comme insuffisantes. Le Premier ministre Keir Starmer s’est exprimé très clairement à ce sujet : « Si X ne peut pas contrôler Grok, alors nous le ferons ». Il a demandé à l’Ofcom d’« examiner toutes les options » (en anglais) et n’exclut donc pas le blocage de Grok au Royaume-Uni.
Grok, X et Elon : que s’est-il réellement passé ?
En 025, xAI a ajouté au chatbot une fonction de génération d’images et de vidéos. Les utilisatrices et utilisateurs peuvent aussi modifier des images à l’aide de prompts. En quelques jours se sont diffusées sur la plateforme des représentations sexualisées (en anglais) de personnes réelles, principalement des femmes. Mais des personnes mineures ont aussi été concernées. Les mécanismes de protection habituels n’ont pas toujours fonctionné : les prompts qui étaient en violation manifeste de l’éthique et de la loi ont tout de même été exécutés. Malgré des réclamations et des signalements répétés, la fonction est restée temporairement active. Le propriétaire de X, Elon Musk, a d’abord réagi comme à son habitude aux critiques et aux intentions du gouvernement britannique : il les a critiquées publiquement, qualifiant ces interventions de « censure ».
Source : Florian Bodoky
Récemment, X a limité la fonction de génération d’images de Grok aux abonnés payants pour permettre la traçabilité. X indique que les contenus illégaux ont été supprimés et les comptes responsables bloqués. Grok lui-même a formulé des excuses. Les critiques soulignent toutefois que les entraves techniques peuvent toujours être contournées, par exemple en passant par les sites externes de Grok.
Source : Florian Bodoky
Quelle est la situation dans l’UE et en Suisse ?
En réaction aux dysfonctionnements de Grok, l’Union européenne a développé dès l’année dernière un cadre législatif comme le Digital Services Act (DSA) et l’AI Act pour endiguer la diffusion de contenus préjudiciables générés par l’IA. L’autorité a exigé de X (en allemand) qu’il sécurise tous les documents et données internes à Grok et s’assure du respect des exigences européennes. L’UE a fait savoir qu’elle considère comme illégaux les « deepfakes sexualisés, en particulier de mineurs » et qu’elle cherche « activement à les supprimer et à les éviter ». En Suisse, il n’existe pas de loi spécifique pour les technologies de deepfakes. En mai 2025, le Conseil national a rejeté à une large majorité une motion des Verts qui demandait une réglementation spécifique sur les deepfakes. Le Conseil fédéral a argumenté que les lois existantes « neutres sur le plan technologique » étaient suffisantes. L’exécutif suisse a mentionné la disposition contre l’usurpation d’identité, art. 179 decies du CP.
Après la signature de la « Convention du Conseil de l’Europe sur l’IA », le Conseil fédéral a en outre chargé le Département fédéral de justice et police (DFJP) de préparer, d’ici fin 2026 un projet de consultation correspondant. Le Préposé fédéral à la protection des données et à la transparence (PFPDT) a renvoyé à la loi sur la protection des données révisée en 2023 qui est « directement applicable à l’IA ».
Une affaire récente montre que la Suisse agit aussi contre les contenus générés par l’IA à proprement parler : le Tribunal fédéral suisse a récemment jugé illégaux les contenus pornographiques mettant en scène des adultes rajeunis numériquement pour leur donner l’apparence de mineurs. Cette décision s’appuie sur les dispositions de protection contre la pédopornographie « non effective » figurant dans le Code pénal. La jurisprudence suisse ne serait donc pas totalement impuissante.
Photo d’en-tête : Shutterstock
Depuis que j'ai découvert comment activer les deux canaux téléphoniques de la carte RNIS pour obtenir une plus grande bande passante, je bricole des réseaux numériques. Depuis que je sais parler, je travaille sur des réseaux analogiques. Un Winterthourois d'adoption au cœur rouge et bleu.
Sécurité
Suivez les thèmes et restez informé dans les domaines qui vous intéressent.
En coulisse
Des informations intéressantes sur le monde des produits, un aperçu des coulisses des fabricants et des portraits de personnalités intéressantes.
Tout afficherCes articles pourraient aussi vous intéresser
50 commentaires
later