Les deepfakes de Grok mettent à l’épreuve la détermination de l’Europe à tenir tête à la tech américaine

BRUXELLES — Le réseau social X d’Elon Musk est dans le viseur des autorités à travers l’Europe après que son intelligence artificielle Grok a produit une série de deepfakes de nus, dont des représentations de mineurs dévêtus.

L’affaire devient rapidement le dernier test en date pour l’Europe, qui doit déterminer si elle ose sévir contre Elon Musk et d’autres plateformes des géants américains, sachant qu’elle s’attirerait les foudres Donald Trump, dans un contexte de crise de confiance transatlantique majeure et de menaces sur le Groenland.

Il y a tout juste un mois, Bruxelles a infligé une amende de 120 millions d’euros à X pour avoir enfreint la législation phare de l’Union européenne pour réguler les plateformes, le règlement sur les services numériques (DSA). Cette sanction a suscité une vive réaction de la part de Washington, l’administration américaine imposant une interdiction de séjour à l’ancien commissaire européen chargé des questions numériques et architecte du DSA, Thierry Breton, ainsi qu’à quatre militants de la lutte contre la désinformation.

Lorsque Grok a commencé à produire à tour de bras des deepfakes sexuellement explicites et non consentis la semaine dernière, les autorités de régulation à Paris, Bruxelles, Londres, Dublin et dans d’autres capitales de l’UE ont lancé des enquêtes. Lundi, Thomas Regnier, porte-parole de la Commission européenne pour les questions numériques, a qualifié cette pratique d’“illégale”, d’“épouventable” et de “dégoûtante”.

Jeudi, l’exécutif européen a annoncé avoir ordonné à X de conserver “tous les documents et données internes relatifs à Grok”, intensifiant l’enquête en cours sur les politiques de modération de contenus du réseau social.

Le DSA prévoit des amendes pouvant atteindre 6% du chiffre d’affaires annuel mondial. En principe, il permet également à l’UE d’imposer une interdiction temporaire de X dans toute l’Europe, mais cela est considéré comme une “mesure de dernier recours”.

Reste que les enquêtes prennent de nombreux mois et doivent avoir l’aval de la présidente de la Commission européenne, Ursula von der Leyen.

“Ces incidents sont profondément troublants, totalement inacceptables et soulèvent des questions urgentes quant au respect et à l’application des règles européennes existantes”, a écrit Regina Doherty, eurodéputée irlandaise du Parti populaire européen, dans une nouvelle lettre adressée à Henna Virkkunen, la commissaire européenne aux Technologies numériques, qui supervise les services de l’UE chargés d’enquêter sur X.

Mise en garde

Plusieurs gouvernements et régulateurs européens ont déjà fait savoir qu’ils ne laisseraient pas l’affaire Grok se dérouler sans réagir.

Le parquet de Paris a annoncé vendredi dernier qu’il allait enquêter sur la prolifération de deepfakes à caractère sexuel non consentis générés par Grok et publiés sur X. Le gendarme des communications au Royaume-Uni, l’Ofcom, a indiqué être en “contact urgent” avec l’entreprise.

Dublin, où se trouve le siège européen de X, est également à l’affût. “Partager des images intimes non consenties est illégal, et générer des contenus pédopornographiques est illégal”, a insisté mardi le régulateur irlandais des médias, Coimisiún na Meán, dans un communiqué adressé à POLITICO.

L’autorité a précisé qu’elle collaborait avec la Commission européenne sur Grok, et a appelé les utilisateurs à lui signaler à elle et à la plateforme les contenus illégaux qu’ils ont vus. La loi irlandaise sur la sécurité en ligne exige que les plateformes donnent suite à ces signalements.

X a également reçu une mise en garde de Berlin. “Nous observons avec une grande inquiétude cette tendance à utiliser des outils d’IA tels que Grok pour représenter des femmes et même des mineurs dans des poses sexualisées”, a énoncé mardi un porte-parole du ministère allemand du Numérique à POLITICO.

“Toute personne qui crée ou diffuse de telles images sans consentement porte gravement atteinte aux droits de la personne et peut, dans de nombreux cas, commettre une infraction pénale”, a-t-il ajouté.

En juillet dernier, l’exécutif européen a convoqué les représentants de X après que Grok a généré des commentaires antisémites. | Michael Nguyen/NurPhoto via Getty Images

Certaines autorités nationales pourraient agir seules, en particulier si l’outil est utilisé pour générer du contenu illégal passible de poursuites pénales, comme du contenu pédopornographique ou, dans certaines juridictions, du contenu pornographique non consenti.

Ce que peut l’UE

Les autorités ont invoqué le règlement européen sur les services numériques ainsi que celui sur l’intelligence artificielle, comme outils juridiques pour mettre fin à la diffusion de ces images de nus non consenties et de contenus pédopornographiques.

Mais le règlement sur l’IA et son mécanisme coercitif sont encore en cours de déploiement, ce qui fait reposer principalement la charge de sévir contre Grok sur les épaules de l’équipe de la Commission chargée de faire respecter les règles relatives aux plateformes.

En juillet dernier, l’exécutif européen a convoqué les représentants de X après que Grok a généré des commentaires antisémites. Dans le cadre de la procédure confidentielle, la société a répondu à une nouvelle demande d’informations à ce sujet pendant les vacances de Noël.

La question des deepfakes de Grok s’est depuis invitée dans ces échanges.

La Commission “examine très sérieusement cette affaire”, a assuré Thomas Regnier lors d’un point presse lundi.

Cela ne signifie pas que l’enquête soit sur le point d’aboutir. Après avoir publié ses conclusions préliminaires dans l’affaire X, la Commission avait encore besoin de dix-huit mois pour la clore et fixer une amende.

Puis, toute action de Bruxelles risque d’entraîner une réaction de Washington. Mais les parlementaires européens continuent de faire pression sur la Commission pour qu’elle applique dans tous les cas les lois de l’UE. “La petite amende infligée à X est un bon début, mais elle arrive vraiment trop tard et n’est absolument pas suffisante”, a réagi Alexandra Geese, députée européenne allemande des Verts, à propos de l’amende de 120 millions d’euros.

X n’a pas répondu à une demande de commentaire avant la publication de cet article.

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.