BRUXELLES — L’IA d’Elon Musk Grok a limité l’accès à son générateur de deepfakes, disponible sur le réseau social X, après que ses utilisateurs ont créé une déferlante d’images de nus non consenties. Grok indique désormais que la création d’images “est actuellement limitée aux abonnés payants”, ce qui “permet de garantir une utilisation responsable pendant que nous continuons à affiner les choses”. Il cite “les problèmes récents et les améliorations apportées aux mesures de protection”. Le chatbot a attiré l’attention des autorités de régulation et des responsables politiques de toute l’Europe après avoir permis à ses utilisateurs de manipuler des photos publiées en ligne pour en faire une série de deepfakes, incluant des représentations de mineurs et de personnalités publiques déshabillés. La vice-première ministre suédoise Ebba Busch a été l’une des dernières victimes les plus en vue. Le message n’est cependant plus visible des utilisateurs européens. “Ce message de Grok a été bloqué dans l’Union européenne en vertu des lois locales”, est-il désormais indiqué. La Commission européenne a ordonné à X jeudi de conserver “tous les documents et données internes relatifs à Grok” — une escalade dans l’enquête en cours sur les politiques de modération de contenus de X — après avoir qualifié les deepfakes sexuellement explicites d’“illégaux”, “épouvantables” et “dégoûtants”. X n’a pas répondu à notre demande de commentaire à l’heure où nous publions.

PARIS — La justice française va enquêter sur la prolifération, sur la plateforme X, de deepfakes à caractère sexuel générés par l’intelligence artificielle (IA) Grok, a indiqué le parquet de Paris à POLITICO. Le parquet a en effet été saisi, ce 2 janvier, par les députés Arthur Delaporte (PS) et Eric Bothorel (apparenté Ensemble pour la République) après que des milliers de deepfakes non consentis à caractère sexuel ont été générés par Grok et publiés sur X.  “Ces faits ont été joints à l’enquête déjà ouverte sur X, sur le fondement de l’article 226-8-1 du code pénal”, précise le parquet, qui rappelle que ce délit est puni de deux ans d’emprisonnement et 60 000 euros d’amende. Les deux parlementaires ont confirmé à POLITICO avoir effectué des signalements à la justice sur la base de l’article 40 du code de procédure pénale.  Depuis deux jours, des centaines de femmes et d’adolescents témoignent du fait que leurs photos, publiées sur les réseaux sociaux, sont “dénudées” à la demande d’autres internautes par Grok, l’intelligence artificielle intégrée au réseau social X.  Ces montages photographiques générés par IA portent atteinte “à la dignité des personnes représentées” estime Arthur Delaporte dans son courrier à la procureure, consulté par POLITICO. Contacté par POLITICO, le cabinet de la ministre déléguée au numérique indique se pencher sur les problèmes posés par Grok, sans plus de précision pour l’instant. La haut-commissaire à l’Enfance Sarah El Haïry s’est dite “scandalisée” par ces pratiques. Plusieurs associations comme Stop Fisha et Respect Zone ainsi que le signaleur de confiance Point de Contact ont en outre indiqué à POLITICO être en train de récolter des contenus signalés par les utilisateurs pour les faire remonter aux autorités. Cette nouvelle affaire va étoffer l’enquête déjà ouverte par la section de lutte contre la cybercriminalité contre la plateforme X. Une procédure déjà élargie en novembre à des propos antisémites et négationnistes disséminés par Grok.  Eric Bothorel, qui avait obtenu l’ouverture de l’enquête judiciaire contre le réseau X en février dernier, a également indiqué à POLITICO saisir conjointement l’Arcom et la Commission européenne. Sollicité par POLITICO, X n’a pas donné suite au moment de la publication. 

BRUXELLES — La Commission européenne a infligé vendredi une amende de 120 millions d’euros à X, le réseau social d’Elon Musk. Il s’agit de la toute première sanction prononcée en vertu du règlement européen sur les services numériques (DSA). Cette décision, qui risque d’exacerber les tensions avec les États-Unis, a d’ores et déjà suscité des critiques de la part de J.D. Vance. Le vice-président américain a ainsi jugé que cette amende était une sanction pour “absence de censure”. Le montant de l’amende est pourtant modéré par rapport aux sanctions infligées précédemment par Bruxelles aux entreprises technologiques.  Dans le cadre des négociations commerciales, les États-Unis ont fait pression à plusieurs reprises sur l’UE pour qu’elle assouplisse sa réglementation. X a été reconnu coupable de manquement aux obligations de transparence qui lui incombent en tant que très grande plateforme en ligne, au titre du règlement sur les services numériques (DSA). La Commission a jugé le design de la coche bleue de X “trompeur” après sa transformation en fonctionnalité payante. L’exécutif européen a également déclaré que le répertoire publicitaire de X manquait de transparence et ne permettait pas aux chercheurs d’accéder aux données publiques, comme l’exige la loi. Cette amende ne marque que la fin d’une partie de l’enquête menée par l’UE et ouverte il y a près de deux ans. D’autres volets, portant sur les efforts déployés par X pour lutter contre la diffusion de contenus illégaux et la manipulation de l’information, sont toujours en cours. Bruxelles subit une pression croissante de la part des dirigeants européens, des eurodéputés et des organisations de défense des droits numériques pour conclure l’enquête sur X, et prouver ainsi son engagement à protéger les citoyens en ligne.  “Notre objectif n’est pas d’infliger les amendes les plus élevées, mais de garantir l’application de notre législation numérique. Si vous respectez nos règles, vous n’aurez pas d’amende”, a déclaré Henna Virkkunen, vice-présidente exécutive de la Commission européenne chargée de la souveraineté numérique, lors d’un point de presse vendredi matin. En vertu du DSA, les entreprises peuvent être condamnées à une amende pouvant atteindre 6 % de leur chiffre d’affaires annuel mondial. Si les revenus mondiaux de X sont estimés à quelques milliards d’euros, ceux des entreprises de Musk sont bien plus importants. Répondant aux propos de Vance, Virkkunen a déclaré aux journalistes : « Le DSA n’a rien à voir avec la censure ; cette décision concerne la transparence de X. » Elle a également indiqué que le montant de l’amende avait été jugé “proportionné” et calculé en tenant compte de “la nature de ces infractions, de leur gravité pour les utilisateurs européens concernés et de leur durée”. Interrogé sur la méthode de calcul de l’UE, un haut fonctionnaire de la Commission a réaffirmé le principe de proportionnalité et précisé qu’il ne pouvait être “réduit à une simple formule économique”. De son côté, la ministre française déléguée à l’IA et au Numérique Anne Le Hénanff a affirmé que la France “souten[ait] pleinement cette décision … qui envoie un message clair à l’ensemble des plateformes”. X n’a pas immédiatement répondu à notre demande de commentaires.

PARIS — “Aucune torture, même rémunérée, ne doit être encouragée.” Ces mots sont ceux de Tibo Inshape, un des rares influenceurs à s’exprimer sur le sujet. Le youtubeur le plus suivi de France a pris la parole sur X le 19 août, au lendemain du décès tragique du streameur Raphaël Graven. Connu sous le pseudonyme de Jean Pormanove, l’homme de 45 ans est mort en direct sur la plateforme Kick, après avoir subi des mois durant des violences infligées par deux autres streameurs, encouragés par des dons de leurs nombreux spectateurs. Le parquet de Nice enquête sur les circonstances de cette mort, quand le parquet de Paris a annoncé se pencher sur les pratiques de la plateforme. Désormais au centre de l’attention politico-médiatique, Kick fera l’objet d’un sort particulier du député Arthur Delaporte (PS) et de l’ex-député Stéphane Vojetta (EPR), dans le cadre de leur mission sur la régulation du secteur, a annoncé mardi Clara Chappaz. Leur mission voit son périmètre élargi à la monétisation des contenus violents ; les conclusions sont annoncées pour la fin de l’année. La ministre déléguée au Numérique a également assuré à POLITICO que “l’ensemble des parties prenantes aux enjeux de cette mission seront sollicités, dont l’Union des métiers de l’influence (Umicc)”, qui fédère les créateurs de contenu. Ceux-ci sont en effet partie prenante du problème, selon une partie des internautes et les pouvoirs publics. La prise de conscience sur les dérives de certaines tendances, imaginées avant tout pour ameuter des spectateurs, arrive trop tard. Les agissements du Lokal, le collectif de streameurs dont faisait partie Jean Pormanove, avaient été notamment documentés par Mediapart en décembre dernier, sans guère susciter de réaction.  LE BUSINESS DU CHALLENGE EXTRÊME  Le silence d’une majorité des influenceurs peut s’expliquer par le fonctionnement d’une partie de l’écosystème et l’aspect lucratif des “challenges”. Soit des vidéos où le vidéaste réalise des défis, parfois dangereux, pour capter l’attention d’un public sans cesse plus avide d’images chocs. Ceux qui se sont aventurés à condamner ces pratiques, et notamment les violences subies par Raphaël Graven, ont reçu en retour des messages haineux. C’est le cas de la streameuse Avamind sur X, après s’être prononcée en faveur de l’interdiction de la chaîne du Lokal. Preuve, selon plusieurs observateurs, d’une habitude du public à l’égard de ces contenus et d’une réticence des influenceurs à condamner unanimement ces pratiques, de crainte de s’attirer les foudres de leurs abonnés.  “Les challenges extrêmes sur les réseaux sociaux existent depuis un moment”, rappelle également Stéphanie Laporte. La fondatrice de l’agence Otta et spécialiste du secteur de l’influence prend pour exemple des figures populaires, comme celles du youtubeur Inoxtag, qui a pour habitude de faire dans le contenu sensationnel. Le vidéaste de 23 ans a gravi il y a un an l’Everest avant de se lancer, il y a quelques mois, dans la traversée de l’Atlantique en une dizaine de jours. Il a commencé plus jeune par des “pranks” (canulars) destinés à se faire peur avec son collègue Michou et à filmer leurs réactions parfois violentes.  S’il s’agit ici d’un contenu encadré, que le youtubeur a les moyens de financer, d’autres plus précaires, comme le Lokal, vont plus loin dans les défis dangereux afin de capter une audience en quête d’interdit. “Pour les youtubeurs connus, il est donc difficile de venir faire la morale aux plus petits influenceurs”, constate Stéphanie Laporte. “La société et les influenceurs doivent poser eux-mêmes des limites à ce qui est proposé sur le web”, renchérit Hervé Godechot, journaliste et ex-membre du collège de l’Arcom, le régulateur du secteur. RENFORCER LE CADRE ÉTHIQUE  De son côté, l’Umicc, qui rassemble une partie des créateurs de contenu et des agences, donne pour preuve de sa bonne foi les chartes éthiques non contraignantes qu’elle a élaborées pour sensibiliser ses adhérents. Mais renvoie la balle aux plateformes pour limiter les contenus les plus extrêmes. “Tout l’écosystème à un rôle à jouer et nous agissons sur la responsabilisation des professionnels, mais les plateformes ont, elles aussi, une responsabilité majeure dans la prévention des dérives”, a réagi par écrit un porte-parole de l’Umicc questionné par POLITICO. Le syndicat pousse pour que le gouvernement oblige les plateformes à modérer en temps réel des contenus en direct et à un retrait plus rapide des publications signalées par les associations. Ces pistes devraient être étudiées dans le cadre de la mission parlementaire lancée par Clara Chappaz. 

PARIS — Le parquet de Paris a annoncé ce mardi l’ouverture d’une enquête préliminaire concernant le site de streaming Kick pour “fourniture en bande organisée de plateforme en ligne illicite”.  Une semaine après le décès du streameur Jean Pormanove en plein direct, le parquet cherche à savoir si le site australien “fournissait, en connaissance de cause, des services illicites, notamment par la diffusion de vidéos d’atteintes volontaires à l’intégrité de la personne”.  L’enquête, confiée à l’office anti-cybercriminalité (OFAC), devra également déterminer si Kick respectait ses obligations au titre du règlement européen sur les services numériques (DSA). Et notamment l’obligation “de signaler aux autorités les risques d’atteintes à la vie ou à la sécurité des personnes”.  Sur sa chaîne, la plus suivie en France, Jean Pormanove, de son vrai nom Raphaël Graven, subissait des actes de violences physiques et verbales de la part de ses partenaires de stream depuis plus d’un an.  Cette enquête est ouverte “en concertation avec le parquet de Nice”, le parquet de Paris ayant une compétence nationale sur les sujets cyber.   Le parquet de Nice a déjà ouvert deux enquêtes : l’une en décembre à la suite des révélations de Mediapart, l’autre au lendemain de la mort de Raphaël Graven. Elles se poursuivent. Pour l’heure, aucun lien direct n’a été identifié entre sa mort et les violences qu’il a subies.