PARIS — La justice française va enquêter sur la prolifération, sur la plateforme X, de deepfakes à caractère sexuel générés par l’intelligence artificielle (IA) Grok, a indiqué le parquet de Paris à POLITICO. Le parquet a en effet été saisi, ce 2 janvier, par les députés Arthur Delaporte (PS) et Eric Bothorel (apparenté Ensemble pour la République) après que des milliers de deepfakes non consentis à caractère sexuel ont été générés par Grok et publiés sur X.  “Ces faits ont été joints à l’enquête déjà ouverte sur X, sur le fondement de l’article 226-8-1 du code pénal”, précise le parquet, qui rappelle que ce délit est puni de deux ans d’emprisonnement et 60 000 euros d’amende. Les deux parlementaires ont confirmé à POLITICO avoir effectué des signalements à la justice sur la base de l’article 40 du code de procédure pénale.  Depuis deux jours, des centaines de femmes et d’adolescents témoignent du fait que leurs photos, publiées sur les réseaux sociaux, sont “dénudées” à la demande d’autres internautes par Grok, l’intelligence artificielle intégrée au réseau social X.  Ces montages photographiques générés par IA portent atteinte “à la dignité des personnes représentées” estime Arthur Delaporte dans son courrier à la procureure, consulté par POLITICO. Contacté par POLITICO, le cabinet de la ministre déléguée au numérique indique se pencher sur les problèmes posés par Grok, sans plus de précision pour l’instant. La haut-commissaire à l’Enfance Sarah El Haïry s’est dite “scandalisée” par ces pratiques. Plusieurs associations comme Stop Fisha et Respect Zone ainsi que le signaleur de confiance Point de Contact ont en outre indiqué à POLITICO être en train de récolter des contenus signalés par les utilisateurs pour les faire remonter aux autorités. Cette nouvelle affaire va étoffer l’enquête déjà ouverte par la section de lutte contre la cybercriminalité contre la plateforme X. Une procédure déjà élargie en novembre à des propos antisémites et négationnistes disséminés par Grok.  Eric Bothorel, qui avait obtenu l’ouverture de l’enquête judiciaire contre le réseau X en février dernier, a également indiqué à POLITICO saisir conjointement l’Arcom et la Commission européenne. Sollicité par POLITICO, X n’a pas donné suite au moment de la publication. 

PARIS — Sur instruction du Premier ministre, le gouvernement a engagé une procédure de suspension du site Shein, a annoncé le ministère de l’Economie et des finances ce mercredi. Le communiqué de Bercy indique que cette suspension durera “le temps nécessaire pour que la plateforme démontre (…) que l’ensemble de ses contenus sont en conformité avec nos lois et règlements”. Cette demande de suspension fait suite à la découverte vendredi de poupées sexuelles à l’effigie d’enfants sur le site. Ce matin, le député Antoine Vermorel Marques (DR) a également saisi la justice après avoir découvert la présence d’armes de catégorie A sur le site. Un “premier point d’étape” devra être fait par les ministres dans les 48 prochaines heures, précise également le communiqué.

PARIS — Le ministre de l’Economie a menacé Shein d’interdiction en France si l’enquête judiciaire montrait que les comportements de la plateforme de fast-fashion sont “répétés”. Roland Lescure était interrogé ce matin sur BFM TV après que la direction générale de la Concurrence, de la Consommation et de la Répression des fraudes (DGCCRF) a découvert, vendredi 31 octobre, que la plateforme proposait à la vente des poupées sexuelles à l’effigie d’enfants. L’administration avait alors immédiatement saisi le procureur de la République et l’Arcom. “Pour des actes terroristes, pour le trafic de stupéfiants et pour des objets pédopornographiques, le gouvernement est en droit de demander l’interdiction de l’accès au marché français”, a ajouté le ministre de l’Economie. “Ces objets horribles sont illégaux”, a rappelé Roland Lescure, ajoutant avoir saisi la justice et l’Arcom, qui est compétente en la matière puisque Shein a été désignée l’an passée comme très grande plateforme en ligne (VLOP) dans le cadre du règlement européen sur les services numériques (DSA). La haut-commissaire à l’Enfance, Sarah El-Haïry, a pour sa part annoncé dimanche son intention de convoquer “l’ensemble des grandes plateformes” pour comprendre le circuit de commercialisation de ces produits. En 2021, le site de vente en ligne Wish avait fait l’objet de mesures de déréférencement à la demande de Bruno Le Maire, alors ministre de l’Economie. Après plusieurs enquêtes de la DGCCRF sur la sécurité des produits proposés par la plateforme, les principaux gestionnaires de moteurs de recherche et les magasins d’applications mobiles avaient été appelés à dérérencer Wish, avant que le site ne soit finalement à nouveau autorisé un an plus tard. Contacté par POLITICO, Shein n’a pas donné suite au moment de la publication.