Grok restreint l’accès à son générateur d’images qui déshabille les femmes

BRUXELLES — L’IA d’Elon Musk Grok a limité l’accès à son générateur de deepfakes, disponible sur le réseau social X, après que ses utilisateurs ont créé une déferlante d’images de nus non consenties.

Grok indique désormais que la création d’images “est actuellement limitée aux abonnés payants”, ce qui “permet de garantir une utilisation responsable pendant que nous continuons à affiner les choses”. Il cite “les problèmes récents et les améliorations apportées aux mesures de protection”.

Le chatbot a attiré l’attention des autorités de régulation et des responsables politiques de toute l’Europe après avoir permis à ses utilisateurs de manipuler des photos publiées en ligne pour en faire une série de deepfakes, incluant des représentations de mineurs et de personnalités publiques déshabillés.

La vice-première ministre suédoise Ebba Busch a été l’une des dernières victimes les plus en vue. Le message n’est cependant plus visible des utilisateurs européens. “Ce message de Grok a été bloqué dans l’Union européenne en vertu des lois locales”, est-il désormais indiqué.

La Commission européenne a ordonné à X jeudi de conserver “tous les documents et données internes relatifs à Grok” — une escalade dans l’enquête en cours sur les politiques de modération de contenus de X — après avoir qualifié les deepfakes sexuellement explicites d’“illégaux”, “épouvantables” et “dégoûtants”.

X n’a pas répondu à notre demande de commentaire à l’heure où nous publions.