IA Grok: l'UE ouvre une enquête visant X

La Commission européenne a annoncé lundi l'ouverture d'une nouvelle enquête visant le réseau social d'Elon Musk, X, en raison de la diffusion d’images de mineurs et de femmes faussement dénudés, générées par Grok, son assistant d'intelligence artificielle.

L'Europe ne "tolérera pas les comportements insensés" des plateformes numériques, comme ces "fausses images" de femmes et d'enfants dénudés par l'IA, a affirmé la présidente de la Commission européenne, Ursula von der Leyen, dans une déclaration.

"Notre position est claire: nous ne confierons pas le consentement et la protection de l'enfance à des plateformes technologiques pour qu'elles les violent et les monétisent", a assuré la cheffe de l'exécutif européen, ajoutant que "des mesures ont été prises, mais nous devons en faire plus pour protéger les citoyens, en ligne comme hors ligne".

Cette nouvelle enquête vise à vérifier si le réseau a enfreint les puissantes règles européennes sur le numérique, qui lui imposent de protéger les utilisateurs contre les contenus illégaux. En cas d'infraction caractérisée, il encourt une amende pouvant aller théoriquement jusqu'à 6 % de son chiffre d'affaires annuel mondial.

En cause: une fonctionnalité permettant aux utilisateurs de demander à Grok de créer des images de personnes faussement dénudées à partir de photographies réelles.

Avec cette nouvelle procédure ciblant X, l’Union européenne prend le risque de s'attirer de nouvelles représailles de la part de Donald Trump, alors que les tensions suscitées par les visées du président américain sur le Groenland viennent juste de s'apaiser.

190 images sexualisées par minutes

Face au tollé soulevé par la prolifération de telles images, des procédures ont déjà été ouvertes dans plusieurs pays, notamment en France et au Royaume-Uni et l'accès à X a même été suspendu ou bloqué par plusieurs Etats.

Après avoir initialement restreint l'accès à cette fonctionnalité, X a annoncé à la mi-janvier un bridage de son outil d'IA dans les pays où la création de telles images sexuelles est illégale.

"Créer des images fausses et sexualisées de femmes et d'enfants est cruel et inacceptable", a dénoncé Henna Virkkunen, la vice-présidente de la Commission chargée du numérique, dans un communiqué.

Selon une étude du Centre pour la lutte contre la haine numérique (CCDH), une ONG qui dénonce fréquemment les pratiques du réseau X, Grok aurait généré quelque trois millions d'images sexualisées de femmes et d'enfants sur une période de onze jours seulement, soit 190 images par minute en moyenne.

Le réseau social était dans le collimateur de l'Union européenne depuis plusieurs semaines en raison de ce scandale. Bruxelles avait pris une première mesure début janvier, en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu'à la fin de l'année.