Philadelphia Independent - X dit bloquer le "déshabillage" des "personnes réelles" avec Grok, mais reste surveillé

"Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l'édition d'images de personnes réelles dans des tenues révélatrices, comme des bikinis", indique X dans un message publié dans l'après-midi aux Etats-Unis.

X affirme imposer ces restrictions d'"édition" à "tous les utilisateurs, y compris les abonnés payants". Mais le message laisse planer une incertitude, puisqu'il précise ensuite appliquer un "blocage géographique" pour la "génération" avec Grok d'images dénudées de personnes réelles seulement "au sein des juridictions où cela est illégal".

Quelques heures plus tôt, l'UE et le Royaume-Uni avaient salué avec prudence ces mesures supplémentaires annoncées, mais non encore rendues publiques ni détaillées.

"Nous prenons acte des mesures supplémentaires adoptées par X" et "nous évaluerons attentivement ces changements afin de nous assurer qu'ils protègent efficacement les citoyens de l'Union européenne", avait déclaré Thomas Regnier, un porte-parole de la Commission européenne.

Selon le porte-parole, "si ces changements n'étaient pas effectifs, la Commission n'hésiterait pas à utiliser tout" son arsenal législatif, qui lui permet d'infliger des astreintes financières, voire de suspendre le réseau social sur le sol européen.

"J'ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique", avait déclaré avant lui le Premier ministre britannique Keir Starmer devant son Parlement.

"Si c'est le cas, c'est une bonne chose, mais nous ne reculerons pas et ils doivent agir", avait-il mis en garde, rappelant que l'enquête indépendante ouverte lundi par une autorité de régulation britannique se poursuivait.

Comme depuis le 9 janvier, la génération d'images avec Grok, l'assistant IA développé par xAI, reste limitée aux abonnés payants, confirme X.

Début janvier, la plateforme avait affirmé "prendre des mesures contre les contenus illégaux", notamment pédopornographiques, "en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".

Mais elle était restée silencieuse ensuite malgré la multiplication des protestations officielles et l'ouverture d'enquêtes judiciaires ou administratives au vu des milliers d'images à caractère sexuel générées par Grok.

Certains utilisateurs se sont servis de cette IA pour poster sur X ou répondre à des messages contenant des photos de femmes, les accompagnant d'une instruction comme "Mets-la en bikini" pour générer en réponse publique un montage hyper-réaliste ("deepfake" en anglais).

- Enquête californienne -

Selon une analyse, publiée la semaine dernière, de l'ONG AI Forensics, réalisée sur plus de 20.000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Le scandale a conduit à la suspension de Grok en Indonésie et en Malaisie ce week-end. L'Inde a affirmé avoir fait retirer des milliers de contenus sur X et plusieurs procédures judiciaires ou administratives ont été ouvertes dans le monde, notamment en France.

Le procureur général de Californie a annoncé mercredi lancer sa propre enquête "afin de déterminer si, et comment, xAI a violé la loi" en générant de telles images.

"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", a déclaré le procureur Rob Bonta, un élu démocrate hostile aux velléités de l'administration Trump d'empêcher la régulation de l'IA.

Le procureur, qui brigue sa réélection en novembre pour un second mandat, affirme avoir "une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique".

Elon Musk, qui s'exprime publiquement tous les jours sur X, dénonce régulièrement les mesures de régulation prises par les gouvernements, les accusant de vouloir "supprimer la liberté d'expression".

Affichant sa volonté d'offrir une intelligence artificielle "anti-woke", libérée du politiquement correct, il renvoie la responsabilité sur les utilisateurs. Toute personne utilisant Grok pour "créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal", s'était-il défendu la semaine dernière.

S.Scott--PI