Le régulateur de la sécurité sur Internet britannique, l’Ofcom, a annoncé, dans un communiqué paru lundi 12 janvier, l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle (IA) Grok, après « des signalements très inquiétants » de Grok AI sur X « pour créer et partager des images de personnes dénudées − pouvant constituer une atteinte à la pudeur ou de la pornographie − ainsi que des images à caractère sexuel d’enfants pouvant constituer du matériel pédopornographique ».
De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu, dimanche, après l’Indonésie, samedi, l’accès à cet assistant. Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants. « Vous pouvez vous abonner pour débloquer ces fonctionnalités », avait précisé la plateforme.
Cette désactivation limitée avait suscité l’indignation du Royaume-Uni. Cette mesure « transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium », et constitue « une insulte aux victimes de misogynie et de violences sexuelles », avait dénoncé un porte-parole du premier ministre britannique Keir Starmer.
L’Ofcom précise, lundi, avoir demandé des explications à X la semaine dernière. S’il ne détaille pas la teneur de leurs échanges, le régulateur indique que « l’entreprise a répondu dans les délais impartis ». Son enquête devra « déterminer si X a manqué à ses obligations légales », qui lui imposent notamment d’« évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux », de « supprimer rapidement les contenus illégaux » ou encore d’« évaluer les risques que leur service représente pour les enfants britanniques ».
Le régulateur a le pouvoir d’imposer des amendes allant jusqu’à 10 % du chiffre d’affaires mondial de l’entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni. « Certaines des choses que j’ai vues et entendues » au sujet des images générées par Grok « sont répugnantes et manifestement illégales et j’attends que des mesures soient prises », avait affirmé un peu plus tôt à la presse britannique le ministre des entreprises, Peter Kyle, tout en précisant qu’il appartenait à l’Ofcom de faire appliquer la loi. Contacté par l’Agence France-Presse, X n’avait pas répondu dans l’immédiat.
