Les autorités malaisiennes ont décidé de bloquer temporairement l’accès au chatbot Grok, développé par X, à la suite de multiples détournements de son outil de modification d’images à des fins sexuelles.
Le régulateur des télécommunications, la Malaysian Communications and Multimedia Commission (MCMC), a annoncé dimanche cette mesure, invoquant des usages répétés jugés obscènes et contraires à la loi.
L’outil de Grok, lancé le mois dernier, permet aux utilisateurs de modifier librement des images à l’aide de l’intelligence artificielle. En Malaisie, des internautes ont utilisé cette fonctionnalité pour générer des images sexualisées non consenties, y compris des contenus impliquant des femmes et des mineurs, selon la MCMC.
Face à ces dérives, le régulateur affirme avoir agi dans le cadre de la nouvelle Online Safety Act, entrée en vigueur début 2026. Ce texte accorde aux autorités de larges pouvoirs pour bloquer des services numériques, exiger des retraits de contenus et sanctionner les plateformes diffusant des contenus jugés dangereux ou illégaux.
Dans un communiqué, la MCMC présente la suspension de Grok comme une « mesure préventive et proportionnée ». L’autorité précise qu’elle maintiendra le blocage tant que la plateforme n’aura pas mis en place des garanties efficaces, en particulier pour empêcher la création de contenus portant atteinte aux femmes et aux enfants. Elle a adressé des notifications officielles à X pour exiger le déploiement de dispositifs techniques et de modération renforcés.
Des voix de la société civile soutiennent cette décision. L’avocate Azira Aziz, spécialisée dans les droits humains et la justice sociale, a alerté sur l’ampleur du phénomène, soulignant que même des nourrissons et de très jeunes enfants pouvaient être victimes de manipulations d’images à caractère sexuel.
Cette affaire s’inscrit dans un contexte international de préoccupations croissantes autour des abus liés à l’intelligence artificielle. En réponse aux critiques, X a récemment restreint certaines fonctionnalités de modification d’images de Grok aux seuls abonnés payants, sans pour autant dissiper les inquiétudes des autorités malaisiennes.
Chaque semaine, recevez notre lettre d’informations Gavroche Hebdo. Inscrivez-vous en cliquant ici.
