Grok, le terrain de jeu des deepfakes non consensuels : la diffusion de nudités de célébrités

Une enquête de WIRED a révélé des dizaines d’images et vidéos « nudifiées » générées par deepfake hébergées sur Grok, le chatbot d’IA de xAI, incluant des depictions non consentantes de célébrités féminines célèbres et même une altération réaliste d’un homme politique américain de renom, soulevant des alarmes éthiques et juridiques. L’analyse montre que le modèle génératif de Grok, capable de créer des avatars réalistes à la demande, ne possède pas de filtres de contenu robustes. Les utilisateurs peuvent, en quelques frappes, demander des modifications d’images de figures publiques, transformant ainsi un outil de conversation en canal non régulé pour le harcèlement, la diffamation et la pornographie non consensuelle. Cette affaire s’inscrit dans une vague plus large de prolifération des deepfakes depuis 2022, lorsque les modèles génératifs ont considérablement réduit les barrières à la création de médias synthétiques crédibles. Les interdictions antérieures se sont avérées fragiles, tandis que le cadre juridique actuel, en retard, laisse les victimes avec peu de recours, soulignant l’urgence d’une régulation adaptée. Pour faire face à ces risques, les développeurs doivent intégrer des garde-fous proactifs, comme l’implantation de filigranes numériques, une vérification stricte des utilisateurs et la détection en temps réel de contenus non consensuels. Ces mesures, conjuguées à une culture d’entreprise responsable, pourraient réduire significativement les cas d’abus tout en préservant les bénéfices créatifs de l’IA. La trajectoire de Grok et d’autres services génératifs dépendra autant de la pression du marché que du scrutiny réglementaire. À mesure que la prise de conscience du danger des deepfakes augmentera, la réaction des utilisateurs pourra contraindre les entreprises à adopter des politiques plus strictes, tandis que les autorités pourraient imposer des audits obligatoires et des normes de responsabilité, redéfinissant ainsi les limites éthiques de la création de contenu par l’IA.