Le gouvernement indien a publié mardi un avis à toutes les plateformes de médias sociaux opérant dans le pays en réponse aux inquiétudes croissantes concernant l’impact néfaste des deepfakes. L’objectif principal de l’avis est de garantir le strict respect des règles existantes en matière de technologies de l’information (directives intermédiaires et code d’éthique des médias numériques), 2021, et de lutter de manière proactive contre la diffusion de désinformations alimentées par l’intelligence artificielle.
Cette initiative gouvernementale fait suite à une vidéo virale manipulée mettant en vedette l’actrice Rashmika Mandanna, qui a publiquement dénoncé le contenu frauduleux. Par la suite, la police de Delhi a arrêté quatre personnes en lien avec l’incident.
Alors que les règles informatiques, initialement notifiées en octobre 2022 puis modifiées en avril, définissent déjà 11 catégories de contenus interdits que les plateformes opérant en Inde sont chargées de supprimer, le nouvel avis souligne spécifiquement la menace posée par les deepfakes. Il exhorte les plateformes à donner la priorité à leur détection et à leur suppression.
En novembre, le ministre de l’informatique, Ashwini Vaishnaw, a annoncé son intention de formuler des réglementations ciblant spécifiquement les deepfakes. Cependant, aucun projet concret n’a été présenté. Dans l’intervalle, le gouvernement a déclaré que les modifications des règles informatiques seraient appliquées « si et quand cela était nécessaire », et le ministère informatique s’est abstenu de partager l’avis complet envoyé aux plateformes.
L’avis, publié par le ministère de l’Électronique et des Technologies de l’information (MeitY), fait suite aux inquiétudes du Premier ministre Narendra Modi concernant les dangers des deepfakes en novembre. Cela souligne l’impératif pour les intermédiaires, englobant les médias sociaux et les plateformes numériques, de communiquer de manière transparente à leurs utilisateurs les contenus interdits par les règles informatiques. Cette interdiction inclut les contenus liés à la sécurité nationale, à l’ordre public, au terrorisme, à l’obscénité, aux discours de haine et aux contenus impliquant l’usurpation d’identité via des deepfakes.
L’avis oblige les plateformes à déployer des « efforts raisonnables » pour empêcher le téléchargement, le partage et la diffusion de contenus aussi préjudiciables. Cela implique le développement de solutions technologiques efficaces pour détecter et éliminer les deepfakes, la mise en place de solides mécanismes de règlement des griefs et la collaboration active avec les forces de l’ordre pour enquêter et poursuivre en justice l’utilisation abusive de cette technologie.
La position proactive du gouvernement est motivée par les inquiétudes croissantes concernant l’utilisation potentielle abusive des deepfakes pour diffuser de la désinformation, inciter à la violence, manipuler l’opinion publique et ternir les réputations. Des vidéos deepfake sophistiquées ont été utilisées pour usurper l’identité de célébrités, d’hommes politiques et de personnalités publiques, souvent avec des intentions malveillantes.
