Les solutions structurelles face aux deepfakes

Dans son rapport d’observation relatif à la lutte contre les deepfakes, Europol préconise de renforcer la formation et d'adapter la règlementation des services répressifs. La difficulté restant de jongler entre sécurité et droits des citoyens.

 

La réponse des fournisseurs de vidéos en ligne

Dans leurs conditions générales, tous les grands acteurs du Web (Meta, TikTok, Reddit, YouTube, …) s’engagent à bannir de leur plateforme les contenus dont la manipulation n’est pas clairement indiquée, sans toutefois supprimer les contenus satiriques ou parodiques qui feraient usage des nouvelles technologies. Mais dans la réalité, la gestion des deepfakes reste complexe, les plateformes s’appuyant sur la notion floue de l’intention pour décider de supprimer ou non un contenu.
Néanmoins, ces plateformes jouent un rôle crucial dans l’identification des auteurs de deepfakes et exercent des responsabilités en matière de l’usage légal de leurs technologies, ainsi que de la coopération avec les forces de l’ordre.

L’accroissement du phénomène lors de la pandémie et, plus récemment avec la guerre d’Ukraine, a motivé les entreprises du Web à développer certains outils. La maison-mère de TikTok a ainsi développé une IA permettant la détection de fausses images avec une efficacité impressionnante. Meta, en collaboration avec l’université du Michigan, a déclaré en 2021 avoir développé un outil qui remonte à la source du deepfake. Google a contribué à la chasse aux fausses vidéos en partageant une base de données géante avec le FaceForensics Benchmark, un programme de détection conçu par deux universités européennes. De son côté, Microsoft a lancé le Video authenticator, permettant d’obtenir un score de confiance à partir d’une vidéo ou d’une photo.


Le cadre règlementaire de l’Union européenne

Le rapport d’Europol montre que de nouveaux cadres réglementaires sont nécessaires et que les forces de l’ordre, les fournisseurs de services en ligne et autres acteurs doivent investir dans les technologies de détection et de prévention.

Des réflexions sont menées aujourd’hui dans plusieurs directions et concernent différents axes législatifs : la règlementation de l’intelligence artificielle, les directives sur le commerce électronique et sur les médias audiovisuels, le règlement général sur la protection des données (GDPR), le régime des droits d’auteur, la loi sur les services numériques, le code de pratique et le plan d’action sur la désinformation, le plan d’action pour la démocratie.

En avril 2021, la Commission européenne a publié un projet de règlement, qui devrait être adopté en 2023, établissant des règles harmonisées et contraignantes relatives à l'intelligence artificielle. Elles visent à permettre des applications IA dignes de confiance en fixant des règles harmonisées pour le développement, la mise sur le marché et l’utilisation des systèmes d’IA. Elle oblige les fournisseurs à étiqueter clairement les contenus falsifiés.

La directive sur le commerce électronique est actuellement le cadre juridique fondamental pour tous les services en ligne dans l’UE. La définition des deepfakes reste cependant assez floue et les prestataires ne sont pas obligés de surveiller les informations diffusées sur leurs plateformes, mais seulement de retirer un contenu illicite dès qu’ils en ont connaissance. L’UE prépare donc un nouveau cadre législatif pour les services et les marchés numériques qui imposera des règles de responsabilité et de modération des contenus pour les plateformes en ligne, y compris les moteurs de recherches. Tous les fournisseurs devront faire preuve d’une plus grande transparence en ce qui concerne leur modération et la frontière entre le contenu légal et le contenu illégal sera clarifiée. 

Revisitée en 2018, la directive européenne sur les services de médias audiovisuels invite les Etats membres à réglementer les services de partage de vidéos en protégeant le bien-être des mineurs. Elle exige une transposition nationale qui oblige les plateformes de partage de vidéos à détecter la nature du contenu partagé afin de lutter contre la diffusion de deepfakes pornographiques non consensuels. Elle reconnaît qu’il faudra trouver un équilibre avec la liberté d’expression et le respect de la vie privée.

Le GDPR et le régime des droits d’auteur sont également de bonnes pistes puisqu’un deepfake doit être soumis au consentement des personnes représentées. Dans chaque Etat membre, il existe une autorité chargée de contrôler le respect de cette règlementation, mais, dans la pratique, les victimes parviennent difficilement à identifier l’auteur de l’infraction qui opère de manière anonyme. Les plateformes de diffusion pourraient avoir dans ce contexte un grand rôle à jouer. Le droit d’auteur intervient en obligeant le créateur d’un deepfake à obtenir l’autorisation de la personne représentée. Il y a néanmoins de nombreuses exceptions, notamment dans le cadre scientifique, caricatural ou parodique.

Le 16 juin 2022, la Commission européenne a publié une version mise à jour du Code des bonnes pratiques contre la désinformation afin d’adapter la responsabilité des plateformes en ligne. Ce dernier impose des mesures comme la fermeture des faux-comptes ou la prévention des activités des robots et tente par-là de lutter contre la publicité politique en ligne. Il vise aussi à développer la vérification des faits et à supprimer les incitations financières à la diffusion de fausses informations. Il prévoit enfin - et surtout - des sanctions conséquentes pour les entreprises qui manqueraient à ces obligations.

Parallèlement, le Plan d’action contre la désinformation propose quatre séries de mesures :

  • Améliorer les capacités à détecter et à analyser la désinformation
  • Renforcer la coopération et proposer des réactions conjointes
  • Mobiliser le secteur privé
  • Sensibiliser la population

Enfin, depuis 2020, le plan d’action européen pour la démocratie repose sur trois piliers :

  • Promouvoir des élections libres et équitables
  • Renforcer le pluralisme et la liberté des médias
  • Renforcer la responsabilité des opérateurs de plateformes


La série d’articles :
La menace Deepfake : comment établir la désinformation ?
L’essor des deepfakes et les risques qui en découlent
Les solutions structurelles face aux deepfakes


Michèle ORBAN
Consultante et formatrice en veille informationnelle

Source :
https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes