La mission présidée par Joelle Farchy et Célia Zolynski a remis au CSPLA, le 9 juillet dernier, son rapport d’étape consacré aux hypertrucages générés ou manipulés par IA. Première étape de la mission, ce rapport dresse un état des lieux des enjeux qu’ils soulèvent pour les secteurs culturels et créatifs.

Un champ que le RIA ne saisit qu'en partie

Tout d’abord, le RIA (règlement européen sur l'intelligence artificielle) définit l’hypertrucage comme une image ou un contenu audio ou vidéo généré ou manipulé par l’IA, ce qui exclut les contenus textuels. Il ne couvre donc pas tous les contenus générés par IA.

Une économie de l'IA qui s'industrialise

Dans le même temps, les usages se développent rapidement. Le marché mondial de l’IA appliquée aux médias et au divertissement, estimé à 12 milliards de dollars en 2025, pourrait atteindre 68,8 milliards en 2036. Cette expansion s’accompagne de l’émergence d’un marché de l’hypertrucage à la demande, le « deepfake as a service », qui démocratise l’accès à ces technologies.

Les risques liés aux hypertrucages

Ces usages soulèvent d’abord des enjeux en matière de droits de la personnalité, avec des voix ou des images utilisées sans consentement. Ils posent ensuite la question de la confiance dans l’information. Le rapport souligne notamment le risque de « dividende du menteur » : plus les hypertrucages se banalisent, plus il devient facile de disqualifier le vrai en le faisant passer pour un faux.

Un droit disparate, une protection incertaine

Face à ces usages, le droit actuel repose sur plusieurs dispositifs dont l’articulation reste incertaine. L’article 226-8 du Code pénal encadre certains usages frauduleux de l’image ou de la voix, mais concerne les personnes physiques et suppose une intention malveillante difficile à établir. La loi de 1881 peut sanctionner la diffamation via un hypertrucage, mais a été conçue pour des contenus humains. Le droit d’auteur, quant à lui, protège les œuvres originales, ce qui exclut de fait les contenus purement synthétiques.

Une transparence encore inachevée 

Le RIA prévoit des obligations d’étiquetage des contenus générés ou manipulés par IA. Mais leur mise en œuvre reste inégale selon les contenus et les acteurs concernés. Les outils de détection, tels que les filigranes, métadonnées ou certifications de provenance, progressent, mais restent coûteux, contournables et peu standardisés. Face à des générateurs d’hypertrucages en constante évolution, ces solutions peinent à suivre, créant un décalage préoccupant entre les capacités de création et de détection.

Ce rapport ne formule pas encore de solutions. Il pose les bases d’une réflexion collective qui s’ouvrira avec les acteurs des secteurs culturels et les ayants droit, avant la publication d’un second rapport consacré aux propositions concrètes, attendu pour le premier semestre 2027. Une seconde lettre de mission cadrera cette seconde phase.