La technologie invite un jour au progrès et le lendemain dévoile son côté obscur et ses effets pervers. L’ère numérique n’échappe pas à cette règle. Elle est amplifiée par la présence d’un écosystème technologique convergeant en mesure de générer rapidement des déviances sans frein pour les limiter. Ainsi, aux bienfaits du numérique, de l’Internet et de l’intelligence artificielle (IA), vient se greffer la part négative, avec notamment la désinformation de masse et l’ingérence au travers des réseaux sociaux et les deepfakes.

Tandis que la nature et l’ampleur de la menace sont loin d’être connues, les phénomènes conjoints méritent la plus grande attention. Certaines conséquences ont déjà été entrevues, tant au plan des personnes que géopolitique, au point que certains dirigeants en viennent à réclamer une trêve technologique, ce qui semble impensable du fait d’intérêts discordants. Il s’agit ici d’examiner les actions à envisager.

Introduction

Deepfake est un terme formé à partir de deep learning (apprentissage profond) et fake (contrefait). Il désigne des techniques de trucage multimédia hyperréalistes reposant sur l’IA, dans l’intention de tromper en créant des canulars et de fausses informations (infox). Les quatre formes sont liées aux médias son, image, vidéo et texte. Concernant les trois premières, il s’agit de superposer des enregistrements synthétiques de façon à reproduire l’expression du visage ou la voix d’une personne, à partir d’enregistrements originaux réalisés de façon classique souvent disponibles sur l’Internet, en la représentant de façon trompeuse dans une attitude ou un lieu différent, et en lui faisait prononcer des propos qu’elle n’a pas tenus. La quatrième forme relève de texte génératif pour laquelle il s’agit de coupler des modèles de langage naturel avec l’IA pour laisser croire à une création humaine.

Ainsi avec l’IA, les médias sociaux n’auraient pas besoin d’opérateurs humains pour la création de contenu. Cela pourrait être utilisé pour produire de fausses informations en masse sur les réseaux sociaux, en disposant, de surcroit, du recours aux «bots» sociaux comme vecteurs. Contrairement aux «bots» traditionnels – programmes qui s’exécutent sur un grand nombre de machines compromises (dites «zombies») d’adresse IP pour diriger des actions malveillantes coordonnées – les «bots» sociaux sont liés à des comptes d’appartenance à un réseau social pour interagir en temps réel.