Fraude : quand l’IA devient l’alliée des escrocs

Le gouverneur de la Banque centrale de Roumanie s’est vu usurper son image et sa voix pour vanter les mérites de placements financiers frauduleux. Une tentative de fraude réalisée grâce à l’intelligence artificielle. La multiplication de « faux » de personnalités publiques sur les réseaux sociaux inquiète les autorités. Explications.

Deepfakes et investissements frauduleux

Croire ce que l’on voit, telle est la question à se poser après la publication d’une vidéo du gouverneur de la Banque centrale de Roumanie, Mugur Isarescu, vantant des placements frauduleux, en février dernier. Ce récent cas d’usurpation de l’image et de la voix d’une personnalité publique, via l’intelligence artificielle (IA), est loin d’être isolé.

Bien que la banque centrale s’est empressée de rétablir la vérité, la vidéo n’est pas passée inaperçue. Les autorités de l’institution se sont dites préoccupées par « l’augmentation significative de ce type de tentatives de fraude ». Promotion de produits frauduleux ou discours de manipulation dans un contexte d’élections, l’exploitation de l’image de personnalités politiques ou publiques est devenue une arme redoutable pour les escrocs.

Essor des « faux » à l’échelle mondiale

Le domaine des placements financiers n’est pas le seul touché par ce phénomène. Des « faux » sont signalés partout dans le monde. Les fraudeurs ont trouvé dans les réseaux sociaux le meilleur moyen d’atteindre le maximum de personnes. Le groupe Meta, propriétaire notamment de Facebook et Instagram, a été pointé du doigt pour inaction face à ce fléau. En effet, ses réseaux constituent le nid de multiples « deepfakes » et autres « faux ».

Cependant, face à l’ampleur du phénomène, le 6 février dernier, le groupe Meta a publié un communiqué annonçant travailler « sur des normes techniques ». « Dans les mois à venir, nous étiquetterons les images que les utilisateurs publient sur Facebook, Instagram et Threads lorsque nous pourrons détecter des signaux standards de l’industrie indiquant qu’elles sont générées par l’IA », précise la groupe.

Victor Baissait, enseignant et spécialiste de la tech et du Web, a recensé plusieurs publications usurpant l’identité de personnalités françaises. Parmi ces « faux » utilisant l’IA, on peut citer une vidéo de la journaliste Anne-Sophie Lapix vantant, lors d’un reportage truqué, une plateforme d’échange de cryptomonnaies. Pour Victor Baissait, « on n’est qu’au début de ce genre de vidéo et ça va s’améliorer » au fur et à mesure que la technologie de l’intelligence artificielle va progresser.

IA et risques financiers

Derrière la mauvaise farce et le trucage se trouvent des internautes dupés qui ont parfois perdu gros. « En voyant ces fausses interventions de vedettes, les gens ont eu confiance et ont investi », explique le président de l’Association des consommateurs de France, spécialisée dans la défense des victimes de placements frauduleux. Il reçoit de nombreux témoignages de victimes avec des préjudices aux montants variés, de 250 à 15 000 euros.

Le portefeuille des particuliers n’est pas le seul à être exposé aux risques financiers liés à l’usage frauduleux de l’IA. En effet, le président de la Securities and Exchange Commission (SEC), Gary Gensler, a affirmé l’été dernier que le développement des contenus « deepfakes » trompeurs était un réel danger pour les marchés financiers. La désinformation alimentée par l’IA figure, selon le dernier rapport sur les risques mondiaux du Forum de Davos, parmi les plus grandes menaces pour l’humanité.

Pour aller plus loin :

• Pour mieux détecter les fraudes, lisez les conseils de l’AMF
• S’informer en matière de marchés financiers
• Retrouver l’article d’origine sur Les Echos