Les deepfakes sont des fichiers manipulés grâce à des technologies d'intelligence artificielle qui imitent des vidéos, des images ou des clips vocaux avec une grande précision , les rendant authentiques. Pour le Lisa Institute , l'utilisation de techniques avancées d'apprentissage automatique permet à ces créations de tromper facilement l'œil humain, en se présentant comme une réalité altérée difficile à distinguer de l'original .
Cela leur permet de générer ou de modifier du contenu avec un degré de réalisme auparavant inimaginable. La principale préoccupation réside dans la manière dont ces fichiers peuvent être utilisés à des fins malveillantes, comme manipuler l’opinion publique, diffamer des individus ou même créer de fausses nouvelles. La capacité des deepfakes à créer des scénarios faux mais convaincants soulève des questions sur l'intégrité de l'information et le risque de désinformation dans les sociétés .
La technologie évolue rapidement vers des applications qui posent de sérieux défis pour les entreprises, le marketing et la sécurité en ligne. Le Wall Street Journal rapporte que, dans le secteur financier , en particulier dans les banques et les prestataires de services financiers, une augmentation des attaques frauduleuses basées sur les deepfakes a été signalée . Ces attaques vont des appels frauduleux imitant la voix de personnes réelles au vol d'identité à des fins illicites.
Dans le domaine de la publicité, comme le précise le portail Marketing Directo , les marketeurs voient les deepfakes comme une opportunité d'innover dans la manière de se connecter avec les audiences. Cependant, cette technologie comporte également le risque de générer des contenus publicitaires trompeurs, susceptibles de miner la confiance des consommateurs dans les marques. Des États comme le Texas et la Californie ont déjà engagé des poursuites judiciaires contre l'utilisation malveillante des deepfakes, et la future loi de l'Union européenne sur l'IA devrait promouvoir un cadre pour son utilisation éthique dans le marketing .
La société, principale victime
De son côté, Business Insider ajoute que l'inquiétude grandit autour du vol d'identité et des escroqueries facilitées par cette technologie . La capacité de créer des vidéos fausses mais d’un réalisme convaincant, en utilisant des techniques d’apprentissage profond, pose un défi important à la société dans ses efforts pour distinguer le réel du manipulé . En outre, des cas comme celui d'une entreprise qui était sur le point de perdre des millions à cause d'un appel trompeur démontrent la capacité de ces fraudes à causer des dommages matériels importants.
Les cyberattaques impliquant le vol de données personnelles et leur utilisation ultérieure dans des stratagèmes frauduleux sont en augmentation. Les criminels utilisent des informations volées, telles que des numéros de compte bancaire, pour mener des attaques plus sophistiquées, qui peuvent désormais inclure le recours à des contrefaçons profondes pour accroître leur efficacité. Le journal populaire The New York Times mentionne qu'entre 2020 et 2022, plus de 300 millions de personnes ont été victimes de ces pratiques, avec des pertes estimées à 8,8 milliards de dollars , selon la Federal Trade Commission.
Ces perspectives soulignent la nécessité urgente d’élaborer des stratégies et des réglementations plus efficaces pour contrer l’utilisation abusive potentielle des technologies d’intelligence artificielle , protégeant ainsi les entreprises et les consommateurs de leurs potentielles conséquences négatives.