Études de cas réelles
Apprendre des incidents réels nous aide à comprendre les défis pratiques et les conséquences du contenu généré par l'IA. Ces études de cas examinent des événements réels impliquant des deepfakes et des médias synthétiques.
En 2019, le PDG d'une entreprise énergétique britannique a été trompé pour transférer 243 000 $ à un fournisseur frauduleux après avoir reçu un appel téléphonique de ce qu'il croyait être le PDG de sa société mère. La voix avait été clonée à l'aide d'un logiciel IA. C'est l'un des premiers cas documentés publiquement de fraude par deepfake vocal. Leçon : Établissez des protocoles de vérification hors ligne pour les transactions financières, même celles initiées par des appels apparemment légitimes de dirigeants.
Un employé de la finance d'une multinationale à Hong Kong a transféré 25,6 millions de dollars (HK$200 millions) après avoir participé à une visioconférence où chaque participant — y compris un soi-disant directeur financier — était un deepfake IA. L'arnaque n'a été découverte qu'une semaine plus tard. Leçon : Établissez des mots de code secrets pour les demandes importantes, vérifiez les transactions importantes via des canaux secondaires, et soyez sceptique vis-à-vis de quiconque refuse de dévier d'un script.
Les élections de 2024 dans plusieurs pays ont été touchées par des deepfakes de personnalités politiques. Des enregistrements audio deepfake de candidats prétendant appeler les électeurs à rester chez eux et des vidéos deepfake de discours falsifiés ont circulé sur les réseaux sociaux. Leçon : Vérifiez toujours les citations d'hommes politiques via plusieurs sources d'information réputées. Méfiez-vous du contenu viral près des dates d'élections.