Glossaire de la détection de l'IA

Modification d'une entrée pour tromper un classifieur IA tout en restant imperceptible pour l'humain. Utilisée pour contourner les détecteurs de deepfakes et de texte IA.

Génération par un LLM d'informations fausses présentées avec confiance — citations inventées, statistiques fictives. Signe révélateur du texte IA lors de la vérification des faits.

Signaux invisibles intégrés dans le contenu IA à sa création pour permettre une vérification ultérieure. Google SynthID et d'autres systèmes modifient subtilement la distribution des tokens ou des fréquences d'image.

Défaut visuel dans une image ou vidéo IA — mains malformées, arrière-plans incohérents, textes illisibles. Signal principal pour identifier l'imagerie synthétique.

Enregistrement vocal synthétique imitant une personne réelle à l'aide de l'IA. Les systèmes modernes nécessitent seulement quelques secondes d'audio source.

Variation de longueur des phrases dans un texte. L'écriture humaine alterne phrases courtes et longues (burstiness élevée) ; le texte IA tend vers une longueur uniforme. Signal de détection clé.

Standard technique ouvert pour intégrer des métadonnées de provenance cryptographiquement signées dans les fichiers médias. Co-fondé par Adobe et Microsoft.

Modèle d'apprentissage automatique entraîné pour distinguer le contenu IA du contenu humain. Aucun classifieur n'atteint une précision parfaite ; la performance se dégrade avec l'évolution des modèles génératifs.

Média synthétique dans lequel l'apparence ou la voix d'une personne a été remplacée ou manipulée par deep learning. Types : échange de visage, clonage vocal, synthèse complète.

Architecture IA générant des images en inversant un processus de bruitage progressif. Utilisé par Stable Diffusion, DALL-E 3 et Midjourney.

Information fausse diffusée intentionnellement pour tromper. Les deepfakes et le contenu IA ont considérablement augmenté l'échelle des campagnes de désinformation.

Données techniques intégrées dans les images par les appareils — modèle de caméra, GPS, horodatage. Les images IA manquent typiquement de métadonnées EXIF authentiques.

Technique deepfake remplaçant le visage d'une personne par celui d'une autre. La détection repose sur les artefacts de bordure, les incohérences d'éclairage et les mouvements oculaires non naturels.

Un faux positif survient quand un contenu humain est identifié à tort comme IA. Un faux négatif survient quand du contenu IA passe inaperçu. Équilibrer ces taux d'erreur est un défi central de la détection.

Architecture avec un générateur et un discriminateur en compétition. Technologie fondamentale des premiers deepfakes. Laisse des artefacts caractéristiques dans les images — signaux de détection clés.

Systèmes IA capables de créer du nouveau contenu — texte, images, audio, vidéo. L'amélioration rapide de l'IA générative est le moteur principal du besoin d'outils de détection.

Famille de modèles de langage d'OpenAI. GPT est le type de texte IA le plus couramment détecté. ChatGPT a normalisé la génération de texte IA pour le grand public.

Contenu combinant éléments humains et IA — le plus difficile à détecter car l'édition humaine masque les signaux statistiques de l'IA.

Technique d'édition IA remplissant des régions sélectionnées d'une image. Seule une partie de l'image est synthétique, rendant la détection particulièrement difficile.

Mesure de la richesse du vocabulaire dans un texte. Le texte IA présente souvent une diversité lexicale plus faible que l'écriture humaine, favorisant un vocabulaire commun et prévisible.

Modèle de réseau de neurones entraîné sur de vastes corpus de texte. GPT-4, Claude, Gemini et LLaMA en sont des exemples. Leur sortie peut être détectée par analyse de perplexité et de burstiness.

Capacité à évaluer critiquement les contenus médiatiques pour leur authenticité et leur intention. Complément essentiel aux outils de détection automatisés.

Informations structurées décrivant les propriétés et l'origine d'un fichier numérique. Les photographies authentiques contiennent des métadonnées riches ; les images IA en ont souvent peu.

Information fausse diffusée sans intention de tromper. L'IA y contribue quand des utilisateurs partagent involontairement des faits hallucinés ou des images IA trompeuses.

Système de couches interconnectées transformant des données en prédictions. Fondement de tous les systèmes IA modernes — modèles de langage, générateurs d'images et détecteurs.

Branche de l'IA permettant aux ordinateurs de comprendre et générer le langage humain. Sous-tend à la fois la génération de texte IA et sa détection.

Mesure de la prévisibilité d'un texte. Le texte humain a une perplexité élevée (imprévisible) ; le texte IA a une perplexité faible (prévisible). Outil de détection fondamental.

Conception d'instructions optimisées pour les modèles IA. En évasion de détection, les utilisateurs demandent aux LLM d'« écrire comme un humain » pour tromper les classifieurs.

Modèle de génération d'images open-source. Sa disponibilité publique complique la provenance car il fonctionne sans politique de contenu API ni filigranage.

Tout contenu numérique généré substantiellement par l'IA — texte, image, audio, vidéo. Comprend les deepfakes, les images générées et les voix clonées.

Paramètre contrôlant l'aléatoire de la sortie d'un LLM. Une température basse produit du texte prévisible et facile à détecter ; une température élevée imite la variabilité humaine.

Unité fondamentale de texte traitée par les LLM. La distribution des probabilités de tokens est la base statistique de la détection par perplexité.

Architecture de réseau de neurones introduite en 2017, fondamentale pour tous les LLM modernes. Utilise des mécanismes d'auto-attention pour traiter les séquences en parallèle.

Vidéo synthétique montrant une personne réelle effectuant des actions qui n'ont jamais eu lieu. La détection analyse la cohérence temporelle, les signaux physiologiques et l'alignement audio-visuel.

Synthèse IA imitant la voix d'une personne à partir de quelques secondes d'audio. Utilisé dans des fraudes vocales et la désinformation politique.

Intégration d'informations d'authentification dans le contenu numérique. Les filigranes robustes survivent à la compression et au recadrage. Des standards sont développés via le C2PA et les cadres réglementaires IA.

Détection de contenu IA provenant de modèles jamais vus pendant l'entraînement. Les détecteurs zéro-shot atteignent 70–85 % de précision sur des modèles inconnus contre 90–97 % sur des modèles connus.