Spoiler
Vulgarisation
Avancé
🛡️ Sécurité et éthique
📖 Définition
Dans le contexte de l'intelligence artificielle, un « spoiler » désigne une attaque par empoisonnement de données (data poisoning), où un acteur malveillant injecte délibérément des données corrompues ou biaisées dans un jeu de données d'entraînement. L'objectif est de dégrader la performance du modèle ou de le pousser à prendre des décisions erronées.
Ces attaques sont particulièrement préoccupantes dans les systèmes d'apprentissage automatique qui s'appuient sur des données externes non vérifiées, comme les commentaires en ligne ou les capteurs IoT non sécurisés.
Ces attaques sont particulièrement préoccupantes dans les systèmes d'apprentissage automatique qui s'appuient sur des données externes non vérifiées, comme les commentaires en ligne ou les capteurs IoT non sécurisés.
💬 En termes simples
C'est comme ajouter du sel dans une recette sucrée : une petite quantité suffit à tout gâcher sans que personne ne s'en rende compte immédiatement.
🎯 Exemple concret
Un concurrent sabote un système de recommandation québécois en postant des faux avis positifs pour des produits médiocres, biaisant ainsi les suggestions.
💡 Le saviez-vous ?
Les attaques de type « spoiler » sont difficiles à détecter après le déploiement, car les erreurs du modèle semblent souvent « naturelles ».