Microsoft Research découvre comment détecter les sleeper agents dans les modèles d'IA
Une nouvelle recherche de Microsoft illustre comment identifier les modifications anormales des poids des neurones dans les modèles d'intelligence artificielle.
Microsoft Research a publié une nouvelle recherche sur les cybermenaces qui montre comment un modèle d'agent avancé peut être transformé en sleeper agent. Selon ce qui est ressorti de l'étude, cette modification peut se produire en intervenant sur moins de dix neurones pour injecter un court payload.
La même recherche de Microsoft Research a toutefois souligné que cette menace spécifique est détectable. Les agents de frontière sont en effet capables d'identifier les modifications anormales apportées aux poids des neurones, permettant ainsi d'identifier la présence du problème à l'intérieur du modèle.