Microsoft Research entdeckt, wie man Sleeper Agents in KI-Modellen erkennt
Eine neue Untersuchung von Microsoft veranschaulicht, wie man anomale Änderungen an den Gewichtungen der Neuronen in Modellen der künstlichen Intelligenz identifiziert.
Microsoft Research hat eine neue Untersuchung zu Cybersicherheitsbedrohungen veröffentlicht, die zeigt, wie ein fortgeschrittenes Agentenmodell in einen Sleeper Agent verwandelt werden kann. Laut den Ergebnissen der Studie kann diese Änderung vorgenommen werden, indem an weniger als zehn Neuronen angesetzt wird, um ein kurzes Payload einzuschleusen.
Dieselbe Untersuchung von Microsoft Research hat jedoch hervorgehoben, dass diese spezifische Bedrohung erkennbar ist. Frontier-Agenten sind nämlich in der Lage, anomale Änderungen an den Gewichtungen der Neuronen zu erkennen, was es ermöglicht, das Vorhandensein des Problems innerhalb des Modells zu identifizieren.