Microsoft Research descubre cómo detectar los sleeper agents en los modelos de IA
Una nueva investigación de Microsoft ilustra cómo identificar las modificaciones anómalas en los pesos de los neuronas en los modelos de inteligencia artificial.
Microsoft Research ha publicado una nueva investigación sobre amenazas informáticas que muestra cómo un modelo de agente avanzado puede ser transformado en un sleeper agent. Según lo surgido del estudio, esta modificación puede realizarse interviniendo en menos de diez neuronas para inyectar un breve payload.
La misma investigación de Microsoft Research ha evidenciado sin embargo que esta amenaza específica es detectable. De hecho, los agentes de frontera son capaces de identificar las modificaciones anómalas realizadas en los pesos de las neuronas, permitiendo así identificar la presencia del problema dentro del modelo.