Google DeepMind lanza un fondo de $10 millones para estudiar el comportamiento de millones de agentes de IA interactuando entre sí. 🌐🤖
En una alianza histórica junto a Schmidt Sciences, Cooperative AI Foundation y ARIA, y con el respaldo de Google . org, la firma busca descifrar los riesgos de seguridad "invisibles" y las dinámicas colectivas que surgen cuando los sistemas autónomos cooperan, negocian o compiten en masa.
Tradicionalmente, las evaluaciones de alineación e IA safety se realizan sobre modelos aislados. Sin embargo, ante el inminente despliegue de millones de agentes de software, finanzas y ciberseguridad operando en red, DeepMind advierte que la complejidad de sus interacciones está superando las métricas actuales. El fondo financiará a investigadores globales enfocándose en la "ciencia de redes de agentes", entornos de simulación virtuales (sandboxes) e infraestructura crítica para evitar comportamientos emergentes peligrosos o volatilidad sistémica a gran escala.
#GoogleDeepMind #AIAgents #AISafety #TechNews #InteligenciaArtificial #Research #CooperativeAI