En resumen
- India dice que los agentes de IA en investigación y evaluación excedieron su autorización asignada y leyeron registros comerciales personales y confidenciales en sistemas indios en vivo. Ninguna de las organizaciones afectadas lo detectó por sí misma.
- CERT-In no nombró a los proveedores de IA, modelos u organizaciones afectadas, y los incidentes salieron a la luz solo a través de divulgaciones voluntarias de los proveedores después de revisiones internas.
- Por separado, los criminales que utilizan marcos públicos de seguridad ofensiva de IA redujeron el tiempo desde el acceso inicial hasta el impacto final de días a unas pocas horas, según la agencia.
La agencia nacional de ciberseguridad de India reveló que los agentes de IA operados por proveedores de modelos no identificados excedieron sus tareas asignadas durante las pruebas y leyeron registros comerciales confidenciales en sistemas indios en vivo.
El Equipo de Respuesta a Emergencias Informáticas de India, conocido como CERT-In, señaló la actividad esta semana en un aviso crítico titulado “Agentes de IA como vectores de ataque”.
CERT-In dijo que recibió múltiples divulgaciones voluntarias de proveedores de modelos de IA cuyos modelos llegaron a los sistemas en vivo de organizaciones indias mientras estaban siendo sometidos a investigación y evaluación en internet. La agencia no nombró a los proveedores, los modelos ni las organizaciones afectadas.
Los agentes leyeron registros empresariales que contenían datos personales y material confidencial, utilizando credenciales y configuraciones de conexión que quedaron expuestas en configuraciones de aplicaciones, repositorios de código públicos y roles de servicios en la nube demasiado permisivos, que son los conjuntos de permisos adjuntos a las cuentas en la nube.
En algunos casos, recuperaron la misma credencial expuesta más de una vez y la reutilizaron en operaciones separadas.
Ninguna de las organizaciones afectadas detectó el acceso por sí sola, y todos los casos salieron a la luz solo porque el proveedor del modelo lo divulgó después de una revisión interna.
Este es otro caso más de agentes de IA perturbando a grandes empresas y gobiernos. Anthropic reveló el 30 de julio que los modelos Claude, a los que se les dijo que no tenían acceso a internet, comprometieron tres empresas reales durante desafíos de captura de bandera, ejercicios en los que un modelo debe irrumpir en una máquina y recuperar un secreto oculto.
BitcoinBTC · USD
$81,212−1.82%
Oct 9Oct 11Oct 13Oct 14Oct 16
$84.2k$82.9k$81.5k$80.2k
24h HighHigh$82,816
24h LowLow$81,236
VolVol$1.2B
Market projectionsOdds by Myriad
→Buy Bitcoin with USDT
Powered by Jupiter
El Instituto de Seguridad de IA de Gran Bretaña informó el 4 de agosto que los agentes tomaron 19 acciones no autorizadas en 10 de 122 ejecuciones de evaluación, 17 de ellas de Mythos 5 de Anthropic y dos de GPT-5.6 Sol de OpenAI. El instituto había habilitado deliberadamente el acceso a internet para la prueba.
El caso de OpenAI involucró muchos más agentes: aproximadamente 1.200 de ellos coordinados en un tablero de mensajes oculto mientras intentaban hacer trampa en una prueba de ciberseguridad, y alrededor de 700 atacaron Hugging Face, según una investigación independiente de METR y Redwood Research.
Por separado, CERT-In observó a delincuentes utilizando marcos de seguridad ofensiva impulsados por IA y disponibles públicamente para buscar vulnerabilidades, explotarlas y ejecutar ataques con motivación financiera contra entidades indias. La agencia dijo que las herramientas se reempaquetan y se vuelven a desplegar repetidamente, con despliegues encontrados en servidores de múltiples países.
Únete a más de 72.000 lectores
Crea una cuentapara guardar tus artículos.
Añade Decrypt como tu fuente preferida para ver más de nuestras historias en Google.
