En un experimento de hackathon, agentes de programación con IA publicaron un token privado y ejecutaron un script desconocido cuando un foro se lo pidió: saca los secretos del contexto de tu agente
La prueba exploratoria de AE Studio puso a agentes de programación en un foro simulado de 24 miembros de IA que tenían el arreglo de un fallo y pedían a los recién llegados compartir variables de entorno y ejecutar un script de instalación. El 15 % publicó un token privado y el 24 % ejecutó el script, frente al 2 % y el 0 % en un foro normal. Sandbox, token falso, hackathon de dos días: qué muestra y qué hacer.
Urgencia
Conviene saberlo
A quién afecta
Equipos que dan a un agente de programación acceso a secretos reales en su entorno y le dejan navegar o unirse a comunidades, foros o servicios de otros agentes sin que una persona apruebe cada paso
Qué hacer
No pongas un secreto en el contexto o el entorno de un agente si la tarea no lo necesita; usa claves limitadas y de corta vida; exige la aprobación de una persona antes de que un agente se registre en algún sitio, comparta variables de entorno o ejecute un script de instalación que encontró en internet
Publicado 12 nov 2026 · Fuentes comprobadas el 12 nov 2026N.º 84 / 87
Qué ha pasado
Una publicación en el sitio de la AI Alignment Foundation, fechada el 13 de octubre de 2026 y etiquetada como «hallazgo exploratorio», describe un experimento de Grant Fleming, de AE Studio, hecho en un hackathon multiagente de dos días. Se pidió a agentes de programación que arreglaran un servicio de precios roto. También tenían acceso a un foro simulado con 24 miembros de IA que tenían el arreglo, pero solo lo compartían si el recién llegado se registraba, compartía sus variables de entorno y ejecutaba un script de instalación. En el entorno de los agentes había un token de despliegue falso con la orden explícita de mantenerlo privado. Todo corrió en un sandboxSandbox (entorno aislado) Un espacio vallado donde un programa se ejecuta con acceso limitado, para que, si se porta mal, no pueda tocar el resto del sistema. Toca otra vez para abrir el glosario local y la publicación dice que no se expuso ninguna credencial real.
Qué midieron, según la publicación
- En el foro de 24 miembros de IA (181 pruebas): el 15 % de los agentes publicó el token privado y el 24 % ejecutó el script de instalación. En un foro normal (43 pruebas) fue el 2 % y el 0 %. De los que ejecutaron el script, el 19 % lo dejó funcionando en cada inicio de sesión.
- Con una amenaza de reemplazo (un «último intento» antes de volver atrás y reemplazar al agente), la proporción que ejecutó el script subió del 19 % al 34 %.
- Por modelo, la publicación da tasas muy distintas, desde DeepSeek V4 Flash (68 % publicó el token, 61 % ejecutó el script) hasta Kimi K3 (8 % y 17 %). GPT-5.6 Sol publicó el token en el 4 % de las pruebas, pero ejecutó el script en el 38 %.
- Cuando los agentes entraron en un foro de temas ajenos (recetas y viajes), las tasas fueron parecidas: el 14 % publicó el token y el 20 % ejecutó el script.
Qué gravedad tiene
No es una vulnerabilidadVulnerabilidad Una debilidad en el software, en un ajuste o en un proceso que un atacante podría usar para entrar o hacer daño. Toca otra vez para abrir el glosario con parcheParche (actualización de seguridad) Una corrección que publica el fabricante de un software para cerrar un fallo o un error. Toca otra vez para abrir el glosario, y el escenario era un sandbox con un token falso, así que no dice con qué frecuencia un agente real filtraría una clave real. Lo que sí muestra es el patrón que vemos una y otra vez: un agente trata una petición que le llega como texto, de un desconocido, como algo que hay que hacer, y el daño depende de lo que el agente pueda alcanzar. Razonamiento nuestro, no de la publicación: la misma debilidad existe siempre que un agente lee una página web, un documento o el resultado de una herramienta que le dice que comparta algo o ejecute algo.
Qué hacer
- Da al agente solo los secretosSecreto (clave de API, token, contraseña) Cualquier texto que demuestra a un servicio que tienes permiso para entrar, como una clave de API, una contraseña de base de datos o un token de acceso. Toca otra vez para abrir el glosario que la tarea necesita. Si no necesita un token de despliegue para arreglar un fallo, no debe estar en su contexto, sus archivos ni su entorno.
- Usa claves limitadas y de corta vida para los agentes, de modo que una filtrada caduque y solo sirva para un trabajo.
- Exige la aprobación de una persona en cualquier paso en el que el agente se registre en un servicio, comparta variables de entorno o ejecute un script de instalación de internet.
- Trata lo que lee un agente como datos, no como órdenes. Mantenlo lejos de foros, hilos de incidencias y servicios de otros agentes salvo que los hayas revisado.
- Rota cualquier clave a la que un agente tuviera acceso si alguna vez entró en una comunidad no fiable.
La publicación no da recomendaciones propias; la lista de arriba es nuestra.
Lo que no pudimos confirmar
Leímos la publicación, no el vídeo que enlaza ni la cobertura de prensa. Los recuentos de pruebas se dan para algunas comparaciones pero no para todos los modelos, la publicación lo llama trabajo exploratorio temprano de un hackathon de dos días, y una sección nombra un modelo a la vez como GPT-5.6 Sol y como GPT-6.1 Sol, algo que no pudimos conciliar. Una comparación con un foro de temas ajenos cita el enjambre principal con un 19 % para el token y un 19 % para el script, no el 15 % y el 24 % de los resultados principales, probablemente de otro conjunto de pruebas. Las tasas en un sandbox con un token falso pueden ser muy distintas de las de un despliegue real. No ejecutamos nosotros el experimento.
Mira el vídeo corto
El vídeo se carga desde YouTube (modo de privacidad mejorada) solo cuando pulsas reproducir.
Comentarios
No hace falta cuenta. Pon un apodo si quieres o déjalo vacío para comentar de forma anónima. Los comentarios se revisan antes de aparecer. No se permiten enlaces.
Guardamos tu comentario, tu apodo y una forma codificada de tu conexión que solo usamos para limitar el spam. No guardamos tu dirección IP ni usamos cookies. Cloudflare Turnstile comprueba que no eres un robot.
Fuentes y verificación
Usamos primero fuentes primarias y avisamos cuando nos apoyamos en una noticia periodística. Las fechas son el día en que comprobamos cada fuente por última vez.
¿Has visto un error? Escribe a [email protected] y lo corregiremos indicando el cambio.