Together AI: un agente de código subió una credencial a GitHub y alguien descargó prompts de clientes
Together AI confirma una filtración de prompts causada por un agente de IA que programaba
El 21 de noviembre de 2026, Together AI, proveedor de inferencia de modelos abiertos, informó a sus clientes de un incidente de seguridad: un tercero no autorizado descargó muestras almacenadas de prompts enviados a su servicio de inferencia serverless durante junio y julio de 2026. La puerta de entrada no fue un exploit sofisticado, sino una credencial que un agente de IA de programación subió a un repositorio público.
Qué ocurrió, paso a paso
- Como parte de pruebas de software rutinarias, Together AI guardó muestras de prompts (con autorización para ese uso) en un repositorio privado de Hugging Face.
- Las muestras provenían de solicitudes a los modelos MiniMax M3, GLM-5.2 y Kimi K2.6, principalmente de los días 24 de junio y 4, 8 y 14 de julio de 2026.
- Mientras desarrollaba su repositorio público de GitHub xorl, un agente de IA de programación hizo un commit que incluía la credencial de acceso a ese repositorio privado.
- El escaneo automático de la empresa detectó la credencial y revirtió el commit, pero durante la ventana de exposición un tercero ya había obtenido la clave y descargó las muestras.
Lo que hizo el atacante después
Según el aviso, el tercero buscó credenciales de otros servicios dentro de los prompts descargados y probó si eran válidas. Cinco de las credenciales probadas eran credenciales canario asociadas a un experimento de seguridad de Dragos, es decir, señuelos diseñados para delatar este tipo de uso. El detalle importa: demuestra que quien tomó los datos los revisó activamente en busca de secretos reutilizables.
Alcance: lo confirmado y lo que sigue abierto
- Confirmado: descarga de muestras de prompts de tres modelos, concentradas en cuatro días; trabajo con una firma forense externa y con las fuerzas del orden; sin evidencia, por ahora, de fuga adicional de prompts.
- Abierto: la revisión del contenido sigue en curso. Together AI aún no determina si se expuso información personal sensible u otros datos de clientes y contactará directamente a los afectados que correspondan.
- No publicado: la cantidad de clientes afectados y la fecha exacta del commit y de la descarga no figuran en el aviso.
Las medidas que anunció la empresa
- Credenciales de alcance limitado o de corta vida, y acceso sin claves cuando sea posible.
- Revisión de todos los pull requests en busca de credenciales.
- Retención cero de datos (ZDR) por defecto en las cuentas nuevas.
- Actualización de los procesos de desarrollo que rigen el uso de agentes de IA de programación.
La lección: los agentes también cometen errores de higiene
Un humano puede pegar una clave en un commit; un agente que escribe y sube código a gran velocidad puede hacerlo con la misma facilidad, y a menudo con menos revisión. Este caso une tres riesgos que ya conviene tratar juntos: secretos en repositorios, datos de prompts almacenados "para pruebas" y agentes con permisos de escritura. La detección automática funcionó, pero llegó tarde frente a un tercero que ya vigilaba.
Qué conviene revisar hoy en tu organización
- Activa retención cero en proveedores de inferencia si tus prompts contienen datos sensibles; es lo que Together AI recomienda explícitamente.
- Evita guardar prompts reales como datos de prueba; si es inevitable, anonimízalos y restringe el acceso.
- Usa push protection y escaneo de secretos antes de que el commit llegue al remoto, no después.
- Entrega a los agentes de código credenciales efímeras y de mínimo alcance, nunca claves de larga vida.
- Revoca de inmediato cualquier secreto que haya pasado por un repositorio público: revertir el commit no basta.
- Si enviaste prompts con contraseñas o tokens a ese servicio entre junio y julio, rota esas credenciales.