Brecha en Fireworks AI expone chats de Notion AI y datos de clientes
Una cadena de suministro de IA volvió a mostrar su lado frágil: Fireworks AI, plataforma que desarrolladores usan para acceder y ejecutar modelos abiertos, confirmó que un atacante accedió a datos de sus clientes. Entre los afectados figura Notion, que informó que el incidente alcanzó a menos del 1 % de sus espacios de trabajo y que los atacantes se llevaron transcripciones de chats de Notion AI.
Qué pasó en la brecha de Fireworks AI
Según el boletín de seguridad de Fireworks (actualizado el 9 de noviembre), un proveedor de nube de terceros que alojaba máquinas de I+D de la empresa sufrió un incidente el 23 de octubre. Al día siguiente, el atacante usó ese acceso para llegar a equipos de desarrollo de Fireworks y ejecutar una carga de trabajo no autorizada que amplió el impacto sobre datos de clientes.
- Datos de cuenta y facturación: direcciones de facturación y envío, historial de facturas y pagos, saldo y uso de créditos. Fireworks aclara que no almacena números de tarjeta y que no fueron afectados.
- Secretos, conjuntos de datos y modelos incompletos: para un grupo limitado de cuentas se accedió a secretos, datasets y pesos parciales de modelos.
- Metadatos de recursos: identificadores, nombres, descripciones y fechas de creación.
La empresa indica que no detectó impacto en sus servicios de inferencia, Training SDK y Nexus, que operan con retención cero de datos por defecto. Es, además, el segundo incidente que afecta a Fireworks en dos meses: el primero se comunicó el 9 de octubre.
El caso Notion: transcripciones de Notion AI
Notion explicó que Fireworks le avisó del incidente y luego confirmó el robo de datos de clientes de Notion. El 3 de noviembre Notion desconectó sus sistemas de Fireworks, eliminó los datos almacenados y cortó toda conectividad entre ambas plataformas.
Los datos robados corresponden a transcripciones de chats de usuarios de la función «Insights» de Notion AI. Notion precisa que la transcripción incluye cualquier entrada o salida del modelo escrita en el chat, aunque gran parte de los datos no es atribuible y no se puede determinar de qué cliente provienen. Los dueños de espacios afectados pueden revisar los datos en la sección «Security incident review» de su workspace.
Motivación: LLMjacking
Fireworks cree que detrás hay un grupo cibercriminal con motivación financiera, cuyo objetivo es vender tokens de acceso no autorizado a modelos de lenguaje a pasarelas de enrutamiento ilícitas, práctica conocida como «LLMjacking». Quienes compran ese acceso pueden consumir capacidad de modelos sin pagar con recursos propios, y la factura la absorbe la víctima. La empresa contactó a las autoridades y contrató a Unit 42 de Palo Alto Networks para el análisis forense; la investigación sigue abierta.
La lección: el riesgo de terceros en la IA
Este incidente ilustra cómo los productos de IA se construyen sobre capas de proveedores: una startup usa una plataforma de inferencia, que a su vez corre sobre un proveedor de nube. Una intrusión en el eslabón más lejano puede terminar exponiendo conversaciones de usuarios finales que jamás tuvieron relación directa con la empresa atacada.
Qué hacer si usas estas plataformas
- Rota credenciales y claves API que se hayan pegado en chats de IA o almacenado como secretos en plataformas de terceros.
- Revisa los avisos de tus proveedores y, si usas Notion, consulta la sección de revisión de incidentes de tu workspace.
- Monitorea el consumo y la facturación de modelos para detectar uso anómalo de tokens.
- Aplica mínimo privilegio y retención cero cuando sea posible, y no compartas datos sensibles con asistentes de IA sin necesidad.
- Incluye a tus proveedores de IA en la evaluación de riesgo de terceros y exige notificación temprana de incidentes.