Las plataformas de IA generativa como ChatGPT, Gemini, Copilot y Claude son cada vez más comunes en las organizaciones. Si bien estas soluciones mejoran la eficiencia en todas las tareas, también ofrecen una nueva prevención de la fuga de datos para los desafíos de la IA generativa. La información confidencial puede compartirse mediante instrucciones de chat, subir archivos para resumirlos con inteligencia artificial o mediante complementos de navegador que eluden los controles de seguridad habituales. Los productos DLP estándar no suelen registrar estos eventos.
Soluciones como Red Fidelis ® Detection and Response (NDR) introduce la prevención de pérdida de datos basada en la red que permite controlar la actividad de la IA. Esto permite a los equipos supervisar, hacer cumplir las políticas y auditar el uso de GenAI como parte de una estrategia más amplia de prevención de la pérdida de datos.
Por qué la prevención de pérdida de datos debe evolucionar para GenAI
La prevención de la pérdida de datos para la IA generativa requiere cambiar el enfoque de los puntos finales y los canales aislados a la visibilidad en toda la ruta del tráfico. A diferencia de las herramientas anteriores, que se basaban en el escaneo de correos electrónicos o recursos compartidos de almacenamiento, las tecnologías de NDR, como Fidelis identifique las amenazas a medida que atraviesan la red, analizando los patrones de tráfico incluso si el contenido está cifrado.
La preocupación fundamental no es solo quién creó los datos, sino cuándo y cómo dejan el control de la organización, ya sea mediante subidas directas, consultas conversacionales o funciones de IA integradas en los sistemas empresariales.
Supervisión eficaz del uso de la IA generativa
Las organizaciones pueden usar las soluciones DLP de GenAI basadas en la detección de redes mediante tres enfoques complementarios:
Indicadores basados en URL y alertas en tiempo real
Los administradores pueden definir indicadores para plataformas GenAI específicas, por ejemplo, ChatGPT. Estas reglas pueden aplicarse a varios servicios y adaptarse a los departamentos o grupos de usuarios pertinentes. La supervisión se puede ejecutar en la web, el correo electrónico y otros sensores.
Proceso:
- Cuando un usuario accede a un punto final de GenAI, Fidelis NDR genera una alerta
- Si se activa una política de DLP, la plataforma registra una captura completa de paquetes para su posterior análisis.
- Los sensores web y de correo pueden automatizar acciones, como redirigir el tráfico de usuarios o aislar los mensajes sospechosos.
Ventajas:
- Las notificaciones en tiempo real permiten una respuesta de seguridad rápida
- Soporta análisis forenses exhaustivos según sea necesario
- Se integra con los manuales de respuesta a incidentes y las herramientas SIEM o SOC
Consideraciones:
- Es necesario mantener las reglas actualizadas a medida que cambian los puntos finales y complementos de IA
- El uso de alta GenAI puede requerir el ajuste de alertas para evitar la sobrecarga
Monitorización exclusiva de metadatos para entornos de auditoría y bajo nivel de ruido
No todas las organizaciones necesitan alertas inmediatas para todas las actividades de GenAI. Las políticas de prevención de pérdida de datos basadas en la red suelen registrar la actividad como metadatos, lo que crea un registro de auditoría con capacidad de búsqueda con una interrupción mínima.
- Se suprimen las alertas y se conservan todos los metadatos relevantes de la sesión
- Las sesiones registran la IP, el protocolo, los puertos, el dispositivo y las marcas de tiempo de origen y destino
- Los equipos de seguridad pueden revisar históricamente todas las interacciones de GenAI por anfitrión, grupo o período de tiempo
Ventajas:
- Reduce los falsos positivos y la fatiga operativa de los equipos de SOC
- Permite el análisis de tendencias a largo plazo y la elaboración de informes de auditoría o cumplimiento
Límites:
- Los eventos importantes pueden pasar desapercibidos si no se revisan con regularidad
- El análisis forense a nivel de sesión y la captura completa de paquetes solo están disponibles si se intensifica una alerta específica
En la práctica, muchas organizaciones utilizan este enfoque como base y añaden la supervisión activa solo para los departamentos o actividades de mayor riesgo.
Detección y prevención de cargas de archivos riesgosas
La carga de archivos a las plataformas GenAI presenta un mayor riesgo, especialmente cuando se manejan datos de PII, PHI o de propiedad exclusiva. Fidelis NDR puede supervisar estas subidas a medida que se producen. La seguridad eficaz de la IA y la protección de datos implican inspeccionar minuciosamente estos movimientos.
Proceso:
- El sistema reconoce cuando los archivos se cargan en los puntos finales de GenAI
- Las políticas de DLP inspeccionan automáticamente el contenido de los archivos en busca de información confidencial
- Cuando una regla coincide, se captura el contexto completo de la sesión, incluso sin el inicio de sesión del usuario, y la atribución de dispositivos proporciona responsabilidad
Ventajas:
- Detecta e interrumpe los eventos de salida de datos no autorizados
- Permite la revisión posterior al incidente con un contexto transaccional completo
Consideraciones:
- La supervisión solo funciona para las cargas visibles en las rutas de red administradas
- La atribución se realiza a nivel de activo o dispositivo, a menos que exista la autenticación del usuario
Sopesando sus opciones: qué funciona mejor
Alertas de URL en tiempo real
- Ventajas: Permite una intervención rápida y una investigación forense, admite la clasificación de incidentes y la respuesta automatizada
- Contras: Puede aumentar el ruido y la carga de trabajo en entornos de alto uso, y necesita un mantenimiento rutinario de las reglas a medida que evolucionan los terminales
Modo solo para metadatos
- Ventajas: La baja sobrecarga operativa, sólida para las auditorías y la revisión posterior al evento, mantiene la atención de seguridad centrada en las verdaderas anomalías
- Contras: No es adecuado para amenazas inmediatas, se requiere una investigación posterior a los hechos
Supervisión de carga de archivos
- Ventajas: Se enfoca en eventos reales de filtración de datos y proporciona registros detallados para el cumplimiento y el análisis forense
- Contras: Asignación a nivel de activos solo cuando no hay inicio de sesión, sin acceso a canales fuera de la red o no supervisados
Creación de una protección integral de datos de IA
Un programa integral de soluciones DLP de GenAI incluye:
- Mantener listas activas de puntos finales de GenAI y actualizar las reglas de monitoreo con regularidad
- Asignación del modo de supervisión, las alertas, los metadatos o ambos, según el riesgo y la necesidad empresarial
- Colaborar con los líderes de cumplimiento y privacidad a la hora de definir las reglas de contenido
- Integración de las salidas de detección de red con los sistemas de gestión de activos y automatización del SOC
- Educar a los usuarios sobre el cumplimiento de las políticas y la visibilidad del uso de GenAI
Las organizaciones deben revisar periódicamente los registros de políticas y actualizar sus sistemas para abordar los nuevos servicios, complementos y usos empresariales emergentes impulsados por la IA de GenAI.
Mejores prácticas para la implementación
Una implementación exitosa requiere:
- Gestión clara del inventario de la plataforma y actualizaciones periódicas de las políticas
- Enfoques de monitoreo basados en el riesgo adaptados a las necesidades de la organización
- Integración con los flujos de trabajo y marcos de cumplimiento del SOC existentes
- Programas de educación de usuarios que promueven el uso responsable de la IA
- Monitorización continua y adaptación a las tecnologías de IA en evolución
Conclusiones clave
Moderna prevención de pérdida de datos basada en la red Las soluciones, como ilustra Fidelis NDR, ayudan a las empresas a equilibrar la adopción de la IA generativa con una sólida seguridad de la IA y la protección de datos. Al combinar controles basados en alertas, metadatos y carga de archivos, las organizaciones crean un entorno de monitoreo flexible en el que coexisten la productividad y el cumplimiento. Los equipos de seguridad conservan el contexto y el alcance necesarios para gestionar los nuevos riesgos de la IA, mientras que los usuarios siguen beneficiándose del valor de la tecnología GenAI.