¡Eval Digital sigue de cerca la mayor conferencia sobre ciberseguridad del mundo! Infórmate sobre el primer día de ponencias y las novedades en materia de protección de datos y ciberseguridad.
En el primer día de la Conferencia RSA 2024, una ponencia que destacó en el panel de la Cumbre CSA sobre IA fue la de Rehan Jalil, director general de Securiti, que presentó una charla excepcional titulada“Crear confianza en la IA: salvaguardias proactivas para la adopción responsable de la GenAI“.
Su presentación abordó un reto crítico al que se enfrentan las empresas: cómo incorporar de forma segura y ética los revolucionarios avances de la inteligencia artificial de nueva generación (GenAI) a sus operaciones.
Jalil comenzó destacando que la convergencia de los datos y la IA representa la mayor transformación empresarial de la historia, con un potencial sin parangón para impulsar la innovación y la automatización.
Ilustró su punto de vista con ejemplos de cómo la GenAI ya está afectando a sectores como la fabricación, la logística y la gestión estratégica, aportando ganancias significativas en eficiencia y productividad.
Sin embargo, el ponente hizo hincapié en que junto con las oportunidades viene la necesidad urgente de implantar una gobernanza sólida para la seguridad de los datos no estructurados que alimentan los modelos GenAI. Identificó cuatro pilares fundamentales:
- Seguridad de los datos no estructurados: Catalogación y protección de todos los archivos y objetos utilizados en los proyectos GenAI, garantizando la seguridad y el control de la información confidencial, de acuerdo con las normas más estrictas de encriptación y control de acceso.
- Permisos para Datos No Estructurados: Mantén una gestión estricta de los permisos de acceso a los sistemas de datos fuente en los proyectos GenAI, preservando la integridad y seguridad de los datos y evitando violaciones o filtraciones de la privacidad.
- Saneamiento de datos no estructurados: Implementar procesos automatizados para clasificar y sanear datos, ocultando información sensible en archivos que se utilizarán en proyectos GenAI, para eliminar el riesgo de uso indebido o filtraciones accidentales.
- Fuente de datos no estructurados: Evalúa continuamente los riesgos asociados a los datos y modelos de IA procedentes de proveedores de IaaS y SaaS, y clasifica rigurosamente los modelos de IA según los requisitos normativos globales, garantizando el pleno cumplimiento y control.
Jalil recomendó adoptar el marco de gobernanza de datos e IA de Securiti, que proporciona una solución integral para implantar estas salvaguardas proactivas. También destacó casos de éxito de empresas líderes que han adoptado estas prácticas, lo que ha dado lugar a una adopción responsable y segura de la GenAI.
La presentación de Jalil en la Conferencia RSA 2024 proporcionó directrices valiosas y prácticas para las organizaciones que buscan aprovechar todo el potencial transformador de la GenAI, al tiempo que crean confianza, responsabilidad y cumplimiento normativo en sus operaciones de IA. Su charla estableció una nueva norma para la adopción ética y segura de la inteligencia artificial en el mercado.
Más información sobre las soluciones de protección de datos de Eval Digital.
Fotos: Disclosure/ Flickr Conferencia RSA.
