IA generativa: ¿Qué implicaciones tiene para la seguridad empresarial?
La IA generativa ha cambiado rápidamente lo que el mundo pensaba que era posible con la inteligencia artificial, y su adopción generalizada puede costar para muchos que no trabajan en tecnología.
Alex Au Yeung, Chief Product Officer, Symantec Enterprise Division se plantea: ¿Cuáles son sus implicaciones para la empresa y la ciberseguridad?
“Una tecnología que puede mejorar en gran medida la eficiencia de las organizaciones, permitiéndoles ser significativamente más productivas con la misma cantidad de recursos humanos. Pero el impacto de la rapidez con la que surgieron aplicaciones de IA generativa como ChatGPT, Bard y GitHub Copilot de la noche a la mañana tomó por sorpresa a los líderes de TI empresariales”.
¿Cómo funciona la IA generativa?
Bajo esa lógica, la IA generativa opera en redes neuronales impulsadas por sistemas de aprendizaje profundo, al igual que funciona el cerebro. Estos sistemas son como los procesos de aprendizaje humano.
Pero, a diferencia del aprendizaje humano, el poder de los datos de fuentes múltiples combinado con la información correcta en la IA generativa significa que el procesamiento de las respuestas será años luz más rápido.
Lo que podría tomar 30 años para que un individuo lo procese podría tomar solo un parpadeo. Ese es un beneficio que se puede derivar dependiendo de la calidad, así como de las cantidades masivas de datos que se pueden incorporar.
Lea también: Aspectos retadores de la inteligencia artificial que pueden ser mejorados
Los desafíos de la ciberseguridad
La IA generativa, incluido ChatGPT, se entrega principalmente a través de un modelo de software como servicio (SaaS) de terceros. Uno de los desafíos que esto plantea es que interactuar con IA generativa requiere proporcionar datos a este tercero.
Los grandes modelos de aprendizaje que respaldan estas herramientas de IA requieren el almacenamiento de esos datos para responder de manera inteligente a las solicitudes posteriores que hagan los usuarios.
Y es que la información alimentada en herramientas de IA como ChatGPT se convierte en parte de su conjunto de conocimientos. Cualquier suscriptor de ChatGPT tiene acceso a ese conjunto de datos común.
Esto significa que cualquier dato cargado o sobre el que se haya preguntado se puede reproducir dentro de ciertas medidas de seguridad de la aplicación para otros terceros que hagan preguntas similares.
“Tal como está hoy, la mayoría de las herramientas de IA generativa no tienen políticas de seguridad de datos concretas para los datos proporcionados por los usuarios”, advierte el especialista de Symantec – Broadcom.
Le puede interesar: Elon Musk anunció xAI, su nueva compañía de inteligencia artificial
Lo que las empresas necesitan para la seguridad
Existen soluciones de protección para la IA generativa, como Symantec DLP Cloud, Adaptive Protection en Symantec Endpoint Security Complete (SESC) y monitoreo en tiempo real de la seguridad del correo electrónico que abordan estos desafíos emergentes y bloquean los ataques de diferentes maneras.
Symantec DLP Cloud amplía Generative AI Protection para empresas con las capacidades que necesitan para descubrir, y posteriormente monitorear y controlar, la interacción con herramientas de IA generativa dentro de sus organizaciones.
Entre otros beneficios, DLP puede usar IA para acelerar la priorización de incidentes, ayudando a los analistas sénior a clasificar los más importantes y reconocer aquellos que no son una amenaza crítica para la empresa.
Los beneficios incluyen
Proporcionar a las empresas la capacidad de comprender los riesgos a los que están sujetas, por el uso de herramientas con IA generativa.
Permitir el uso seguro y protegido de las herramientas populares de IA al brindar las medidas de seguridad necesarias para bloquear la carga o publicación de datos confidenciales de manera intencional o inadvertida.
Identificar, clasificar y documentar el cumplimiento de identificación personal, información de salud, propiedad intelectual y otros datos críticos.
De esta manera, Symantec Generative AI Protection ayuda la productividad de la IA generativa, sin comprometer la seguridad de los datos y el cumplimiento.
