El 82% del secuestro de la información proviene de agentes de inteligencia Artificial (IA) expuestos, dijo Victoria Martínez, gerente de Plataformas de IA de Red Hat en Latinoamérica.
Las personas utilizan mecanismos para llegar a una herramienta y, sin saber, se trata de la puerta de entrada para extraer información, explicó Martínez en conferencia durante el Red Hat Summit.
Para hacer frente a las necesidades de ciberseguridad relacionada con la inteligencia artificial, la gerente destacó que es necesario tener soberanía de IA, “la conciencia en la necesidad de tener control sobre la IA”.
La gerente detalló que, a diferencia de otros ataques informáticos que buscan vulnerar directamente los sistemas, uno de los riesgos de la inteligencia artificial está en los accesos que se habilitan mediante asistentes y agentes, que pueden convertirse en puntos de entrada para obtener información sin autorización.
Por ello, Martínez consideró que la seguridad debe incorporarse desde el diseño de las soluciones y no limitarse a establecer políticas internas.
La gobernanza, dijo, debe trasladarse a la arquitectura tecnológica para verificar los permisos y las acciones que realizan los agentes.
“La gobernanza justamente es el camino para poder tener control en la inteligencia artificial”.
Protección y control
Martínez explicó que las organizaciones necesitan establecer mecanismos de protección en diferentes etapas, desde la entrada de las solicitudes, durante el procesamiento de la información y hasta la entrega de las respuestas.
Esto permite revisar si un usuario tiene autorización, si una herramienta es la adecuada y si el comportamiento del agente se apega a las políticas de seguridad.
La especialista de Red Hat advirtió que la adopción acelerada de estas tecnologías ha llevado a usuarios y empresas a aprovechar su facilidad de uso sin evaluar suficientemente los riesgos.
En el ámbito personal, por ejemplo, las personas pueden compartir datos privados, información médica y otros detalles de su vida cotidiana.
“Al tener tanto potencial esta inteligencia artificial, nos permitió atraernos por la rápida construcción y subestimar todos los riesgos de este fácil acceso”, explicó.
En las empresas, la exposición puede comprometer información y sistemas productivos, por lo que resulta indispensable contar con una estrategia de gobernanza que funcione en la práctica y no se quede en la creación de comités o documentos, explicó Martínez.
Por ejemplo, Red Hat incorpora mecanismos de seguridad y control en sus plataformas para el desarrollo y operación de soluciones de inteligencia artificial.
Entre ellos se encuentran herramientas para administrar la identidad de los agentes, supervisar su comportamiento y establecer reglas que permitan bloquear determinadas acciones o derivarlas a una revisión humana.
La gerente también subrayó que la autonomía de los agentes exige más controles, debido a que estas herramientas pueden generar respuestas incorrectas o comportamientos inesperados.
“Los sistemas agénticos alucinan, todos alucinan y todos manipulan”, advirtió, al destacar que la intervención humana sigue siendo necesaria para revisar los resultados y evitar una confianza absoluta en la automatización.
Para Martínez, la soberanía de la inteligencia artificial también implica que las organizaciones tengan flexibilidad para elegir entre distintos modelos, incluidos los de código abierto, de acuerdo con sus necesidades, capacidades y requerimientos de seguridad.
De manera que, el objetivo es que las empresas puedan aprovechar el potencial de la IA sin perder el control sobre sus datos, las herramientas que utilizan y las decisiones que delegan en los agentes.
