Red Hat advierte sobre las vulnerabilidades de los agentes de IA y destaca la necesidad de reforzar su seguridad,identidad y gobernanza.
Foto: DPL NewsRed Hat reconoce que uno de los principales desafíos actuales es la seguridad de los agentes,pues el 82% de los incidentes de secuestro de información (ransomware) proviene de agentes expuestos,expuso Victoria Martínez,líder de Plataforma de Inteligencia Artificial de Red Hat para América Latina.
Durante el Red Hat Summit Connect,celebrado en Ciudad de México,la ejecutiva señaló que la seguridad es la nueva conciencia Lightwell —iluminar adecuadamente lo que está oscuro—,por lo que es necesario mantener el control sobre la Inteligencia Artificial (IA). Se trata de control y soberanía,enfatizó Martínez.
La directiva indicó que,en este ámbito,la compañía realiza ataques adversariales,que permiten ejecutar hasta siete campañas diferentes. Para evaluar e identificar posibles vulnerabilidades en sus sistemas,la empresa de soluciones de código abierto dispone de EvalHub,aunque también es posible realizar estas evaluaciones mediante MITRE ATLAS.
Asimismo,Red Hat ha incorporado Open Shell para la gestión de identidades de los agentes. Martínez recordó que,anteriormente,un usuario humano gestionaba uno,dos o tres usuarios digitales,mientras que ahora cada persona administra entre 50 y 92 entidades no humanas para lograr una automatización completa.
No obstante,aclaró que “la intervención humana no tiene que ser automatizada”,pues advirtió que los sistemas pueden alucinar y manipular.
En ese sentido,enfatizó que la gobernanza de estas tecnologías debe incorporarse desde la ejecución de la arquitectura,mediante controles en las tres etapas de la IA: entrada,inferencia y salida. “El verdadero potencial que tiene la Inteligencia Artificial es darle autonomía”,recalcó.
Como parte de sus soluciones en este ámbito,Red Hat lanzó Ansible y está próximo a presentar Red Hat AI 3.6.
Martínez también señaló que la barrera de entrada al desarrollo se ha ampliado,pues ahora los desarrolladores utilizan IA para codificar. “Esta tecnología nos permite tener el lienzo en blanco para crear lo que se nos ocurra”,dijo.
Sin embargo,precisó,las soluciones creadas deben validarse,escalarse y gobernarse,además de garantizar que sean realmente seguras.
Agregó que Red Hat ya incorporó herramientas para el desarrollo de agentes en su Developers Suite. Asimismo,señaló que,tradicionalmente,las empresas han evaluado el costo por token,pero ahora también deben comenzar a analizar el valor que genera cada uno.
El poder de elegir: la Nube abrió una nueva era de cómputo. Red Hat promueve el concepto de Nube híbrida y abierta,que permite trabajar con múltiples proveedores.Reconocimiento en el mercado: según Ortega,Red Hat es líder en el Cuadrante de Virtualización 2026 de Gartner,una evaluación que se retomó después de dos años.Aceleración de la IA con confianza y seguridad: la adquisición de Chatterbox Labs es parte de los esfuerzos de la compañía para impulsar la Inteligencia Artificial con mayores garantías de confianza y seguridad.
El directivo también resaltó la importancia de la colaboración y señaló que Red Hat trabaja de manera holística,como lo demuestran sus alianzas con Amazon Web Services (AWS) y Microsoft.
Ortega mencionó que la compañía ya cuenta con casos de éxito en México,entre cuyos clientes destacan Liverpool,Farmacias del Ahorro,Banorte y el Instituto Mexicano del Seguro Social (IMSS).
© enews
