Trend Micro alerta sobre los riesgos de seguridad en la IA Agente

La IA Generativa está transformando el panorama digital global, aunque su adopción apresurada pone

en riesgo datos confidenciales de proveedores y empresas.

Colombia, enero de 2025. Trend Micro Incorporated (TYO: 4704; TSE: 4704),líder mundial en
ciberseguridad, ha publicado un nuevo estudio titulado "El camino hacia la IA Agente: cimientos
expuestos". En este análisis, se revela que la generación aumentada por recuperación (RAG), una
tecnología que permite a las empresas crear soluciones de IA personalizadas, presenta importantes
riesgos de seguridad. A pesar de los beneficios de la RAG, las empresas deben ser conscientes de estos
desafíos para proteger sus datos y operaciones.
“Las organizaciones no pueden permitirse pasar por alto los principios de seguridad básicos en la
implementación de sistemas generativos. El acceso sin restricciones a componentes críticos como
almacenes vectoriales o plataformas de alojamiento de modelos representa una vulnerabilidad directa
para la propiedad intelectual y los datos confidenciales”, afirmó Ignacio Triana, director de estrategia de
ciberseguridad para MCA en Trend Micro. Según el directivo, herramientas como Zero Trust Secure
Access son claves para mitigar riesgos y garantizar una implementación segura de la IA generativa.
¿Cómo funciona RAG?
La generación aumentada por recuperación combina dos elementos clave: un almacén vectorial, que
organiza los datos y facilita su búsqueda, y un modelo de lenguaje que utiliza esa información para
responder preguntas o generar contenido. Aunque esta tecnología es eficiente y económica, el informe
identificó más de 80 servidores de RAG expuestos a internet sin medidas básicas de protección, como
contraseñas o cifrado. Estos servidores, ubicados principalmente en Estados Unidos, China, Alemania y
Francia, representan una ventana abierta para posibles ataques.
Uno de los hallazgos más preocupantes fue la falta de seguridad en herramientas ampliamente
utilizadas, como llama.cpp y Ollama, que alojan modelos de lenguaje. En muchos casos, los sistemas
permitían acceder, modificar o borrar datos almacenados, dejando vulnerables tanto la información
empresarial como la operatividad de los sistemas.
¿Por qué se dan estas fallas de seguridad?
El informe también destacó problemas en los almacenes vectoriales, como ChromaDB y Weaviate,
fundamentales para el funcionamiento de RAG. Estos sistemas almacenan información clave para las
decisiones automáticas, pero su exposición sin protección adecuada podría facilitar el robo o la
manipulación de datos confidenciales.
La prisa por adoptar estas tecnologías, descrita en el informe como un enfoque de moverse rápido y
romper cosas;, ha llevado a muchos desarrolladores a priorizar la innovación sobre la seguridad. Esto no
solo pone en riesgo los sistemas actuales, sino que también plantea desafíos de cara al futuro de la
inteligencia artificial, donde los sistemas de IA Agente prometen ser aún más complejos e integrados.

Para hacer frente a las vulnerabilidades expuestas en el estudio, los expertos de Trend Micro
recomiendan la implementación de medidas de seguridad robustas. Entre ellas destacan la autenticación
obligatoria en todos los accesos, el cifrado de las comunicaciones y la adopción de un modelo de
seguridad de confianza cero (Zero Trust). Estas medidas son fundamentales para proteger la
infraestructura tecnológica y los datos sensibles que sustentan los avances en inteligencia artificial.
Acerca de Trend Micro
Trend Micro, líder mundial en ciberseguridad, ayuda a hacer del mundo un lugar seguro para el intercambio de información
digital. Impulsado por décadas de experiencia en seguridad, investigación global de amenazas e innovación continua, la
plataforma de ciberseguridad de Trend Micro, potenciada por inteligencia artificial, protege a cientos de miles de organizaciones
y a millones de individuos a través de nubes, redes, dispositivos y puntos finales. Como líder en ciberseguridad en la nube y
empresarial, la plataforma de Trend ofrece una poderosa gama de técnicas avanzadas de defensa contra amenazas, optimizadas
para entornos como AWS, Microsoft y Google, y visibilidad centralizada para una mejor y más rápida detección y respuesta. Con
7,000 empleados en 70 países, Trend Micro permite a las organizaciones simplificar y asegurar su mundo conectado.
www.TrendMicro.com.