Separación de datos, controles en las API y gestión de riesgos reputacionales son algunas de las
recomendaciones que las compañías pueden aplicar para mitigar los riesgos asociados con la IA.
Bogotá. agosto de 2024. La rápida evolución de la inteligencia artificial ha puesto de manifiesto la
necesidad imperante de comprender y mitigar los riesgos asociados a su implementación. Durante más
de dos décadas, la lista OWASP Top 10 ha servido como un estándar de referencia en el ámbito de la
seguridad del software. En este contexto, donde las organizaciones cada vez adoptan más soluciones de
IA, los modelos de lenguaje de gran tamaño (LLM) han emergido como herramientas estratégicas para
impulsar la productividad empresarial.
Teniendo en cuenta lo anterior, Trend Micro Incorporated (TYO: 4704; TSE: 4704), líder global en
ciberseguridad, presenta un análisis detallado las principales vulnerabilidades las cuales se pueden
clasificar ampliamente en tres categorías principales, estas son:
1. Riesgos de acceso con la IA. Según OWASP, un diseño inseguro de LLM puede conducir a la
pérdida de control de acceso, permitiendo que actores malintencionados exploten
vulnerabilidades y ejecuten código no autorizado. Asimismo, la manipulación insegura de las
salidas generadas por los LLM, sin la debida evaluación, expone los sistemas a riesgos de
seguridad, como la propagación de spam o la ejecución de ataques. La capacidad de los chatbots
de IA para tomar decisiones autónomamente los convierte en objetivos atractivos para
atacantes, quienes pueden aprovechar estas herramientas para infiltrarse en sistemas y causar
daños significativos.
2. Riesgos de datos con la IA. Los sistemas de inteligencia artificial que emplean modelos LLM, son
vulnerables a una serie de riesgos relacionados con la seguridad de los datos. Entre estos se
destacan las vulnerabilidades en la cadena de suministro, la divulgación de información sensible
y las denegaciones de servicio. Los chatbots de IA, por ejemplo, pueden ser manipulados para
generar respuestas sesgadas o divulgar información privada. Además, la dependencia de
modelos pre-entrenados, datos masivos y complementos inseguros puede dar lugar a brechas de
seguridad, fallas del sistema y salidas de datos sesgadas, poniendo en riesgo la reputación y los
intereses de las organizaciones.
3. Riesgos reputacionales y comerciales asociados con la IA. Las últimas vulnerabilidades
identificadas por OWASP resaltan dos riesgos críticos: el robo de modelos y la dependencia
excesiva de la IA. El robo de modelos, especialmente en organizaciones que poseen sus propios
LLM, representa una amenaza significativa. La copia o filtración no autorizada de estos modelos
puede ser utilizada para sabotear operaciones empresariales o causar fugas de información
confidencial. Por otro lado, la creciente dependencia de la IA ha generado preocupaciones a
nivel mundial, ya que se han reportado casos de modelos de lenguaje grande que producen
resultados falsos o inapropiados, como citas inventadas, lenguaje ofensivo o información
errónea, lo que subraya la importancia de una implementación responsable y cuidadosa de estas
tecnologías.
Mejores prácticas para minimizar los riesgos
A pesar de las amenazas, existe un camino hacia la seguridad en la IA, y este comienza con los siguientes
pasos:
1. Defensa contra los riesgos de acceso a la IA: Las organizaciones deben implementar una postura
Zero Trust con un estricto aislamiento del sistema (sandboxing) el cual protege la privacidad y la
integridad de los datos al aislar la información confidencial de los datos compartidos
públicamente y evitar el acceso no autorizado por parte de chatbots y otros sistemas públicos.
2. Separación de datos: Al mantener los datos confidenciales aislados de los datos públicos, se
evita que los modelos de lenguaje grande incorporen información privada o sensible en sus
respuestas. Además, también previene que estos modelos sean utilizados de manera
inapropiada para interactuar con sistemas sensibles, como los de pago, evitando así posibles
brechas de seguridad y el acceso no autorizado a información confidencial.
3. Controles en las API: Se aconseja que en los modelos LLM se inserten controles en las interfaces
de programación de aplicaciones (API).
4. Frente reputacional: Algunas de las soluciones más simples son no depender únicamente del
contenido o código generado por IA y nunca publicar o utilizar los resultados de la IA sin antes
verificar que sean verdaderos, precisos y confiables.
5. Políticas corporativas: Al incorporar medidas de seguridad como la separación de datos y el
sandboxing dentro de las políticas corporativas, se establece un marco claro de cómo debe
manejarse la información sensible. Tecnologías como EDR, XDR y SIEM permiten monitorear de
manera proactiva las actividades en los sistemas, detectar anomalías y responder rápidamente a
cualquier incidente de seguridad, asegurando así el cumplimiento de las normas y la protección
de los activos de la organización.
Implementar políticas sólidas para gestionar el uso de la inteligencia artificial y complementarlas con
soluciones de ciberseguridad robustas constituye un primer paso fundamental para mitigar los riesgos
asociados a esta tecnología. Sin embargo, es esencial mantenerse actualizado sobre las últimas
amenazas y mejores prácticas.
Acerca de Trend Micro
Trend Micro, líder mundial en ciberseguridad, ayuda a hacer del mundo un lugar seguro para el intercambio de información
digital. Impulsado por décadas de experiencia en seguridad, investigación global de amenazas e innovación continua, la
plataforma de ciberseguridad de Trend Micro, potenciada por inteligencia artificial, protege a cientos de miles de organizaciones
y a millones de individuos a través de nubes, redes, dispositivos y puntos finales. Como líder en ciberseguridad en la nube y
empresarial, la plataforma de Trend ofrece una poderosa gama de técnicas avanzadas de defensa contra amenazas, optimizadas
para entornos como AWS, Microsoft y Google, y visibilidad centralizada para una mejor y más rápida detección y respuesta. Con
7,000 empleados en 70 países, Trend Micro permite a las organizaciones simplificar y asegurar su mundo conectado.
Contacto de Prensa Local
Camila Baratto Mazalán Comunicaciones +57 320 8415248 cbaratto@mazalan.com
Laura Tamayo Mazalán Comunicaciones +57 310 6667448 ltamayo@mazalan.com