IA: Entre los Riesgos y su Potencial Transformador
La tecnología de inteligencia artificial no solo ya está presente, sino que continúa evolucionando, y ese ritmo de cambio puede representar una gran disrupción para las empresas que intentan adoptar soluciones con impacto real en el negocio. A pesar de desafíos fundamentales como el acceso a hardware adecuado o a datos de entrenamiento de calidad, el gasto en IA como rubro de TI aumentó 2.4 veces en América Latina en el último año, siendo las principales prioridades la infraestructura de IA, la gestión de datos y la seguridad y privacidad. Se espera además un crecimiento superior al 50% en los próximos meses.¹ Todo esto respaldado por la proyección de que América Latina “tiene una oportunidad de 100 mil millones de dólares si aprovecha la IA en la próxima década.”²
¡Una perspectiva emocionante!
Pero para implementar la IA correctamente, es necesario anticipar los riesgos que puede introducir y que podrían afectar tus prácticas de ciberseguridad y cumplimiento.
Cómo la IA cambia el panorama de amenazas
Primero, es importante entender cómo se amplía el panorama de amenazas. Las aplicaciones de IA suelen operar en entornos multi-sitio y multi-nube, utilizando APIs para comunicarse y mover datos entre componentes. También dependen del acceso a grandes volúmenes de datos para su entrenamiento y mejora continua.
Como resultado, los atacantes han ideado amenazas específicas que explotan las vulnerabilidades propias de los sistemas de IA. Estas pueden incluir:
- Inyecciones de prompts: Los atacantes explotan interfaces de IA con instrucciones maliciosas que provocan salidas indeseadas o maliciosas. Esto puede llevar a la exposición de datos sensibles o a la generación de información falsa o sesgada que el usuario podría asumir como válida.
- Uso indebido de APIs: Las APIs, al ser interfaces programáticas muchas veces sin supervisión o protección adecuada, representan puntos de entrada ideales para el robo de datos, accesos no autorizados o ataques de denegación de servicio (DoS).
- Fugas de datos en modelos: Cuando los modelos en producción filtran datos sensibles o confidenciales, ya sea por error humano, negligencia o ataque malicioso, se generan graves problemas de seguridad y cumplimiento.
- Vulnerabilidades en componentes de código abierto: La mayoría de las empresas no desarrollan modelos desde cero, sino que construyen sobre componentes de código abierto o preexistentes. Si estos contienen vulnerabilidades, se pueden convertir en puntos críticos de falla explotables por atacantes.
Tus defensas deben evolucionar para enfrentar estos escenarios antes de desplegar aplicaciones de IA que puedan exponer datos sensibles o ser manipuladas con fines maliciosos.
Los actores maliciosos también usan IA: necesitas defensas modernas
No solo las empresas están adoptando IA. Los atacantes también se están equipando rápidamente con amenazas potenciadas por IA que superan las defensas tradicionales y estáticas. No es una tendencia nueva: los atacantes ya venían utilizando automatización para ejecutar ataques masivos sin intervención humana. Ahora, con la IA, los ataques alcanzan un nuevo nivel de sofisticación.
Un informe reciente³ confirma esta amenaza y revela que:
- La gran mayoría de los equipos de ciberseguridad no están preparados para enfrentar amenazas potenciadas por IA.
- El 74% de los líderes de seguridad informática creen que sus organizaciones ya están experimentando los efectos de dichas amenazas.
- El 89% de los equipos de TI coinciden en que este tipo de amenazas impactarán sustancialmente a sus organizaciones para 2026.
Como con cualquier ataque mejorado, automatizado o con IA, necesitas defensas que igualen su velocidad y sofisticación.
GBM puede ayudarte a prepararte para un futuro con IA
En GBM, trabajamos constantemente por mantenernos a la vanguardia de las tendencias tecnológicas. Antes de que la nube fuera generalizada, creamos una división especializada y desarrollamos rápidamente nuestra experiencia. Hicimos lo mismo con las prácticas modernas de gestión de datos. Hoy, nos enorgullece haber invertido para sumergirnos en el mundo de la IA y convertirnos en el socio de confianza que necesitas para escalar con seguridad, visibilidad y control en tu infraestructura, capa de API y entornos en la nube.
Como parte de nuestra estrategia de seguridad para IA, colaboramos con F5 para ofrecer soluciones en la nube que escalan fácilmente y se adaptan a las aplicaciones modernas de nuestros clientes, sin importar dónde se ejecuten. Las capacidades incluyen protección de aplicaciones web y APIs, mitigación de ataques DDoS y redes multi-nube seguras para conectividad privada.
Estamos desarrollando soluciones de IA junto con prácticas de seguridad y cumplimiento para proteger estos nuevos activos y defenderte contra amenazas que usan IA como herramienta de ataque.
No importa en qué etapa estés en tu recorrido hacia la IA —ya sea comenzando o con modelos en producción— GBM puede ayudarte.
Fuentes:
¹ Medium, Infrastructure gaps and limited technological investment limit AI adoption in Peru, abril 2025
² JP Morgan, The great leap: Harnessing genAI to revolutionize Latin America’s service economy, agosto 2024
³ ISA Global Security Alliance, Most Cybersecurity Teams Are Unprepared for AI Cyberattacks, 2024