- Inicia sesión para comentar
A medida que las organizaciones implementan la IA agéntica para ejecutar tareas en las API y los sistemas, las empresas se enfrentan a un cambio fundamental en el riesgo. Akamai ha publicado su último informe sobre el estado de Internet (SOTI) en materia de seguridad, que se centra en los desafíos emergentes de la IA. Dirigido a los directores de seguridad de la información (CISO), Velocidad, escala e identidad no humana: el panorama de las amenazas agénticas explica que la protección de las empresas modernas ha evolucionado de la gestión exclusiva de identidades y accesos de las personas a un desafío de control del comportamiento sobre entidades no humanas.
El informe destaca dos desafíos fundamentales: la dificultad de establecer barreras de protección para los agentes autónomos y la velocidad a la que los modelos de IA descubren las vulnerabilidades, superando a menudo los ciclos de parches humanos.
Hallazgos clave del informe SOTI
- La brecha de visibilidad del Model Context Protocol (MCP): A pesar de que el MCP (el protocolo de contexto de modelo que permite a los agentes de IA interactuar con varios sistemas de software) permite que los modelos de IA ejecuten acciones multisistema autónomas, la exposición del MCP ocupa el último lugar entre las prioridades de seguridad actuales de los CISO. Esto revela una brecha de visibilidad crítica, aun cuando los directivos de seguridad esperan que los agentes de IA maliciosos se conviertan en una de las principales ciberamenazas para 2030.
- Filtraciones de datos de chatbots: Más del 6 % de las conversaciones de chatbots de IA empresarial contienen datos corporativos confidenciales, principalmente información de identificación personal, y el 47 % de las interacciones se producen a través de cuentas personales no supervisadas.
- Aceleración de los ataques: Las iniciativas de la IA fronteriza demuestran que los modelos pueden detectar y encadenar rápidamente las debilidades del sistema, lo que hace que la aplicación de parches reactiva sea insuficiente y exija la mitigación en el Edge en tiempo real.
- El navegador como un espacio de trabajo no protegido: Más del 40 % de los usuarios empresariales han instalado extensiones de navegador basadas en IA, y el 25 % de estas extensiones modifican los permisos en un plazo de 12 meses. Estas herramientas tienen un 60 % más de probabilidades de poseer CVE conocidas que las extensiones estándar.
- El auge del cliente sintético: A medida que los agentes de IA sustituyen el tráfico web tradicional para impulsar el descubrimiento de marca, los CISO deben ampliar la protección más allá del malware para incluir métricas de optimización para motores generativos (GEO): citas, precisión, opiniones y gestión de bots.
“La IA presenta un momento de 'todo, en todas partes, todo a la vez' para el ecosistema de seguridad en su conjunto”, afirma Boaz Gelbord, director de seguridad de Akamai. “Nos encontramos con esta triple amenaza: en primer lugar, el uso interno de la IA en toda la organización, ya sea código generado por la IA o el aprovechamiento de las herramientas de productividad de IA. En segundo lugar, la integración de la IA directamente en los productos orientados al cliente y las cargas de trabajo en la nube, lo que redefine su perfil de riesgo operativo. En tercer lugar, nos encontramos con los ataques basados en IA dirigidos a la empresa. Los programas de seguridad deben adaptarse a esta realidad en rápida evolución, y hay mucha presión en el sistema debido a la velocidad sin precedentes de estos cambios. Este va a ser un tema clave para los miembros del consejo, los clientes y los organismos reguladores en un futuro cercano”.
“El auge de la web agéntica marca un cambio fundamental en la forma en que se crean el valor empresarial y la lógica operativa”, afirma Steve Winterfeld, director asesor de seguridad de la información de Akamai. “A medida que la IA autónoma pasa de responder a las consultas a ejecutar estrategias empresariales de varios pasos, los directivos de seguridad deben evolucionar con ella”.
Recomendaciones estratégicas para directivos de seguridad
Para desenvolverse en la era agéntica, Akamai describe cuatro pilares fundamentales para los directores de seguridad de la información en el informe:
- Cambiar al control adaptativo en el Edge: Implementar protecciones de tiempo de ejecución nativas del Edge, filtros de API y mecanismos de aislamiento para neutralizar inmediatamente las vulnerabilidades mientras se aplican parches en el back-end.
- Bloquear el Edge del navegador: Establecer controles de visibilidad y comportamiento dentro del navegador para proteger la adopción de extensiones de IA no gestionadas por el personal y modelos alojados en la web.
- Proteger la autoridad de la marca en una economía sin intervención humana: Implementar estrategias de GEO y capas de datos legibles por máquinas en el Edge para evitar que los rastreadores de IA y los compradores sintéticos tengan alucinaciones o representen incorrectamente los datos de la marca corporativa.
- Hacer coincidir autonomía con verificabilidad: Conceder autonomía operativa a los agentes de IA en función de la facilidad con la que se puedan verificar sus acciones y la capacidad de reversión de un posible fallo, manteniendo controles con participación humana para las acciones de alto riesgo.
