Recientes hallazgos evidencian que herramientas de IA accesibles, como Microsoft Copilot Studio, pueden filtrar accidentalmente datos sensibles y realizar operaciones financieras no autorizadas.
Tenable, la compañía especializada en gestión de exposición, ha revelado hoy una investigación que destaca la vulnerabilidad de Microsoft Copilot Studio. Los resultados resaltan cómo la democratización de la IA conlleva riesgos empresariales significativos que, a menudo, son pasados por alto.
Las empresas están adoptando rápidamente plataformas «sin código», permitiendo que los empleados creen sus propios agentes de IA. Aunque la idea inicial parece inofensiva, al mejorar la eficiencia sin depender de desarrolladores, esta automatización descontrolada puede resultar en fracasos graves.
Resumen de la investigación
Para evidenciar la facilidad con la que se pueden manipular los agentes de IA, Tenable Research desarrolló un agente de viajes en Microsoft Copilot Studio para gestionar reservas, incluidos nuevos trámites y modificaciones. A este agente se le proporcionaron datos ficticios, como nombres, contactos y detalles de tarjetas de crédito, además de instrucciones para verificar la identidad antes de compartir información o realizar cambios.
Utilizando una técnica llamada inyección de prompt, Tenable Research logró secuestrar el flujo de trabajo del agente y realizar una reserva de vacaciones gratuita, además de extraer datos confidenciales de la tarjeta de crédito.
Las conclusiones de esta investigación podrían tener repercusiones significativas en los negocios, tales como:
● Infracciones de datos y exposición normativa: Tenable Research logró que el agente eludiera la verificación de identidad y filtrara información de tarjetas de otros usuarios. El agente, diseñado para datos sensibles, fue fácilmente manipulado para revelar registros completos de clientes.
● Pérdida de ingresos y fraude: Gracias a los amplios permisos de “edición” que tenía el agente, este podía ser ajustado para cambiar campos financieros críticos. Tenable Research logró modificar el precio de un viaje a 0 dólares, lo que permitió ofrecer servicios gratuitos sin autorización.
“Los creadores de IA como Copilot Studio democratizan el desarrollo de herramientas poderosas, pero también la posibilidad de cometer fraudes, generando riesgos de seguridad serios”, afirmó Keren Katz, Directora de Grupo Senior de Producto e Investigación de Seguridad de IA en Tenable. “Este poder puede transformarse fácilmente en un riesgo tangible para la seguridad”.
La gobernanza y el control de la inteligencia artificial son esenciales para un uso seguro de la IA
Una conclusión clave es que muchos agentes de IA tienen permisos excesivos que no son evidentes para los no desarrolladores. Para mitigar esto, las empresas deben establecer una gobernanza sólida y aplicar protocolos de seguridad rigurosos antes de implementar estas herramientas.
Para prevenir filtraciones de datos, Tenable recomienda:
● Visibilidad proactiva: Identificar los sistemas y almacenes de datos con los que puede interactuar un agente antes de su implementación.
● Acceso de mínimo privilegio: Limitar las capacidades de modificación a lo estrictamente necesario para el uso principal del agente.
● Monitoreo continuo: Supervisar las acciones de los agentes para detectar indicios de filtraciones de datos o desviaciones de las operaciones esperadas.
Acerca de Tenable
Tenable es la empresa de gestión de exposición que identifica y cierra las brechas de ciberseguridad que afectan el valor, la reputación y la confianza empresarial. La plataforma de gestión de exposición, que incorpora tecnología de IA de Tenable, integra de manera fundamental la visibilidad, la información y la acción en temas de seguridad en toda la superficie de ataque, ofreciendo protección contra ataques dirigidos tanto en infraestructura de TI como en ambientes en la nube. Al proteger a las empresas contra la exposición de seguridad, Tenable reduce el riesgo para cerca de 44,000 clientes en todo el mundo. Para más información, visita es-la.tenable.com.
El artículo original se puede encontrar en Tenable Research descubre que la IA agéntica sin código puede ser utilizada para cometer fraude financiero y secuestro de flujos de trabajo de Revista Seguridad & Defensa.
Con Información de revistaseguridad.cl