El ámbito de la ciberseguridad está atravesando una transformación significativa debido a la creciente integración de la inteligencia artificial (IA) en las operaciones de seguridad. Se anticipa que, para 2028, las herramientas de evaluación de seguridad impulsadas por IA sobrepasarán en número a los evaluadores de penetración humanos.
Este cambio representa una evolución crucial en cómo se abordan los retos de la ciberseguridad. La IA no es simplemente otra herramienta; se está convirtiendo en un elemento esencial para gestionar vulnerabilidades complejas y prever amenazas avanzadas. Frente a ciberataques cada vez más sofisticados, las pruebas de seguridad potenciadas por IA serán fundamentales para mantener sólidas las defensas.
Cybersecurity AI (CAI) es un marco de trabajo ligero y de código abierto que permite a profesionales de seguridad desarrollar e implementar automatizaciones tanto ofensivas como defensivas basadas en IA. Este marco se ha convertido en el estándar para la ciberseguridad asistida por IA, siendo utilizado por miles de usuarios individuales y numerosas organizaciones. Ya seas investigador de seguridad, hacker ético, profesional de TI o parte de una entidad que busca reforzar su seguridad, CAI ofrece los elementos esenciales para crear agentes de IA especializados en la mitigación, descubrimiento y explotación de vulnerabilidades, así como en la evaluación de la seguridad.
Este proyecto se apoya en esfuerzos previos y tiene como objetivo democratizar el acceso a herramientas avanzadas de IA, lo cual es esencial para la comunidad de ciberseguridad. Busca preparar a investigadores de seguridad, hackers éticos y organizaciones para desarrollar e implementar potentes herramientas de seguridad basadas en IA. Al ofrecer estas capacidades al público, se pretende equilibrar las condiciones y asegurar que la tecnología de IA de vanguardia no quede restringida únicamente a empresas privadas con gran capital o actores estatales.
Los programas de recompensas por errores (Bug Bounty) se han consolidado como una parte fundamental de la ciberseguridad moderna, ofreciendo un mecanismo crucial para que las organizaciones detecten y corrijan vulnerabilidades en sus sistemas antes de ser explotadas. Estos programas han demostrado ser altamente eficaces para proteger tanto la infraestructura pública como la privada, permitiendo la identificación de vulnerabilidades críticas que de otro modo podrían haber pasado desapercibidas.
CAI ha sido diseñado específicamente para potenciar estos esfuerzos, ofreciendo un marco ergonómico para la creación de agentes de IA especializados que pueden ayudar en diferentes aspectos del proceso de recompensas por errores, desde la recolección inicial de datos hasta la validación y reporte de vulnerabilidades. El marco busca complementar la intervención humana con capacidades de IA, facilitando a los investigadores un trabajo más eficiente y exhaustivo en su misión de aumentar la seguridad de los sistemas digitales.
CAI se fundamenta en los siguientes principios esenciales:
- Un marco de IA centrado en la ciberseguridad: CAI está especialmente diseñado para casos de uso en ciberseguridad, con el objetivo de automatizar, ya sea en parte o en su totalidad, las tareas de seguridad ofensivas y defensivas.
- Totalmente abierto y gratuito para investigación: CAI es de código abierto y no tiene costo para fines de investigación. Nuestra meta es democratizar el acceso a la IA y a la ciberseguridad. Si se necesita para uso profesional o comercial, incluyendo implementaciones locales, soporte técnico especializado y extensiones personalizadas, póngase en contacto con nosotros para obtener una licencia.
- Ligero: CAI ha sido diseñado para ser rápido y fácil de operar.
- Diseño modular y orientado a agentes: CAI utiliza agentes y patrones, lo que proporciona flexibilidad y escalabilidad. Se pueden añadir fácilmente los agentes y patrones más adecuados para cada caso de ciberseguridad.
- Integración de herramientas: CAI puede integrar herramientas ya existentes y permite al usuario añadir sus propias herramientas con su lógica correspondiente.
- Registro y seguimiento integrados: emplea Phoenix, la herramienta de registro y seguimiento de código abierto para LLM, que ofrece al usuario un rastreo detallado de los agentes y su ejecución.
- Compatibilidad con múltiples modelos: LiteLLM soporta y optimiza más de 300 modelos. Los proveedores más destacados son:
- Anthropic: Claude 3.7, Claude 3.5, Claude 3, Claude 3 Opus
- OpenAI: O1, O1 Mini, O3 Mini, GPT-4o, GPT-4.5 Preview
- DeepSeek: DeepSeek V3, DeepSeek R1
- Ollama: Qwen2.5 72B, Qwen2.5 14B, entre otros.
Alternativas de código cerrado
La aplicación de la IA en la ciberseguridad es un campo fundamental. Sin embargo, muchos grupos la abordan erróneamente mediante métodos de código cerrado con fines puramente comerciales, empleando técnicas similares y basándose en modelos existentes que son de propiedad cerrada (a menudo de terceros).
Este enfoque no solo desperdicia valiosos recursos de ingeniería, sino que también resulta en una ineficacia económica y genera esfuerzos redundantes, ya que a menudo termina reinventando la rueda. A continuación, se presentan algunas iniciativas de código cerrado que utilizan agentes de IA en el ámbito de la ciberseguridad:
Fuente:
CAI
Con Información de blog.segu-info.com.ar