Impacto de los Modelos de Lenguaje Grande (LLM) en la Inteligencia y el Combate

Desde el surgimiento de ChatGPT en 2023, los LLM (Modelos de Lenguaje Extenso) han tenido un impacto significativo en nuestras vidas. Esta tecnología de inteligencia artificial nos permite ahora obtener resúmenes de textos y páginas web, responder a preguntas de diversa índole y ya se ha introducido en los sectores de la defensa y la seguridad nacional.

LLM: inteligencia artificial generativa

Los LLM pertenecen a un conjunto de tecnologías conocidas como «inteligencia artificial generativa». Estos modelos de IA se entrenan utilizando vastas cantidades de datos (libros, artículos, textos) y son capaces de crear contenido original basado en consultas (o prompts). Aunque los LLM se enfocan en la generación de texto, existen otros tipos que producen audio, imágenes o video. Actualmente, ChatGPT de OpenAI es probablemente el más reconocido de los LLM, aunque también hay otros relevantes como Gemini de Google, Claude de Anthropic y DeepSeek.

Muchos ya han interactuado con ChatGPT o plataformas similares para hacer consultas o han observado cómo los buscadores utilizan IA para resumir información. Pero, ¿cuáles son las aplicaciones concretas de estos modelos de lenguaje?

Aunque los modelos de IA en los que se basan los LLM pueden entrenarse de diversas maneras, en general, las funciones que normalmente se esperan de un LLM son las siguientes:

• 
  Responder preguntas
  
• 
  Resumir documentos
  
• 
  Clasificar información
  
• 
  Traducir textos
  
• 
  Extraer elementos clave de grandes conjuntos de datos
  
• 
  Desarrollar software
  

Estas capacidades generales son las que han llevado a los LLM a ganar popularidad, ya que se pueden utilizar de diversas maneras para abordar una de las limitaciones humanas: extraer información esencial de documentos extensos en poco tiempo. Además, debido a su entrenamiento en miles de millones de palabras, los LLM pueden captar matices en los textos, lo que los hace óptimos para aplicaciones en defensa y seguridad nacional.

La problemática de los datos

Como mencionamos antes, los modelos de inteligencia artificial que forman la base de los LLM prevén el entrenamiento con grandes volúmenes de datos. En el caso de ChatGPT, esto incluye millones de libros e información de Internet. Sin embargo, en el ámbito militar, existen problemas específicos. Primero, a menudo no se cuenta con toda la información necesaria para entrenar un modelo. Segundo, y más crucial, gran parte de esta información puede estar clasificada como secreta.

Esto plantea un problema, ya que los LLM tienden a aprender de los datos proporcionados, lo que podría resultar en que una consulta subsiguiente genere una respuesta que incluya información clasificada accesible a personas no autorizadas. Esto es absolutamente inaceptable en contextos militares o de inteligencia.

Una solución potencial es implementar modelos sin memoria. El desafío (y, a la vez, ventaja) es que cada pregunta requiere que se provean los datos necesarios. El modelo utiliza esa información para generar respuestas o resúmenes, pero posteriormente «olvida» la información y no aprende de ella. Esto garantiza que la información secreta no forme parte del modelo de IA del LLM.

Por otro lado, la necesidad de ingresar datos cada vez podría ser problemática. Y, lo que es más grave, la calidad de las respuestas dependerá de la calidad de los datos proporcionados. Si estos datos son sesgados, incompletos o incorrectos, las respuestas reflejarán esos defectos.

Alternativamente, se pueden usar sistemas específicos, aislados y seguros, accesibles únicamente para personas con la debida autorización. Tales sistemas generalmente utilizan lo que se conoce como air-gapping, es decir, carecen de conexión con el exterior, especialmente a Internet. Esto previene intentos de hacking o accesos no autorizados.

Sin embargo, existe otro problema potencial: la manipulación maliciosa de datos. Como se ha mencionado, las respuestas serán tan fiables como los datos de origen. Si un actor malicioso introduce intencionadamente datos falsos o sesgados, las respuestas perderán su fiabilidad. O peor aún: podrían favorecer los intereses de ese actor. Aunque es un escenario poco probable debido a la seguridad de estos sistemas militares, si llegara a suceder representaría un verdadero problema, ya que es complicado hacer que un LLM olvide lo que ha aprendido. Algunos modelos poseen la capacidad de eliminar las últimas consultas y datos, pero investigaciones han demostrado que, aun así, en ciertos casos recuerdan detalles específicos.

Transparencia, alucinaciones y fiabilidad

En el ámbito militar y de seguridad nacional, es crucial que los sistemas que apoyan la toma de decisiones humanas sean completamente transparentes. Sin embargo, esto choca con el funcionamiento interno de los LLM.

Estos modelos son, en muchos sentidos, cajas negras que proporcionan respuestas, pero su proceso de razonamiento es indescifrable. Las redes neuronales que contienen son tan complejas que es imposible rastrear cómo se llega a una conclusión.

Para abordar este desafío, se han desarrollado LLM que utilizan modelos racionales, los cuales explican pasajes del razonamiento y las fuentes de información que han influido en la respuesta ofrecida. Muchos de estos modelos implementan lo que se denomina «diálogo interno», donde diferentes partes de las redes neuronales «debaten» entre sí para llegar a un consenso.

La capacidad de los LLM para facilitar el trabajo estratégico es real.

Una opción adicional es la metodología MoE (Mixture of Experts), donde varias redes neuronales o LLM especialistas “interactúan” y cada una aporta la información en la que es experta. Este sistema incluye un modelo adicional que analiza las preguntas y las dirige al experto más adecuado para cada caso.

Finalmente, está el problema de las alucinaciones. Se define como «alucinación» cuando un modelo de IA genera contenido irrelevante, inventado o inconsistente con la información provista. Esto sucede porque los LLM están diseñados para responder, y si no conocen la respuesta, tienden a inventar una. Es un área activa de investigación tratar que el LLM, como un ser humano, pueda decir «no lo sé».

En el ámbito militar, y especialmente en situaciones de combate u operaciones activas, es vital que la información utilizada para la toma de decisiones sea de origen transparente. Por ello, se requiere una trazabilidad más rigida en los modelos militares en comparación con los convencionales. Hasta que su fiabilidad sea probada en diversos escenarios, estos modelos serán considerados como una fuente adicional de información, un sistema de apoyo, y no un decisor primario.

Aplicaciones de un LLM en el ámbito militar

Como ocurre con toda nueva tecnología, se necesita tiempo para adaptarse y descubrir cómo aplicarla de la manera más efectiva. A pesar de que el enorme potencial de los LLM puede inspirar a los líderes y a los soldados sobre diversos usos, nos encontramos en un proceso de identificación de casos prácticos. Sin embargo, ya existen múltiples áreas de aplicación:

– Automatización de inteligencia militar. En el sector de la inteligencia, los analistas se enfrentan a una gran cantidad de información proveniente de comunicaciones, informes, sensores y resúmenes de vigilancia, lo que dificulta el procesamiento de datos relevantes. Con un LLM, esta tarea se simplifica considerablemente, basta con introducir los datos y formular preguntas, como «¿dónde se menciona ataques con drones en los documentos anteriores?».

– Resumir informes de combate para comandantes. Similar al caso anterior, donde grandes volúmenes de información deben ser analizados para determinar los próximos pasos y áreas de intervención.

– Chatbots para tareas administrativas o de formación. Gracias a la capacidad de los LLM para procesar el lenguaje, el uso de chatbots para tareas administrativas o logísticas es altamente beneficioso, liberando personal para tareas más estratégicas y ofreciendo un servicio constante. Lo mismo se puede aplicar a la capacitación de soldados y oficiales, dado que los LLM pueden crear exámenes, desarrollar cursos y realizar un seguimiento del progreso.

– Descubrimiento de patrones. Dentro de las capacidades analíticas que los LLM pueden ofrecer, se incluye la identificación de patrones. A partir de informes de movimientos de tropas o de equipo militar, el LLM puede detectar correlaciones que inicialmente podrían no ser evidentes. Lo mismo es aplicable al análisis de comunicaciones enemigas. Aunque estén cifradas y no sea posible acceder a su contenido, datos como los participantes, el tiempo, el origen y la duración de las interacciones pueden generar información valiosa.

– Simulaciones. Los LLM pueden crear simulaciones de combate a partir de descripciones textuales, desarrollar escenarios de entrenamiento narrativos o generar situaciones plausibles que pueden ser utilizadas para el entrenamiento de tropas y mandos.

– Análisis de sentimiento. Relacionado con los LLM, el NLP (procesamiento de lenguaje natural) tiene la capacidad de determinar el sentimiento de textos, comunicaciones o documentos (positivo, negativo, neutro, etc.). Esto permite llegar a conclusiones más matizadas sobre el contenido, más allá de lo que se expresa explícitamente.

Dado que muchos de estos usos pueden tener un impacto profundo en las operaciones militares, la mayoría de las fuerzas armadas a nivel global optan por adoptar un enfoque de sandboxing, donde los LLM se despliegan en un sistema separado, sin efectos reales inmediatos, para evaluar sus respuestas y el valor que aportan a los procedimientos existentes. Solo cuando se valida la fiabilidad y utilidad, se procede a una implementación efectiva, conectándose a otros sistema y redes de comunicación.

La guerra cognitiva

Además de los tradicionales tres dominios militares (tierra, mar y aire), se han integrado otros como el espacio, el ciberespacio y el dominio cognitivo. Los LLM generativos han sido utilizados para generar campañas de desinformación o moldear la opinión pública. Algunos actores estatales se han especializado en crear perturbaciones y modelar percepciones sobre temas específicos, buscando avanzar sus intereses.

En España, el MMCE y la FOCE son responsables de la defensa y explotación del ciberespacio. Los LLM desempeñarán un papel cada vez más relevante en estas entidades, a medida que se identifiquen campos de aplicación que se alineen con las necesidades de las Fuerzas Armadas Españolas.

La inteligencia artificial generativa está reduciendo significativamente los costos asociados a campañas de desinformación. Esto no se limita solamente a los LLM, sino que también incluye modelos que generan imágenes o videos. Dado que el objetivo de la guerra cognitiva es alterar la percepción de la realidad de los objetivos, la amplia capacidad de los LLM para entender múltiples idiomas, contextos y matices les permite automatizar la creación de mensajes (por ejemplo, en redes sociales) que guían la opinión en la dirección deseada o contrarrestan acciones similares de adversarios.

Los sistemas de IA de combate deben ser resilientes y robustos.

Sistemas resilientes

Implementar un sistema de IA en una zona de combate es diferente de hacerlo en un entorno empresarial. Muchas veces, la conectividad es escasa, por lo que estos sistemas deben operar de forma autónoma, utilizando modelos almacenados localmente. Además, los requisitos de la vida militar exigen que el equipo sea robusto, tanto a nivel estructural como frente a interferencias electromagnéticas.

Asimismo, a nivel software, es crucial que un sistema vital para el combate, del cual pueden depender vidas humanas, sea confiable y no presente fallos. Por esta razón, a menudo se implementan mecanismos de redundancia o failover, para que un dispositivo pueda asumir la función de otro en caso de fallo o destrucción. Además, dentro de un mismo dispositivo puede haber redundancias para asegurar que los resultados se obtengan cuando se necesiten.

Conclusión

La integración de tecnologías de inteligencia artificial en el ámbito militar plantea tanto retos como oportunidades. Es esencial adaptar los LLM al vocabulario militar para lograr eficiencia y asegurar la seguridad de los datos, así como la veracidad de las respuestas. Los dispositivos deben estar preparados para soportar condiciones adversas como la falta de comunicaciones, cortes de energía, entornos electromagnéticos hostiles o ataques cibernéticos. A pesar de estos desafíos, el potencial que los LLM ofrecen al ámbito militar es inmenso, y aún queda mucho por explorar.