Más allá del machine learning: ¿Está la IA lista para tomar sus propias decisiones?

En los últimos años, la inteligencia artificial o IA ha revolucionado el mundo a todos los niveles, y a día de hoy podemos decir que forma parte de nuestro vocabulario y de nuestra rutina.

Si durante 2023 y 2024 vivimos el boom de la IA Generativa con herramientas como Chat-GPT (para generación de texto y/o chat) o Sora (generación de video), 2025 será el año de la IA Agéntica (IAA).

¿Qué es la Inteligencia Artificial Agéntica?

Apoyándose en técnicas de IA Generativa (IAG), los sistemas de IA están empezando a adquirir la capacidad de crear planes y actuar de forma autónoma en el mundo digital, y se están empezando a popularizar como una nueva forma de hacer aplicaciones y servicios de Internet. Mientras que los sistemas de IAG necesitan un prompt proporcionado por un ser humano – esto es, instrucciones, preguntas o información de contexto para conseguir que el sistema de IA responda en la dirección que queremos – la IAA tiene un enfoque más autónomo y menos dirigido por el usuario, llevando la automatización de procesos al siguiente nivel. Estos sistemas son capaces de ejecutar acciones encadenadas– desde búsquedas en bases de datos o usar buscadores de internet, hasta reservas en servicios online– y tomar decisiones (incluyendo la evaluación de veracidad de la información recuperada, el análisis crítico, o su formateo para cumplir con criterios específicos o estándares) para alcanzar objetivos de forma autónoma y sin supervisión humana.

Un sistema de IAA se basa en la cooperación entre los llamados agentes, que utilizan modelos de IA Generativa para operar en entornos no estructurados, con alta incertidumbre, y cooperar de forma cohesiva para alcanzar un objetivo común. Actúan en función de los objetivos definidos, de la metodología de cooperación definida por el diseñador de la aplicación o sistema agéntico, y del grado de libertad que se les haya dato para organizarse de manera autónoma para optimizar los procesos.

¿Cómo funciona?

Los agentes inteligentes de IA aún se encuentran en una etapa muy temprana de desarrollo, aunque están madurando a gran velocidad. El que operen con un mayor grado de independencia se debe a los avances en IA Generativa, en particular, los llamados modelos grandes de lenguaje o LLM del tipo de GPT-4, de sistemas conversacionales del tipo ChatGPT, y de las técnicas de razonamiento (como la cadena de pensamiento o CoT), recuperación de información (como la recuperación con generación aumentada o RAG), y la organización del conocimiento (como los grafos de conocimiento o KG), todas ellas basadas en LLM

¿Qué capacidades tiene la IA Agéntica gracias a estos avances?

• Memoria persistente: Los agentes pueden recordar interacciones previas y utilizar esa información para mejorar su desempeño, ajustando sus respuestas y decisiones en función del historial del usuario. Esta capacidad les permite mantener la coherencia en sus acciones y optimizar su comportamiento a lo largo del tiempo.

Imagina que utilizas un asistente de IA para gestionar tus reuniones. Con memoria persistente, el agente recuerda tus horarios preferidos, los participantes habituales y tus preferencias sobre reuniones virtuales o presenciales. Así, la próxima vez que necesites agendar un encuentro, la IA te propondrá automáticamente las mejores opciones sin que tengas que repetir tus preferencias cada vez.

• Planificación autónoma: Diseñan y ejecutan estrategias a largo plazo en función de los objetivos definidos, sin prompts continuos. Gracias a modelos avanzados de toma de decisiones, pueden priorizar tareas y adaptarse a cambios en el entorno sin requerir instrucciones directas en cada paso.

Supón que quieres organizar un evento de networking en tu empresa. Una IA Agéntica podría encargarse de buscar la mejor fecha disponible, reservar espacios, coordinar con proveedores y enviar invitaciones sin necesidad de que supervises cada detalle. Si surge un imprevisto, como la cancelación de un ponente, la IA reestructuraría el evento de forma autónoma para minimizar el impacto.

• Comprensión contextual: Analizan datos en tiempo real para poder tomar decisiones data-driven. Esto les permite adaptarse a situaciones dinámicas, aprender de nuevos escenarios y responder de manera más efectiva a los cambios en su entorno.

Piensa en un servicio de atención al cliente impulsado por IA. Si un usuario contacta con dudas sobre un producto y menciona que ya ha intentado una solución previa, el agente no repetirá las mismas instrucciones, sino que adaptará su respuesta en función del contexto. Esto mejora la experiencia del usuario y optimiza la eficiencia del soporte.

5 aplicaciones y casos de uso de la IA Agéntica

• Desarrollo de software: La IAA se posiciona para transformar los asistentes de programación, también llamados copilotos, en herramientas de desarrollo de software más inteligentes y capaces de escribir fragmentos de código más grandes y más complejos.
• Industria y automatización: Los robots autónomos que funcionen con agentes inteligentes optimizarán los procesos productivos en fábricas y almacenes, mejorando la eficiencia operativa y suponiendo una gran reducción de costes. En la gestión inteligente de flotas, la IA Agéntica puede tomar decisiones en tiempo real y basadas en datos para optimizar rutas y reducir tiempos de entrega. Además, supone un gran avance en el mantenimiento predictivo, ya que analiza grandes volúmenes de datos para anticipar fallos, por ejemplo, en sensores, y programar reparaciones antes de que ocurran problemas críticos.
• Salud: La IAA está transformando la atención al paciente, mejorando la experiencia final del usuario gracias a la automatización de tareas, el análisis de historiales médicos y recomendaciones de tratamientos personalizados. También puede emplearse en el diagnóstico automatizado, puede interpretar imágenes médicas y datos clínicos para detectar patologías con alta precisión.
• Ciberseguridad: Los agentes de IA pueden utilizarse para detectar y responder amenazas de manera proactiva. Monitorean redes en tiempo real, detectan patrones sospechosos y responden a los ataques antes de que puedan causar daños. Su capacidad de aprendizaje continuo permite que los agentes evolucionen frente a nuevas técnicas de ciberataques, adaptándose de manera más eficaz que los sistemas tradicionales.
• Videojuegos y entretenimiento: El desarrollo de NPCs (personajes no jugables) se ve enormemente beneficiado por la IAA, ya que son capaces de adaptarse al comportamiento del jugador y responder en base a sus acciones, ofreciendo experiencias más realistas e inmersivas. La interacción se vuelve mucho más dinámica.

Desafíos y retos a los que haremos frente en el desarrollo de la IA Agéntica

A pesar de su enorme potencial, el uso de IA Agéntica (IAA) presenta desafíos significativos que deben abordarse para garantizar su desarrollo seguro y responsable. El hecho de que, en este nuevo paradigma de aplicaciones de software inteligentes, el proceso o servicio sea proporcionado por un equipo de agentes inteligentes que cooperan entre sí con grados variables de autonomía, plantea la cuestión de qué nivel de autonomía es aceptable desde el punto de vista de la seguridad y de la responsabilidad. Por ello, el crecimiento acelerado de su uso para crear una nueva capa de aplicaciones y servicios en Internet plantea cuestiones clave en términos de gobernanza (incluyendo ética y privacidad), fiabilidad y control, lo que requiere una supervisión adecuada y un marco regulador que permita su integración responsable en la sociedad.

1. La IA Agéntica se está expandiendo sin gobernanza ni supervisión, lo que puede provocar grandes problemas a largo plazo, como la generación de sesgos no detectados o el mal uso de esta tecnología en sectores críticos.
2. Al estar aún en las etapas iniciales de desarrollo, la IAA toma decisiones autónomas, que pueden no ser confiables. Estos sistemas pueden cometer errores, decidir sobre cuestiones para las que no han sido validados, en decisiones que no se les han delegado, interpretar datos de manera incorrecta o fallar en situaciones inesperadas. La falta de madurez tecnológica también dificulta su integración en sectores que requieren altos niveles de precisión.
3. A medida que la IAA avanza, también lo hacen las amenazas asociadas a su uso malintencionado. Se podrían producir ciberataques impulsados por la IAA que posibiliten el malware inteligente. A diferencia del malware tradicional, estos sistemas podrían aprender de sus ataques anteriores, modificar su código para evitar ser detectados y seleccionar objetivos de manera estratégica, aumentando exponencialmente su capacidad de daño.

Explorando el futuro de la IA en ARQUIMEA

ARQUIMEA, desde su centro de investigación ubicado en Canarias, tiene un orbital de Inteligencia Artificial con el objetivo de dar respuesta a los grandes retos que enfrentamos como sociedad. Algunas de nuestras líneas de investigación son: la aceleración en la búsqueda y diseño de nuevos fármacos, la autonomía segura de agentes inteligentes y de plataformas robóticas y drones, o la ejecución de sistemas de IA a bordo de satélites para la observación de la tierra y la seguridad en el espacio.

Además, todos los proyectos de ARQUIMEA Research Center pertenecen al proyecto QCIRCLE, financiado por la Unión Europea y que tiene como objetivo la creación de un centro de excelencia científica en España.

«Financiado por la Unión Europea. No obstante, los puntos de vista y opiniones expresados son responsabilidad exclusiva del autor y no reflejan necesariamente los de la Unión Europea y ni la Unión Europea ni la autoridad que concede la subvención pueden considerarse responsables de los mismos.»