Agent Harness: cómo funcionan los agentes de IA y por qué la seguridad debe ser determinista

La inteligencia artificial está atravesando una transformación importante: estamos pasando de sistemas capaces de responder preguntas a sistemas capaces de ejecutar acciones.

Es el paso de la IA generativa a la Agentic AI, un paradigma en el que los agentes pueden interactuar con aplicaciones, consultar información, utilizar herramientas y ejecutar tareas incluso complejas.

Pero ¿qué convierte a un Large Language Model (LLM) en un verdadero agente de IA? Y sobre todo, ¿cómo podemos garantizar que estos sistemas operen respetando las reglas y los permisos de la empresa?

La respuesta pasa por un concepto fundamental: el Agent Harness.

¿Qué es un Agent Harness?

Un agente de IA no es simplemente un modelo de lenguaje al que hemos asignado algunas instrucciones.

Es un sistema de software compuesto por varios elementos que trabajan juntos para permitir que el modelo interprete solicitudes, tome decisiones operativas y utilice herramientas.

El conjunto de componentes que orquestan y gobiernan este funcionamiento se denomina habitualmente Agent Harness.

Podemos identificar cinco elementos fundamentales:

1. Modelo (LLM): el motor de inteligencia artificial que interpreta el contexto, procesa las solicitudes e identifica las acciones a emprender.
2. Instrucciones: definen el rol del agente, los objetivos, el comportamiento esperado y las modalidades de interacción.
3. Conocimiento y contexto: la información puesta a disposición del agente para desempeñar sus tareas.
4. Herramientas (Tools): permiten al agente interactuar con sistemas externos, aplicaciones, API y flujos de trabajo.
5. Controles y seguridad: gobiernan las operaciones permitidas, los permisos y las autorizaciones necesarias.

El modelo representa, por lo tanto, solo una parte de la arquitectura. La capacidad de un agente de producir valor depende también de las herramientas disponibles y de las reglas que gobiernan su uso.

Las herramientas: cuando la IA empieza a actuar

La diferencia más significativa entre un chatbot tradicional y un agente de IA operativo tiene que ver con la posibilidad de utilizar herramientas.

A través de estas herramientas, un agente puede:

• Consultar información presente en un CRM o en un ERP.
• Leer y generar documentos, informes y presentaciones.
• Realizar búsquedas en la web.
• Interactuar con aplicaciones a través de API.
• Conectarse a servicios externos mediante MCP (Model Context Protocol).
• Activar flujos de automatización, por ejemplo a través de n8n.

Una herramienta puede ser relativamente simple, como una función que recupera una información, o muy compleja, como un flujo de trabajo que involucra varios sistemas de la empresa.

Pensemos en un agente encargado de apoyar a la oficina administrativa. Podría recuperar una factura, compararla con un pedido de compra, verificar algunas informaciones y preparar una propuesta de registro.

La verdadera innovación no es solo la capacidad del modelo de comprender la solicitud, sino la posibilidad de conectar esa capacidad a los procesos operativos de la empresa. Es el terreno en el que trabajamos con la integración de sistemas y las automatizaciones con agentes de IA.

El conocimiento de la empresa no coincide con la base de datos

Un equívoco frecuente tiene que ver con el concepto de conocimiento del agente.

Cuando hablamos de conocimiento, no nos referimos necesariamente a toda la base de datos de la empresa.

Un agente puede acceder a la información a través de interfaces y herramientas específicas, que exponen solo los datos necesarios y permitidos.

Por ejemplo, un empleado podría utilizar un agente de IA para consultar su propia nómina. Esto no significa que el mismo agente deba poder acceder a las nóminas de los demás empleados.

La distinción es fundamental. El acceso a los datos debe gobernarse con sistemas de autenticación, autorización y separación de privilegios, independientemente de las capacidades del modelo de lenguaje.

Una integración a través de API o MCP puede exponer determinadas funcionalidades, pero debe respetar siempre las autorizaciones previstas por los sistemas de la empresa.

Conectar un agente a un sistema no significa concederle acceso indiscriminado a toda la información que contiene.

IA probabilística y software determinista: el verdadero equilibrio

Llegamos al aspecto probablemente más importante de toda la arquitectura.

Los Large Language Models son sistemas probabilísticos. Producen respuestas y seleccionan acciones basándose en el contexto, las instrucciones y los mecanismos aprendidos durante el entrenamiento.

Esta característica los hace extremadamente flexibles, pero también introduce comportamientos que no pueden garantizarse simplemente a través de un prompt.

Podemos pedir a un agente que no acceda a determinada información o que no ejecute operaciones específicas. Pero ¿podemos considerar estas instrucciones una garantía de seguridad?

No.

Las instrucciones pueden interpretarse de forma inesperada o manipularse mediante técnicas de prompt injection. Por este motivo, los controles críticos deben implementarse a nivel de software, mediante mecanismos deterministas.

En otras palabras:

La IA puede decidir qué operación proponer. El software debe establecer si esa operación está realmente permitida.

Si un agente dispone exclusivamente de permisos de lectura, no debe poder modificar un dato, independientemente de las instrucciones recibidas.

Si una operación determinada requiere la aprobación de un responsable, el sistema debe impedir su ejecución hasta obtener esa autorización.

No debe ser el modelo de lenguaje quien decida si respetar o no esta regla. Es el mismo principio que guía el agentic engineering: herramientas, guardrails y ownership, no un modelo con acceso indiscriminado.

Human-in-the-Loop: mantener el control sobre las operaciones críticas

Otro principio fundamental en el diseño de agentes de IA para empresas es el de Human-in-the-Loop.

No todas las operaciones deben ser necesariamente del todo autónomas. Algunas tareas pueden ejecutarse sin intervención humana, mientras que otras requieren una verificación o una aprobación.

Pensemos, por ejemplo, en tres niveles de operatividad:

Nivel 1 · Consulta

El agente puede leer información y producir análisis, respetando los permisos del usuario.

Nivel 2 · Ejecución controlada

El agente puede actualizar datos o iniciar procesos dentro de límites y condiciones preestablecidos.

Nivel 3 · Aprobación obligatoria

El agente puede preparar una operación, pero su ejecución requiere la autorización explícita de una persona.

Un agente administrativo podría, por lo tanto, analizar una factura y proponer su contabilización, dejando sin embargo la confirmación definitiva a un operador autorizado.

Este enfoque permite aprovechar las capacidades de la inteligencia artificial sin renunciar al control sobre los procesos más sensibles.

Por qué el Agent Harness es estratégico para las empresas

En la adopción de la inteligencia artificial, se dedica mucha atención a la elección del modelo: qué LLM utilizar, cuánto rinde o cuál es el coste por token.

Son aspectos importantes, pero no suficientes.

En un contexto de empresa, el valor de un agente depende sobre todo de la calidad de su integración con los sistemas existentes, de la fiabilidad de las herramientas y de la capacidad de gobernar su comportamiento.

Una arquitectura diseñada correctamente debe considerar:

• Gestión de las identidades y de los permisos.
• Separación entre lectura y escritura.
• Validación de las entradas y de las operaciones.
• Aprobaciones humanas cuando sean necesarias.
• Trazabilidad de las acciones ejecutadas.
• Monitorización de los errores y de los comportamientos inesperados.

Son elementos esenciales para transformar un prototipo interesante en una solución realmente utilizable en los procesos de la empresa.

El futuro de los agentes de IA pasa por el control, no solo por la autonomía

La próxima evolución de la inteligencia artificial en las empresas no tendrá que ver solo con modelos cada vez más potentes.

Tendrá que ver sobre todo con la capacidad de construir sistemas en los que la inteligencia probabilística y el software determinista puedan trabajar juntos.

Por un lado, la flexibilidad de los modelos de lenguaje para comprender solicitudes, interpretar información e identificar soluciones. Por otro, la previsibilidad de los sistemas de software para garantizar permisos, restricciones operativas y controles.

Un agente de IA no debe ser solo inteligente. Debe ser fiable, gobernable y seguro.

Es sobre este equilibrio que se construye el paso de los experimentos de IA a las automatizaciones de empresa realmente operativas.

---

Del workshop sobre Agentes de IA para pymes

Estos temas se abordaron durante nuestro workshop dedicado a los Agentes de IA para pymes, organizado en colaboración con la Cámara de Comercio de Milano Monza Brianza Lodi, en el Palazzo Giureconsulti de Milán.

En el vídeo profundizamos en el funcionamiento del Agent Harness, el papel de las herramientas, la integración con API y MCP y la importancia de los controles deterministas en la seguridad de los agentes de IA.

Mira el vídeo y descubre cómo funciona un agente de IA.

Syncronika: AI, Automation y Digital Transformation

En Syncronika diseñamos y desarrollamos soluciones de inteligencia artificial, automatización e integración de software para ayudar a las empresas a hacer sus procesos más eficientes, inteligentes y controlables.

Partimos de los procesos reales y de las autorizaciones existentes, conectamos los sistemas con integración y API e introducimos agentes de IA y automatizaciones solo donde el comportamiento puede medirse y gobernarse.

Si quiere entender dónde un agente de IA puede generar valor en sus procesos, hablemos. La primera pregunta no es qué modelo elegir. Es qué operaciones quiere permitir realmente, y con qué controles.