Esta página se muestra en inglés mientras se prepara una traducción revisada para su idioma.

Por qué tratamos la intención del agente como un contrato de gobernanza, no como un estado de ánimo.

Una perspectiva de Perspectis AI en lenguaje sencillo: dónde encaja la intención del agente en la IA empresarial (política, identidad, herramientas, observabilidad), no solo en las indicaciones, y cómo pensamos sobre los niveles de riesgo y la inyección de indicaciones.

7 min de lectura2026-04-15

Nota clara para líderes, responsables de riesgos y equipos de clientes (abril de 2026)

La respuesta breve

Los sistemas "agenciales" están en boca de todos: asistentes que planifican, utilizan herramientas y actúan con menos supervisión. Creemos que las ideas que impulsan este cambio merecen ser publicadas como perspectiva del sector, porque la cuestión fundamental no es si los modelos pueden transmitir confianza, sino si una organización puede justificar quién tenía autorización para hacer qué y por qué, cuando algo sale mal o cuando un regulador lo solicita.

Perspectis AI está diseñado para que la intención (qué trabajo se solicita y bajo qué autoridad) se transmita en contextos que faciliten la gobernanza: identidad, políticas, límites de las herramientas y observabilidad, no solo en las indicaciones del modelo. Así es como alineamos la energía de un "asistente útil" con el deber de diligencia en entornos profesionales.

Qué entendemos por “intención” en lenguaje sencillo

En el lenguaje cotidiano, la intención es simplemente el objetivo de una solicitud: “resumir este asunto”, “redactar un correo electrónico”, “crear una factura”, “realizar una verificación de cumplimiento”.

En una plataforma seria, la intención también es estructural:

Quién inició la tarea (una persona, un rol, un servicio).
Qué funcionalidad está autorizada a ejecutarse (por ejemplo, la ruta del Agente Personal frente a una tarea en segundo plano).
Qué tipo de acción está involucrada (leer registros, modificarlos, mover dinero o realizar trámites administrativos irreversibles).

Nada de esto debe inferirse únicamente mediante un lenguaje ingenioso en un chat. Lo consideramos información que la plataforma debe comprender y aplicar; por lo tanto, el modelo no es el único lugar donde existe la “intención”.

Por qué la intención no puede residir únicamente dentro del modelo

Un modelo de lenguaje extenso puede interpretar el lenguaje; sin embargo, no puede, por sí solo, ser el sistema de registro para permisos, confidencialidad o políticas de facturación.

**Diseñamos basándonos en un principio simple: la gobernanza reside en el plano de la aplicación y de los datos, no solo en las instrucciones para un modelo.

Esto significa:

Las verificaciones de políticas (funciones, roles, límites de la organización) deciden si una acción puede llevarse a cabo, incluso si el modelo “aprueba” una solicitud dañina o confusa.
Los registros de herramientas y acciones determinan qué capacidades existen y el nivel de riesgo de cada una; el modelo no puede inventar nuevos puntos de acceso privilegiados mediante texto persuasivo.
Las barreras de información y controles similares siguen aplicándose cuando un asistente recupera o resume material sensible, ya que las reglas de acceso no son negociables en lenguaje natural.

Esta postura es la forma en que reducimos toda una clase de modos de fallo donde una respuesta fluida parece autorizada, pero no lo es.

Cómo pensamos en el riesgo sin abrumar a nadie con jerga

Diferentes acciones conllevan diferentes riesgos en el mundo real. Agrupamos esta idea en una escala práctica que muchos equipos ya reconocen:

| Idea básica | Qué suele significar en las operaciones |

| --- | --- |

| Leer | Consultar información; aún requiere reglas de acceso y confidencialidad correctas, pero no supone un cambio duradero por sí solo. |

| Actuar (modificar datos) | Crear o actualizar registros; requiere una clara rendición de cuentas y, a menudo, un paso de confirmación en canales de mayor riesgo. |

| Transactuar (dinero o facturación) | Trabajo financiero o relacionado con facturas; requiere confirmación explícita y una autorización firme, ya que los errores se convierten en eventos comerciales y reputacionales. |

| Irreversible o destructivo | Operaciones administrativas o difíciles de deshacer merecen los controles más estrictos y, según nuestra filosofía de diseño, no son el tipo de trabajo que queremos que se ejecute silenciosamente desde los canales manos libres más riesgosos, como la voz, sin medidas de seguridad adicionales.

Además del riesgo por acción, también nos preocupan los patrones de intervención humana a nivel de producto: dónde debe aprobar un humano, dónde supervisa y puede intervenir, y dónde la autonomía está limitada intencionadamente. Esto no es burocracia por sí misma; es la forma en que las organizaciones reguladas y sensibles a la reputación operan con base en la evidencia.

Inyección de mensajes y comportamiento "emergente": qué es lo que realmente importa

La inyección de mensajes (intentos de secuestrar o confundir a un asistente con texto malicioso) es una preocupación conocida en la industria. Nos la tomamos en serio y reconocemos que ningún filtro de texto es una varita mágica.

Lo que nosotros destacamos ante nuestros clientes es la estrategia de defensa en profundidad:

La mitigación en el límite del modelo (detección, saneamiento, registro) reduce la cantidad de texto malicioso que llega al modelo sin cambios.
Los controles estrictos del software siguen decidiendo si se ejecutan las herramientas, se transfieren fondos o se devuelven datos restringidos, de modo que un modelo manipulado no se convierte en una anulación silenciosa de la política empresarial.

Esta combinación es la forma en que abordamos la seguridad sin pretender que el modelo sea infalible.

Comparación rápida (estructural, no una puntuación semanal de características)

**Esta tabla está diseñada para conversaciones con las partes interesadas: posicionamiento, no una simple comparación de requisitos. Los productos cambian rápidamente; la intención de la arquitectura cambia más lentamente.

| --- | ---: | ---: | ---: |

| Donde debe residir la intención | Identidad, políticas, registros, solicitudes estructuradas, observabilidad | Principalmente en la conversación | Lo que cada equipo implemente |

| Quién es responsable de la aplicación | La capa de plataforma que entregamos y desarrollamos | El producto del proveedor + opciones de administración del inquilino | Los equipos de ingeniería y seguridad de la organización que lo adopta |

| Trabajo irreversible y que implica grandes inversiones | Definición explícita de riesgos, confirmaciones, restricciones de canal en nuestra dirección | A menudo fuera del alcance o genérico | Totalmente personalizado: potente y con gran responsabilidad |

| Protocolo y herramientas del contexto del modelo | Consideramos las herramientas como capacidades gobernadas, no como superpoderes silenciosos | Varía según el producto | Depende completamente de la calidad de la implementación |

Por qué publicamos esta perspectiva

Nuestros clientes no solo compran una «función de IA». El verdadero compromiso es una operación sólida: continuidad, separación de funciones y una explicación coherente ante cualquier fallo. Invertimos en una comunicación pública y clara —junto con material técnico más profundo para profesionales de seguridad y arquitectura— porque nuestros clientes merecen claridad sobre qué es marketing y qué es estructural.

El Entorno de Demostración de IA de Perspectis existe, en parte, para hacer tangible esa diferencia: no se trata de una simple demostración, sino de un amplio catálogo de escenarios realistas donde la intención, la política y el flujo de trabajo se presentan como aspectos fundamentales.

Fuentes (externas, para contexto general de la industria)

Este documento está dirigido a lectores externos no técnicos. En nuestra documentación de seguridad y arquitectura para clientes y auditores se encuentran evaluaciones técnicas más detalladas de los controles, el estado de implementación y las evidencias.