Los agentes de inteligencia artificial pueden ejecutar tareas en nombre de personas y empresas. El desafío es determinar qué les fue permitido, cómo verificar esa delegación y cuándo deben detenerse para pedir una nueva confirmación.
Buscar un seguro no equivale a contratarlo
Una persona le pide a su agente de IA que encuentre un seguro más conveniente. Para cumplir la tarea, el sistema compara coberturas, consulta precios y selecciona una alternativa.
Hasta ahí, el encargo parece claro. Pero ¿puede compartir antecedentes personales para solicitar una cotización? ¿Aceptar condiciones? ¿Contratar la póliza y autorizar el pago?
Una instrucción expresa un objetivo, aunque no necesariamente resuelve cada decisión necesaria para alcanzarlo. Cuando un agente puede utilizar herramientas y ejecutar operaciones, esa diferencia adquiere consecuencias concretas.
Para la empresa que recibe la solicitud, ya no basta con entender qué se está pidiendo. También necesita establecer quién está detrás y qué facultades tiene el agente para actuar.
Dos formas de llegar a una misma operación
Las organizaciones pueden encontrarse con agentes desde dos direcciones.
La primera surge cuando la propia empresa despliega un agente para atender clientes o realizar tareas internas. Debe definir qué información puede consultar, qué cambios puede ejecutar y en qué situaciones necesita aprobación humana.
La segunda aparece cuando un cliente utiliza su propio agente para relacionarse con la empresa. En ese escenario, la institución recibe una solicitud de un sistema externo que afirma actuar por alguien.
Aquí se encuentran dos decisiones distintas: lo que el usuario permitió hacer y lo que la empresa está dispuesta a aceptar como evidencia de esa autorización.
Un cliente podría encargar una operación a su agente, pero eso no significa que cualquier canal o mecanismo utilizado sea reconocido por la organización. La delegación necesita ser verificable y compatible con sus controles.
Identidad y autorización cumplen funciones diferentes
Verificar la identidad permite establecer quién participa en un proceso. La autorización define qué puede hacerse en su nombre.
Verificar biométricamente a una persona no autoriza automáticamente todas las acciones posteriores de su agente.
La comprobación de identidad puede formar parte del proceso, pero debe vincularse con una decisión específica. En el ejemplo del seguro, el usuario podría permitir que su agente solicite cotizaciones durante siete días, pero reservarse la aceptación final de la póliza.
También importa la facultad de quien delega. Un trabajador puede estar correctamente identificado y no tener atribuciones para contratar servicios en nombre de su empresa.
La cadena de confianza requiere conectar a la persona, sus facultades, el agente y la operación que pretende realizar.
Permisos que puedan aplicarse durante la ejecución
Una autorización debe poder traducirse en controles concretos: acciones permitidas, recursos disponibles, vigencia y condiciones que requieren una nueva aprobación.
El agente del ejemplo podría consultar ofertas, pero no acceder a otros productos del cliente ni contratar una cobertura superior al presupuesto establecido.
Esos límites deben aplicarse en las herramientas que ejecutan las acciones. Escribir una restricción en una conversación resulta insuficiente si el sistema conserva accesos más amplios.
La revocación también necesita un efecto operativo. Retirar el permiso debería impedir nuevas actuaciones, aunque no necesariamente revierta una compra, un envío de información o una modificación ya realizada.
Una discusión que ya tiene propuestas técnicas
El Agent Payments Protocol —AP2—, impulsado por Google, aborda la autorización de pagos con participación de agentes mediante mecanismos para registrar y verificar instrucciones y aprobaciones.
Microsoft, por su parte, plantea aplicar el principio de privilegio mínimo: proporcionar a los agentes únicamente los accesos necesarios para sus tareas, mantener trazabilidad y establecer controles adicionales para acciones sensibles.
Estas iniciativas muestran que la delegación verificable forma parte de la discusión tecnológica actual. Todavía es necesario evaluar qué mecanismos acepta cada organización y cómo se integran con sus procesos.
Su existencia tampoco determina por sí sola la validez jurídica de cualquier operación. Las condiciones del servicio, el tipo de transacción y las reglas aplicables siguen siendo relevantes.
Equivocarse y exceder un permiso son problemas distintos
Un agente puede ejecutar incorrectamente una tarea autorizada: seleccionar una póliza que no cumple las condiciones solicitadas, por ejemplo. La respuesta puede requerir revisión, corrección o intervención humana.
Otra situación es intentar una acción fuera del permiso recibido, como contratar cuando solo podía cotizar. En ese caso, el sistema debería bloquear la operación y solicitar la aprobación correspondiente.
Distinguir ambos escenarios ayuda a diseñar controles útiles. También exige conservar evidencia suficiente para reconstruir qué se pidió, qué autorización estaba vigente, qué acción se intentó y cuál fue el resultado.
Para operaciones de mayor impacto, puede ser necesario que la persona confirme las condiciones concretas antes de ejecutar.
La pregunta que las empresas necesitan resolver
A medida que los agentes participan en más procesos, las organizaciones deberán decidir qué solicitudes pueden aceptar y con qué evidencia.
Reconocer a un usuario será una parte de esa evaluación. También deberán comprender quién actúa por él, qué facultades recibió y si la operación se mantiene dentro de lo permitido.
¿Tu organización está evaluando operaciones con agentes de IA? Contáctanos para conversar sobre los desafíos de identidad y autorización que necesita resolver.
Autentikar — Ecosistema de identidad digital y consentimiento
