Industria, gobernanza y seguridad
Cuando un agente de IA actúa en nombre de su empresa.
Los agentes de inteligencia artificial pueden ayudar a realizar tareas, como consultar un pedido o preparar un correo. Para usarlos con confianza, conviene definir qué pueden hacer por su cuenta y qué decisiones necesitan la aprobación de una persona.
Un agente de inteligencia artificial es un programa que recibe una tarea y puede elegir algunos de los pasos para realizarla con las herramientas que tiene disponibles. Si cuenta con los permisos necesarios, puede consultar un pedido, preparar un correo o actualizar una agenda, sin que una persona le indique cada paso. Su alcance depende de cómo se haya preparado y de los accesos que reciba.
Podemos imaginarlo como un asistente digital al que encargamos una gestión. Como ocurre cuando alguien empieza a trabajar en una oficina, conviene explicarle qué esperamos y hasta dónde puede actuar por su cuenta. El programa, además, puede interpretar mal una solicitud, por lo que sus resultados necesitan revisión.
Pensemos en una empresa que quiere responder más rápido a sus clientes. Le encarga al agente revisar el estado de los pedidos y preparar los mensajes de respuesta. Un día, un cliente solicita cambiar la dirección de entrega. El agente encuentra el pedido y sabe cómo modificarlo. En ese momento aparece una decisión importante: ¿puede hacerlo directamente o debe pedir autorización?
Tener acceso al programa de pedidos no resuelve esa pregunta. La empresa necesita acordar qué cambios permite y cómo comprueba que los solicita la persona correcta. Puede empezar dejando que el agente consulte información y prepare respuestas, mientras un empleado confirma los cambios. Más adelante, con la experiencia de las pruebas, podrá decidir si le concede mayor libertad.
Esta inquietud ya ocupa a las autoridades. El 8 de octubre, la autoridad británica de protección de datos, conocida como ICO, abrió una consulta para recoger opiniones sobre los agentes de IA. Entre los temas están la protección de la información y la responsabilidad por las acciones de estos programas. Recibe aportes hasta el 20 de noviembre de 2026, que servirán para preparar sus futuras guías. [1]
Aunque la consulta se desarrolla en el Reino Unido, plantea preguntas útiles para una empresa colombiana. Volvamos al pedido: conocer su estado puede ser suficiente para responder al cliente. Para esa tarea, el agente no necesita poder cambiar precios ni consultar los datos de todos los empleados. Sus permisos deberían corresponder al trabajo que se le ha encargado.
El correo del cliente también merece atención. Un mensaje puede contener instrucciones diseñadas para engañar al agente, como pedirle que envíe información a una dirección distinta. Sería parecido a dejar que una nota entregada por un visitante cambiara las reglas de la oficina. La consulta británica examina cómo evitar que instrucciones de este tipo lleven a los agentes a realizar acciones indebidas. [2]
Por eso, decirle al programa que tenga cuidado debe ir acompañado de límites reales. Los permisos funcionan como las llaves de una oficina: cada una debería abrir solo lo necesario para realizar el trabajo. Si el agente únicamente consulta pedidos, se le puede dar una conexión que permita leerlos. Para modificarlos hará falta otro permiso, con condiciones claras.
Cuando corresponda pedir autorización, la persona que revisa debe entender qué está aprobando. En el cambio de entrega, por ejemplo, debería ver el pedido y las direcciones anterior y nueva antes de confirmar. Así podrá detectar una confusión. Una pantalla que solo diga "aprobar" deja al revisor sin información suficiente para decidir.
También conviene poder detener al agente si algo sale mal. La empresa necesita saber quién puede suspender su acceso y cómo hacerlo, del mismo modo que sabe a quién acudir cuando un empleado detecta un error en un pedido.
Después será necesario revisar qué ocurrió. Un registro de lo que hizo el agente cumple una función parecida a la de anotar una gestión para que otro compañero pueda continuarla o corregirla. OWASP, una organización que publica guías de seguridad informática, propone que las empresas puedan conocer los accesos y las acciones de sus agentes y controlar su funcionamiento. Esa propuesta es una referencia para mejorar los programas, no una norma colombiana. [3]
Con esos acuerdos definidos, las pruebas pueden mostrar si el agente está listo para el trabajo cotidiano. Conviene observar qué hace cuando faltan datos, hay dos pedidos parecidos o falla la conexión. El 20 de octubre, OWASP publicó un manual para evaluar la seguridad de sistemas de IA, incluidos los agentes. [4] Para ACIA, probar también esas dificultades, con datos de prueba y en un espacio autorizado, ayuda a decidir qué tareas se pueden delegar.
El resultado habrá que medirlo en el trabajo completo. Importa cuánto tarda en responder al cliente, pero también cuánto tiempo dedica el equipo a revisar y corregir. Si el agente agiliza las consultas y reduce los errores, la empresa tendrá una razón concreta para seguir utilizándolo. Si añade trabajo, hará falta ajustar la tarea o los permisos antes de ampliar su uso.
En ACIA queremos conocer su punto de vista. Responda al correo de esta edición con una tarea de su trabajo o de su vida diaria que encargaría a un agente de IA y una decisión que preferiría revisar personalmente. Puede usar un ejemplo sencillo, sin compartir contraseñas, datos personales ni información confidencial.
Fuentes y lecturas
[1] ICO. Agentic AI call for evidence. Apertura 8 de octubre de 2026. Cierre 20 de noviembre de 2026.
[3] OWASP. Agent Control Standard. Publicado el 1 de septiembre de 2026.
[4] OWASP. GenAI Red Teaming Manual Version 1.0. Publicado el 20 de octubre de 2026.
Información verificada al 27 de octubre de 2026. El ejemplo de la empresa y sus pedidos es hipotético. Las recomendaciones editoriales de ACIA se distinguen de las referencias regulatorias y técnicas citadas.
