El 76% de las empresas ya usa o planea usar IA agéntica en los próximos 12 meses, pero solo el 56% afirma comprender el riesgo de los agentes de IA. Lo dice EY en un informe que esta semana ha recorrido la prensa económica. La distancia entre adoptar y controlar ya no es un matiz: es la causa que Gartner señala para que más del 40% de los proyectos de agentes de IA se cancelen antes de 2027.
Por qué el riesgo de los agentes de IA es distinto al de un chatbot
Un chat que redacta un correo puede equivocarse: el daño es un texto. Un agente autónomo va un paso más allá: accede a tus aplicaciones, procesa datos, activa flujos de trabajo y ejecuta acciones (para dimensionar la exposición, véase si tu empresa está expuesta a los agentes de IA). Cuando falla, el error ya no es una frase incorrecta, sino una acción incorrecta: un correo enviado al destinatario equivocado, un registro alterado en el CRM, un pago aprobado sin revisión humana.
Ese salto —de generar contenido a ejecutar decisiones— multiplica la superficie de riesgo de los agentes de IA frente a un simple chatbot. Y los datos de esta semana demuestran que la mayoría de las empresas está corriendo esa carrera sin red de seguridad.
Tres señales de que esto está ardiendo esta semana
- Adopción desbocada, control rezagado. Según EY, el 76% de las corporaciones usa o prevé adoptar IA agéntica, pero solo el 56% entiende sus riesgos. Las áreas con mayor exposición —finanzas, RRHH, ventas y atención al cliente— son justo las que tratan datos sensibles o toman decisiones que afectan a personas.
- Los proyectos mueren por gobernanza, no por la tecnología. Gartner estima que más del 40% de los proyectos de IA agéntica se cancelarán antes de finales de 2027 por costes que se disparan, valor de negocio difuso y controles de riesgo insuficientes. No es que los modelos no funcionen: es que no se gobiernan.
- El riesgo de los agentes ya es una categoría de inversión. En solo seis semanas se han cerrado seis rondas que suman 218 millones de dólares en startups dedicadas a mitigar el riesgo de los agentes de IA. Cuando el capital persigue un problema, deja de ser teórico.
El debate ya no es si adoptar agentes de IA. La pregunta es cómo hacerlo con control — y esa es exactamente la parte que la mayoría de las empresas no tiene resuelta.
¿Quién responde cuando el agente se equivoca?
Un agente de IA no tiene personalidad jurídica: no se le puede despedir, demandar ni procesar. La responsabilidad recae siempre sobre una persona u organización, y los tribunales ya lo están dejando claro. El caso Air Canada es el referente: un tribunal de Columbia Británica condenó a la aerolínea a responder por la información errónea que publicó su propio chatbot en su web, pese a que la compañía alegó que el chat era un «ente legal independiente». El juez no lo aceptó: la empresa responde por todo lo que publica, venga de una página estática o de un agente.
En la práctica, la cadena de responsabilidad se reparte en cuatro niveles:
- Tu empresa — la responsabilidad primaria, porque decidiste desplegar el agente y controlas el entorno donde opera.
- El proveedor — solo si el fallo viene de un defecto de diseño conocido y no comunicado.
- El dueño de los datos — si los datos de entrenamiento produjeron resultados discriminatorios.
- La plataforma — si su infraestructura habilitó el daño sin las precauciones necesarias.
Traducción para la dirección: si tu agente causa un quebranto, la ley te busca a ti primero. No asumas que el proveedor del modelo cubrirá las pérdidas; tu contrato con él regula solo la relación interna.
El marco BAOSS: cinco pilares para gobernar tus agentes (profundizamos en la gobernanza de agentes de IA)
En BAOSS ayudamos a empresas a implantar agentes de IA sin que el entusiasmo se convierta en una factura inesperada. Nuestro marco parte de una premisa: el control se diseña antes del despliegue, no después del incidente. Estos son los cinco pilares.
1. Límites de decisión explícitos
Define qué puede decidir cada agente por sí mismo y qué requiere aprobación humana. Deloitte cifra en solo un 21% las empresas con un modelo de gobernanza maduro para agentes; la mayoría no tiene esos límites escritos. Un agente que aprueba pagos sin supervisión es una bomba de relojería.
2. Principio de mínimo privilegio
OWASP llama «agencia excesiva» a dar a un agente más permisos de los que su tarea requiere. Antes de conectar un agente a tu ERP o tu CRM, audita sus permisos: solo los datos y funciones imprescindibles para la tarea. Es la misma disciplina que aplicas a cualquier acceso privilegiado.
3. Observabilidad y trazabilidad real
El estudio de SAP LeanIX de este año es demoledor: el 98% de las empresas ha desplegado o planea agentes, pero solo el 17% tiene visibilidad sobre su rendimiento y conformidad. Sin un registro auditable de cada acción —qué hizo, con qué datos, bajo qué permisos— es imposible controlar, auditar ni mejorar. Y si no puedes auditar, tampoco puedes defenderte.
4. Responsable humano nombrado
Cada agente o flujo automatizado debe tener un responsable humano con nombre y apellido. No es burocracia: es la práctica que está consolidándose en las organizaciones que escalan con éxito, con estructuras transversales que unen IT, legal, cumplimiento y negocio para fijar políticas y gestionar escalados.
5. ROI y riesgo medidos desde el primer día
La lección del caso Salesforce, que esta semana facturó 88 millones de dólares con agentes de ventas que captaron leads inalcanzables, no fue añadir más tecnología: fue rediseñar el proceso y medirlo. Define indicadores de valor y de riesgo antes del piloto, y usa esos datos para decidir qué se escala y qué se retira.
Caso práctico: del piloto brillante al despliegue controlado
Imagina una empresa española de logística que implanta un agente para automatizar la conciliación de albaranes y facturas. En la demo, el agente reduce el trabajo manual un 80%. Sin gobernanza, el riesgo aparece al escalar: permisos excesivos sobre el ERP, decisiones de pago sin supervisión, y un registro que nadie puede auditar cuando llega una reclamación.
Con el marco anterior, el despliegue cambia: el agente solo lee los documentos imprescindibles, los pagos por encima de un umbral requieren aprobación humana, cada acción queda trazada en un registro consultable y un responsable de finanzas responde por el flujo. Resultado: la misma eficiencia del 80%, pero con la confianza de que un error no se convierte en un quebranto ni en un problema legal.
Resumen: riesgo frente a control
| Riesgo de los agentes | Control BAOSS |
|---|---|
| Decisiones autónomas sin límites | Límites de decisión y aprobación humana |
| Permisos excesivos sobre sistemas críticos | Principio de mínimo privilegio |
| Acciones no auditables ni trazables | Observabilidad y registros de auditoría |
| Nadie responde cuando falla | Responsable humano nombrado |
| Costes descontrolados sin ROI claro | Métricas de valor y riesgo desde el día uno |
Los agentes de IA son la mayor palanca de productividad que hemos visto en décadas, pero su éxito no lo decide la tecnología: lo decide cómo la gobiernas. Las empresas que cierren la brecha entre adopción y control serán las que conviertan esta ola en ventaja competitiva sostenible; las que no, engrosarán la estadística del 40% de proyectos cancelados.
¿Quieres implantar agentes de IA con control desde el primer día? Habla con nuestro equipo de consultoría y diseñemos juntos la gobernanza antes del despliegue.
Artículos relacionados: IA agéntica en la empresa: autonomía con gobernanza.