Cero riesgo no es el trabajo: la guía del CISO de Anthropic para la IA agéntica

Anthropic publicó una guía práctica para equipos de seguridad titulada «Cero riesgo no es el trabajo: la guía del CISO para la IA agéntica», firmada por su CISO adjunto. El texto parte de una premisa incómoda para muchos comités de riesgo: en la era de los agentes autónomos, la responsabilidad del líder de seguridad no es lograr riesgo cero, sino hacer que el riesgo agéntico sea legible y acotado. La aceptación de riesgo calibrada y documentada, dice la compañía, es el estándar realista para un despliegue responsable.

¿Cuáles son las cuatro preguntas antes de autorizar un agente?

La guía se estructura en torno a cuatro preguntas concretas que un equipo debería responder antes de dar luz verde a cualquier agente:

• Fuentes: ¿qué contenido ingiere el agente y cuán confiable es ese contenido?
• Acciones: ¿qué acciones tiene permitido ejecutar?
• Radio de impacto: ¿cuál sería el «blast radius» de una mala configuración o una falla?
• Observabilidad: ¿es su comportamiento suficientemente visible una vez desplegado?

«Nuestro trabajo no es alcanzar el riesgo cero. Nuestro trabajo es hacer que el riesgo agéntico sea legible y acotado», resume la guía.

¿Cómo recomienda Anthropic desplegar los agentes?

La postura por defecto que describe la compañía es un despliegue a ritmo del administrador: habilitar a un grupo pequeño, observar la telemetría y recién entonces ampliar el acceso. A eso suma el principio de menor agencia: otorgar la capacidad más estrecha que todavía permita completar la tarea, en lugar de conceder permisos amplios «por si acaso».

Es una traducción directa del clásico principio de menor privilegio al mundo de los agentes, que no solo leen datos sino que ejecutan acciones: envían correos, modifican registros, mueven dinero o tocan sistemas de producción.

¿Por qué esto importa para las empresas de Chile y Latinoamérica?

En Chile y Latinoamérica, la adopción de agentes de IA en ventas, servicio al cliente y operaciones viene corriendo por delante de la gobernanza. Muchos equipos ya conectan agentes a su CRM o a su correo sin un criterio explícito sobre qué fuentes consumen ni qué acciones pueden tomar. El marco de Anthropic es útil justamente porque es corto y accionable: permite frenar la adopción en la sombra sin bloquear la experimentación.

La observabilidad es el punto más frágil en la región: si el agente actúa sobre datos desactualizados o poco confiables, y nadie puede reconstruir por qué tomó una decisión, el problema no es del modelo sino del contexto y del control. Ese es un frente donde las empresas latinoamericanas todavía tienen margen para ordenarse antes de escalar.

Análisis de Revenue Hub

Para un líder comercial o de operaciones en Chile y Latinoamérica, la lectura no es técnica sino de negocio: el cuello de botella para capturar valor con agentes de IA ya no es el modelo, es la confianza. Un agente que resuelve tickets o califica leads solo genera retorno si el equipo puede acotar su radio de impacto y auditar sus decisiones. Sin eso, cada agente nuevo es un pasivo silencioso.

La recomendación práctica es tratar la gobernanza de agentes como parte del despliegue, no como un trámite posterior. Antes de conectar un agente al CRM, defina por escrito sus fuentes, sus acciones permitidas y su plan de observabilidad, y arranque con un grupo piloto antes de abrir a toda la operación. Es el mismo criterio que aplicamos al ordenar datos y flujos en proyectos de RevOps; puedes seguir esta discusión en nuestra sección de noticias de CRM y datos y en el blog de Revenue Hub.