🛡️ Muros de seguridad

Existe un error de orden que hace fracasar proyectos de IA: tratar la seguridad como un detalle técnico que "resolvemos después". Cuando la IA solo conversaba, lo peor que podía pasar era una respuesta mala. Pero desde el momento en que ella ejecuta tareas reales — envía un correo, modifica un registro, emite un documento, accede a la base de datos: una decisión equivocada se convierte en una acción equivocada en el mundo. Por eso la seguridad es una decisión de arquitectura: define, desde el diseño, dentro de qué límites puede actuar el sistema.

El control de acceso responde a dos preguntas: quién puede usar Jarvis e qué puede pedirle cada uno. La regla de oro es el privilegio mínimo: cada persona y cada agente recibe solo el acceso que realmente necesita para hacer su trabajo, nada más. Un agente que solo responde preguntas no necesita permiso para borrar registros. Un agente de atención no necesita el mismo poder que el gerente.

Tener permiso para una acción no significa poder realizarla a cualquier escala. Los límites de acción son los límites dentro de los cuales se permite cada acción: hasta qué monto se puede ofrecer un descuento sin aprobación, cuántos correos se pueden enviar por hora, cuál es el límite de un reembolso automático. Esa es la diferencia entre «Jarvis puede emitir una factura» y «Jarvis puede emitir una factura de hasta R$ 500; por encima de ese monto, pide confirmación».

Jarvis manejará información que no puede filtrarse: datos de clientes, contratos, valores, documentos internos. Proteger los datos sensibles significa decidir lo que el sistema puede ver, lo que puede guardar y lo que nunca debe salir. Aquí, la privacidad no es burocracia: es lo que mantiene la confianza del cliente y a la empresa dentro de la ley (como la LGPD). La regla es sencilla: Jarvis solo accede a los datos que necesita, durante el tiempo que los necesita, y nunca expone información confidencial.

Dos mecanismos cierran el muro. El primero es la validación humana: para las acciones de alto impacto —irreversibles, costosas o delicadas—, Jarvis lo prepara todo, pero una persona da el «ok» final antes de ejecutar. El segundo es el log: el registro de quién pidió qué, cuándo y qué hizo el sistema. Sin registro, no sabes qué pasó; con registro, puedes rastrear cada error y el monitoreo puede avisarte cuando algo se desvía de lo esperado.

Todo cambio en Jarvis necesita un lugar donde pueda fallar sin causar daños. Por eso se separan dos entornos: el de prueba, donde experimentas, te equivocas y ajustas con datos falsos; y el de producción, donde el sistema atiende a clientes reales. Nunca pruebes una idea nueva directamente en producción: primero compruébala en pruebas y luego pásala a producción con confianza. Mezclar ambas cosas es como ensayar la obra en plena función de estreno.