IA responsable
IA que puedes firmar con tu nombre.
Cada sistema que entregamos trae sus propias barreras de protección: evaluación antes del lanzamiento, monitoreo después, supervisión humana donde el criterio importa y registros de auditoría de principio a fin. No una diapositiva de cumplimiento — práctica de ingeniería.
Qué significa esto en la práctica
La evaluación como entregable
Precisión, grounding y modos de falla medidos sobre tus datos antes de salir a producción, y monitoreados después.
Barreras por diseño
Validación de entradas, restricciones de salida, aplicación de permisos y rutas de escalamiento definidas con tu equipo.
Supervisión humana donde importa
Enrutamiento a personas según la confianza; la autonomía se amplía solo cuando la evidencia lo respalda.
Auditabilidad
Registros de decisiones y salidas trazables, diseñados en torno a tus requisitos de seguridad y cumplimiento.
Pruebas
Nuestra propia contratación
El agente que escribe los perfiles de nuestros candidatos funcionó detrás de una compuerta humana durante sus primeras semanas; cada corrección se convirtió en una regla, y la compuerta se abrió solo cuando las correcciones se terminaron. Un año en producción desde entonces.
Leer la nota de campo- Primero la compuerta humana
- Reglas a partir de correcciones
- En producción desde principios de 2025
Cuándo nos buscan los equipos
- Un piloto de IA que legales o seguridad no aprueban
- Un entorno regulado donde “lo dijo el modelo” no es una respuesta
- Un directorio preguntando qué puede salir mal
Cómo lo construimos
Mapa de riesgos
qué puede salir mal, y a quién afecta
Diseño de las barreras
restricciones, permisos, rutas de escalamiento
Evaluación antes del lanzamiento
sobre tus datos, sobre tus casos
Supervisión en producción
monitoreo, registros de auditoría, revisión humana donde importa
Qué puede salir mal, por tipo
Responsable no es una sola propiedad. Son cuatro fallas distintas, cada una con su propia defensa:
Equivocado
el modelo responde con seguridad y la respuesta es falsa. Defensa: grounding sobre tus datos, citas que un lector puede verificar y "no tengo ese dato" como salida legítima. Se mide con un conjunto de evaluación de casos reales, ejecutado en cada cambio.
No autorizado
el sistema lee o hace algo que el usuario no podría haber hecho a mano. Defensa: permisos aplicados en el momento de la consulta, no por prompt; una lista explícita de las acciones que puede tomar.
Inexplicable
una decisión que nadie puede rastrear después. Defensa: cada salida registrada con la entrada, el modelo, las fuentes recuperadas y la regla que la permitió.
Sin supervisión
una acción con consecuencias que ninguna persona aprobó. Defensa: una compuerta que sostiene una persona hasta que ese tipo de acción tiene antecedentes, y que se vuelve a cerrar cuando reaparecen las sorpresas.
Una diapositiva sobre ética no previene ninguna de las cuatro. La ingeniería previene las cuatro.
Cómo se gana la autonomía
Todo sistema que entregamos empieza supervisado: una persona aprueba lo que propone. Eso no es una limitación de la que haya que disculparse. Es cómo el sistema aprende los casos límite y cómo tu equipo aprende a confiar en él. Cada corrección se convierte en una regla; el registro de correcciones es el artefacto más útil del primer mes, y es la razón por la que las reglas aciertan donde están los problemas de verdad y no donde alguien supuso que estarían.
Cuando las correcciones se acercan a cero para un tipo de acción, la compuerta se abre para ese tipo — y sigue cerrada para los que todavía te sorprenden. La autonomía se otorga por clase de trabajo, sobre evidencia, y es reversible: el monitoreo en producción vigila el día en que las entradas se desvían, y un aumento de errores vuelve a cerrar la compuerta. Es la forma en la que corremos nuestra propia operación, y la forma que construimos en la de cada cliente.
Funciona bien con
Preguntas frecuentes
¿Esto es una casilla de cumplimiento?
Es práctica de ingeniería: precisión medible, decisiones trazables, escalamiento definido. El papel no supervisa nada.
¿Las barreras van a volver inútil a la IA?
Bien hechas, las restricciones aumentan la confianza y la adopción. El asistente inútil es aquel en el que nadie confía.
¿Quién responde cuando la IA se equivoca?
Una ruta humana con nombre. Eso es lo que significa diseñar el escalamiento.
¿Esto frena el proyecto?
El conjunto de evaluación y la compuerta suman alrededor de una semana a un primer desarrollo, y le quitan meses a la parte que nadie presupuesta: el incidente, el rollback, la persona que deja de confiar en el sistema después de una respuesta equivocada dicha con seguridad. La confianza es lo caro de reconstruir.
¿Cómo manejan datos que no pueden salir de nuestro entorno?
No moviéndolos. El sistema corre dentro del acceso que otorgas — tu nube, tus permisos, tu registro de auditoría. Donde un modelo comercial es la herramienta correcta, usamos términos que excluyen tus datos del entrenamiento; donde eso no alcanza, corren modelos de pesos abiertos dentro de tu entorno.
¿Qué nos queda para mostrarle a un regulador o a un directorio?
Los resultados de la evaluación sobre tus casos, los registros de decisiones, la lista de acciones que el sistema puede tomar y quién aprobó cada clase de ellas, y el runbook de qué pasa cuando falla. No un documento de política — la evidencia a la que una política tendría que apuntar.