IA responsable
Define qué puede hacer tu IA.
Prueba la IA con tus casos, controla sus accesos y decide qué acciones necesitan aprobación. Construimos y documentamos estos controles con tu equipo para que pueda revisar resultados y atender fallos.
Ejemplo ilustrativo
Permisos para preparar un pedido
Fuente
Consultar el catálogo autorizado
Usar las descripciones de las piezas y la disponibilidad compartidas para esta tarea.
Acción permitida
Preparar un borrador
Usar esa información para preparar un pedido que el equipo pueda revisar.
Requiere aprobación
Confirmar un envío
Exigir la aprobación de una persona autorizada antes de ejecutar esta acción.
Si falta el permiso
Detener la acción y derivarla a la persona designada para revisarla.
Es un ejemplo de política para una tarea. Las pruebas también deben cubrir solicitudes denegadas e intentos de omitir la aprobación.
Qué entregamos
Casos de evaluación y resultados
Pruebas basadas en tu caso de uso, criterios de aceptación acordados y un informe con los resultados y los fallos que deben atenderse antes de publicar.
Controles de acceso y acciones
Fuentes de datos, acciones permitidas y comprobaciones de permisos en la aplicación, con validación de entradas y salidas adecuada para la tarea.
Reglas de aprobación y escalamiento
Decisiones sobre qué acciones necesitan revisión, quién las revisa y cuándo la falta de información o una comprobación fallida debe detener una acción.
Registros para investigar
Registros y procedimientos operativos con cobertura, accesos y conservación acordados, para que tu equipo pueda investigar respuestas y acciones.
Pruebas
Nuestra propia contratación
Desde principios de 2025, usamos un agente para convertir transcripciones de entrevistas en perfiles de candidatos. Las correcciones durante el desarrollo nos ayudaron a ajustar sus instrucciones y resolver casos que la primera versión no contemplaba.
Leer la nota de campo- Transcripciones de entrevistas
- Reglas a partir de correcciones
- En producción desde principios de 2025
Cuándo nos buscan los equipos
- Un piloto necesita resultados de evaluación para una revisión de seguridad
- Un agente está listo para actuar, pero las reglas de aprobación no están claras
- Tu equipo necesita registros para investigar un resultado inesperado
Cómo lo construimos
Mapa de riesgos
Identificar posibles fallos, a quiénes afectan y las condiciones que tu equipo necesita resolver antes de publicar.
Diseño de controles
Acordar permisos, requisitos de aprobación, rutas de escalamiento y qué registros conservar.
Evaluación antes del lanzamiento
Probar casos representativos y fallos contra los criterios acordados. Documentar los problemas pendientes.
Supervisión en producción
Definir quién monitorea los resultados, atiende incidentes y puede detener una acción o devolverla a revisión.
Fallos que conviene prever
Evaluamos estos casos y definimos cómo deben responder el sistema y tu equipo:
Respuesta incorrecta
Una respuesta contiene información falsa o sin respaldo. Probar con preguntas representativas, comprobar las fuentes citadas y definir cuándo no responder o consultar a una persona.
Acceso o acción no autorizados
El sistema intenta leer datos restringidos o realizar una acción no aprobada. Aplicar permisos al consultar datos y ejecutar herramientas, y probar solicitudes que deban rechazarse.
Falta de registros
El equipo no puede reconstruir un resultado inesperado. Definir las entradas, fuentes, versiones de modelos y aprobaciones necesarias para investigar, junto con los límites de lo que se almacena.
Aprobación requerida omitida
Una acción se ejecuta sin la revisión que requiere. Exigir aprobación antes de ejecutarla y definir cómo detenerla, avisar a su responsable y revisar el incidente.
Estos controles ayudan a reducir el riesgo y detectar fallas. La evaluación y el monitoreo muestran dónde hace falta seguir trabajando.
Cómo decidimos qué acciones necesitan revisión
Antes del lanzamiento, acordamos con tu equipo qué acciones requieren aprobación y quién las revisa. Las correcciones de esa revisión nos ayudan a mejorar las instrucciones y las pruebas, incluidos los casos que la primera versión no contemplaba.
Evaluamos la autonomía de cada tipo de acción según los resultados de las pruebas, las consecuencias de un error y tus requisitos de revisión. Que haya menos correcciones no basta para retirar la supervisión. Definimos el monitoreo, el escalamiento y las condiciones para volver a la revisión humana.
Funciona bien con
Preguntas frecuentes
¿Esto certifica el cumplimiento normativo?
No. Entregamos los controles técnicos, los resultados de evaluación y la documentación acordados para el proyecto. Tus responsables de asuntos legales, seguridad o cumplimiento evalúan ese material según sus requisitos. Documentamos el alcance y lo que falta resolver.
¿Cómo equilibran la revisión con una automatización útil?
Probamos el proceso con quienes lo usan, incluido el tiempo y esfuerzo de revisión. Tu equipo decide qué acciones pueden ejecutarse con permisos definidos y cuáles necesitan aprobación, según las evaluaciones y las consecuencias de un error.
¿Quién atiende un error de la IA?
Antes del lanzamiento acordamos responsables operativos para el monitoreo, la revisión de incidentes y la suspensión de acciones. Los procedimientos identifican quién recibe una alerta, quién la investiga y quién puede aprobar un cambio o la vuelta al servicio.
¿Esto frena el proyecto?
La evaluación y la revisión requieren trabajo. Las incluimos en el alcance del desarrollo según el caso de uso, los datos disponibles y las consecuencias de un error. Probar antes del lanzamiento ayuda a detectar problemas cuando todavía se puede ajustar el diseño.
¿Cómo manejan datos que no pueden salir de nuestro entorno?
Diseñamos el despliegue alrededor de esa restricción y verificamos dónde se procesan, almacenan y registran los datos. Si un modelo alojado fuera de tu entorno requiere una transferencia que no permites, evaluamos modelos que puedan ejecutarse dentro de él. Todo servicio externo permitido también debe cumplir tus requisitos de retención y uso para entrenamiento.
¿Qué podemos presentar al equipo de seguridad o al directorio?
Acordamos el material con tu equipo: casos y resultados de evaluación, acciones permitidas y reglas de aprobación, alcance de los registros y procedimientos para atender fallos. Documenta los controles implementados, sus límites y los problemas que siguen pendientes.