IA responsável
IA que você pode assinar.
Todo sistema que entregamos carrega as próprias barreiras de proteção: avaliação antes do lançamento, monitoramento depois, supervisão humana onde o julgamento importa e trilhas de auditoria de ponta a ponta. Não um slide de compliance — prática de engenharia.
O que isso significa na prática
A avaliação como entregável
Acurácia, grounding e modos de falha medidos nos seus dados antes do go-live, e monitorados depois: números nos seus próprios casos, que é o que quem revisa consegue usar.
Barreiras por projeto
Validação de entradas, restrições de saída, aplicação de permissões e caminhos de escalonamento definidos com a sua equipe.
Supervisão humana onde importa
Roteamento para pessoas conforme a confiança; a autonomia só se amplia quando a evidência sustenta.
Auditabilidade
Registros de decisões e saídas rastreáveis, projetados em torno dos seus requisitos de segurança e compliance.
Provas
Nossa própria contratação
O agente que escreve os perfis dos nossos candidatos rodou atrás de uma comporta humana nas suas primeiras semanas; cada correção virou uma regra, e a comporta só abriu quando as correções pararam. Um ano em produção desde então.
Ler a nota de campo- Primeiro a comporta humana
- Regras a partir de correções
- Em produção desde o início de 2025
Quando as equipes nos procuram
- Um piloto de IA que o jurídico ou a segurança não aprovam
- Um ambiente regulado onde “o modelo disse” não é uma resposta
- Um conselho perguntando o que pode dar errado
Como construímos
Mapa de riscos
o que pode dar errado, quem é afetado e que parte você escolhe aceitar
Projeto das barreiras
restrições, permissões, caminhos de escalonamento
Avaliação antes do lançamento
nos seus dados, nos seus casos
Supervisão em produção
monitoramento, trilhas de auditoria, revisão humana onde importa
O que pode dar errado, por tipo
Responsável não é uma propriedade só. São quatro falhas diferentes, cada uma com a sua própria defesa:
Errado
o modelo responde com confiança e a resposta é falsa. Defesa: grounding nos seus dados, citações que um leitor pode verificar e "não tenho esse dado" como saída legítima. Medido por um conjunto de avaliação de casos reais, rodado a cada mudança.
Não autorizado
o sistema lê ou faz algo que o usuário não poderia ter feito à mão. Defesa: permissões aplicadas no momento da consulta, não por prompt; uma lista explícita das ações que ele pode tomar.
Inexplicado
uma decisão que ninguém consegue rastrear depois. Defesa: cada saída registrada com a entrada, o modelo, as fontes recuperadas e a regra que a permitiu.
Sem supervisão
uma ação com consequências que nenhuma pessoa aprovou. Defesa: uma comporta que uma pessoa segura até aquela classe de ação ter histórico, e que fecha de novo quando as surpresas voltam.
Um slide sobre ética não previne nenhuma delas. Engenharia previne todas as quatro.
Como a autonomia é conquistada
Todo sistema que entregamos começa supervisionado: uma pessoa aprova o que ele propõe. Isso não é uma limitação da qual se desculpar. É assim que o sistema aprende os casos limite e que a sua equipe aprende a confiar nele. Cada correção vira uma regra; o registro das correções é o artefato mais útil do primeiro mês, e é a razão pela qual as regras acertam onde os problemas realmente estão, e não onde alguém imaginou que estariam.
Quando as correções se aproximam de zero para um tipo de ação, a comporta abre para esse tipo — e continua fechada para os que ainda surpreendem você. A autonomia é concedida por classe de trabalho, com base em evidência, e é reversível: o monitoramento em produção observa o dia em que as entradas desviam, e uma alta de erros fecha a comporta de novo. É a forma como rodamos a nossa própria operação, e a forma que construímos na de cada cliente.
Funciona bem com
Perguntas frequentes
Isso é um check de compliance?
É prática de engenharia: acurácia mensurável, decisões rastreáveis, escalonamento definido. Papel não supervisiona nada. Também não é uma certificação: o que você recebe é a evidência que quem revisa pede, não uma declaração de que você está em conformidade.
As barreiras vão deixar a IA inútil?
Bem feitas, as restrições aumentam a confiança e a adoção. O assistente inútil é aquele em quem ninguém confia.
Quem responde quando a IA erra?
Uma pessoa com nome, por classe de decisão, registrada antes do lançamento. O modelo nunca é o responsável: é isso que significa projetar o escalonamento.
Isso atrasa o projeto?
O conjunto de avaliação e a comporta somam cerca de uma semana a um primeiro desenvolvimento, e tiram meses da parte que ninguém orça: o incidente, o rollback, a pessoa que para de confiar no sistema depois de uma resposta errada dita com confiança. Confiança é a coisa cara de reconstruir.
Como vocês lidam com dados que não podem sair do nosso ambiente?
Não movendo. O sistema roda dentro do acesso que você concede — sua nuvem, suas permissões, seu log de auditoria. Onde um modelo comercial é a ferramenta certa, usamos termos que excluem os seus dados do treinamento; onde isso não basta, modelos de pesos abertos rodam dentro do seu ambiente.
O que levamos para mostrar a um regulador ou a um conselho?
Os resultados da avaliação nos seus casos, os registros de decisões, a lista de ações que o sistema pode tomar e quem aprovou cada classe delas, e o runbook do que acontece quando falha. Não um documento de política — a evidência para a qual uma política teria que apontar.