IA responsável
IA que você pode assinar.
Todo sistema que entregamos carrega as próprias barreiras de proteção: avaliação antes do lançamento, monitoramento depois, supervisão humana onde o julgamento importa e trilhas de auditoria de ponta a ponta. Não um slide de compliance — prática de engenharia.
O que isso significa na prática
A avaliação como entregável
Acurácia, grounding e modos de falha medidos nos seus dados antes do go-live, e monitorados depois.
Barreiras por projeto
Validação de entradas, restrições de saída, aplicação de permissões e caminhos de escalonamento definidos com a sua equipe.
Supervisão humana onde importa
Roteamento para pessoas conforme a confiança; a autonomia só se amplia quando a evidência sustenta.
Auditabilidade
Registros de decisões e saídas rastreáveis, projetados em torno dos seus requisitos de segurança e compliance.
Provas
Nossa própria contratação
O agente que escreve os perfis dos nossos candidatos rodou atrás de uma comporta humana nas suas primeiras semanas; cada correção virou uma regra, e a comporta só abriu quando as correções pararam. Um ano em produção desde então.
Ler a nota de campo- Primeiro a comporta humana
- Regras a partir de correções
- Em produção desde o início de 2025
Quando as equipes nos procuram
- Um piloto de IA que o jurídico ou a segurança não aprovam
- Um ambiente regulado onde “o modelo disse” não é uma resposta
- Um conselho perguntando o que pode dar errado
Como construímos
Mapa de riscos
o que pode dar errado, e quem é afetado
Projeto das barreiras
restrições, permissões, caminhos de escalonamento
Avaliação antes do lançamento
nos seus dados, nos seus casos
Supervisão em produção
monitoramento, trilhas de auditoria, revisão humana onde importa
O que pode dar errado, por tipo
Responsável não é uma propriedade só. São quatro falhas diferentes, cada uma com a sua própria defesa:
Errado
o modelo responde com confiança e a resposta é falsa. Defesa: grounding nos seus dados, citações que um leitor pode verificar e "não tenho esse dado" como saída legítima. Medido por um conjunto de avaliação de casos reais, rodado a cada mudança.
Não autorizado
o sistema lê ou faz algo que o usuário não poderia ter feito à mão. Defesa: permissões aplicadas no momento da consulta, não por prompt; uma lista explícita das ações que ele pode tomar.
Inexplicado
uma decisão que ninguém consegue rastrear depois. Defesa: cada saída registrada com a entrada, o modelo, as fontes recuperadas e a regra que a permitiu.
Sem supervisão
uma ação com consequências que nenhuma pessoa aprovou. Defesa: uma comporta que uma pessoa segura até aquela classe de ação ter histórico, e que fecha de novo quando as surpresas voltam.
Um slide sobre ética não previne nenhuma delas. Engenharia previne todas as quatro.
Como a autonomia é conquistada
Todo sistema que entregamos começa supervisionado: uma pessoa aprova o que ele propõe. Isso não é uma limitação da qual se desculpar. É assim que o sistema aprende os casos limite e que a sua equipe aprende a confiar nele. Cada correção vira uma regra; o registro das correções é o artefato mais útil do primeiro mês, e é a razão pela qual as regras acertam onde os problemas realmente estão, e não onde alguém imaginou que estariam.
Quando as correções se aproximam de zero para um tipo de ação, a comporta abre para esse tipo — e continua fechada para os que ainda surpreendem você. A autonomia é concedida por classe de trabalho, com base em evidência, e é reversível: o monitoramento em produção observa o dia em que as entradas desviam, e uma alta de erros fecha a comporta de novo. É a forma como rodamos a nossa própria operação, e a forma que construímos na de cada cliente.
Funciona bem com
Perguntas frequentes
Isso é um check de compliance?
É prática de engenharia: acurácia mensurável, decisões rastreáveis, escalonamento definido. Papel não supervisiona nada.
As barreiras vão deixar a IA inútil?
Bem feitas, as restrições aumentam a confiança e a adoção. O assistente inútil é aquele em quem ninguém confia.
Quem responde quando a IA erra?
Um caminho humano com nome. É isso que significa projetar o escalonamento.
Isso atrasa o projeto?
O conjunto de avaliação e a comporta somam cerca de uma semana a um primeiro desenvolvimento, e tiram meses da parte que ninguém orça: o incidente, o rollback, a pessoa que para de confiar no sistema depois de uma resposta errada dita com confiança. Confiança é a coisa cara de reconstruir.
Como vocês lidam com dados que não podem sair do nosso ambiente?
Não movendo. O sistema roda dentro do acesso que você concede — sua nuvem, suas permissões, seu log de auditoria. Onde um modelo comercial é a ferramenta certa, usamos termos que excluem os seus dados do treinamento; onde isso não basta, modelos de pesos abertos rodam dentro do seu ambiente.
O que levamos para mostrar a um regulador ou a um conselho?
Os resultados da avaliação nos seus casos, os registros de decisões, a lista de ações que o sistema pode tomar e quem aprovou cada classe delas, e o runbook do que acontece quando falha. Não um documento de política — a evidência para a qual uma política teria que apontar.