IA responsável
Defina o que sua IA pode fazer.
Teste a IA com seus casos, controle seus acessos e decida quais ações precisam de aprovação. Construímos e documentamos esses controles com sua equipe para que ela possa revisar resultados e tratar falhas.
Exemplo ilustrativo
Permissões para preparar um pedido
Fonte
Consultar o catálogo autorizado
Usar as descrições das peças e a disponibilidade compartilhadas para esta tarefa.
Ação permitida
Preparar um rascunho
Usar essas informações para preparar um pedido que a equipe possa revisar.
Exige aprovação
Confirmar um envio
Exigir a aprovação de uma pessoa autorizada antes de executar esta ação.
Se faltar permissão
Interromper a ação e encaminhá-la à pessoa designada para revisar.
É um exemplo de política para uma tarefa. Os testes também precisam cobrir solicitações negadas e tentativas de pular a aprovação.
O que entregamos
Casos de avaliação e resultados
Testes baseados no seu caso de uso, critérios de aceitação acordados e um relatório com resultados e falhas a tratar antes do lançamento.
Controles de acesso e ações
Fontes de dados, ações permitidas e verificações de permissões na aplicação, com validação de entradas e saídas adequada à tarefa.
Regras de aprovação e escalonamento
Decisões sobre quais ações precisam de revisão, quem as revisa e quando informações ausentes ou uma verificação que falhou devem interromper uma ação.
Registros para investigação
Registros e procedimentos operacionais com cobertura, acessos e retenção acordados, para que sua equipe possa investigar respostas e ações.
Provas
Nossa própria contratação
Desde o início de 2025, usamos um agente para transformar transcrições de entrevistas em perfis de candidatos. As correções durante o desenvolvimento nos ajudaram a ajustar as instruções e tratar casos que a primeira versão não contemplava.
Ler a nota de campo- Transcrições de entrevistas
- Regras a partir de correções
- Em produção desde o início de 2025
Quando as equipes nos procuram
- Um piloto precisa de resultados de avaliação para uma revisão de segurança
- Um agente está pronto para agir, mas as regras de aprovação não estão claras
- Sua equipe precisa de registros para investigar um resultado inesperado
Como construímos
Mapa de riscos
Identificar possíveis falhas, quem elas afetam e as condições que sua equipe precisa resolver antes do lançamento.
Definição dos controles
Acordar permissões, requisitos de aprovação, caminhos de escalonamento e quais registros reter.
Avaliação antes do lançamento
Testar casos representativos e falhas conforme os critérios acordados. Documentar os problemas pendentes.
Supervisão em produção
Definir quem monitora resultados, trata incidentes e pode interromper uma ação ou devolvê-la à revisão.
Falhas para as quais se preparar
Avaliamos estes casos e definimos como o sistema e sua equipe devem responder:
Resposta incorreta
Uma resposta contém informações falsas ou sem respaldo. Testar com perguntas representativas, conferir as fontes citadas e definir quando não responder ou consultar uma pessoa.
Acesso ou ação não autorizados
O sistema tenta ler dados restritos ou executar uma ação não aprovada. Aplicar permissões ao consultar dados e executar ferramentas, e testar solicitações que devem ser negadas.
Falta de registros
A equipe não consegue reconstruir um resultado inesperado. Definir as entradas, fontes, versões de modelos e aprovações necessárias para investigar, junto com os limites do que é armazenado.
Aprovação obrigatória ignorada
Uma ação é executada sem a revisão necessária. Exigir aprovação antes da execução e definir como interrompê-la, avisar o responsável e revisar o incidente.
Esses controles ajudam a reduzir o risco e detectar falhas. A avaliação e o monitoramento mostram onde ainda é preciso trabalhar.
Como decidimos quais ações precisam de revisão
Antes do lançamento, definimos com a sua equipe quais ações exigem aprovação e quem as revisa. As correções dessa revisão nos ajudam a melhorar as instruções e os testes, incluindo os casos que a primeira versão não contemplava.
Avaliamos a autonomia de cada tipo de ação com base nos resultados dos testes, nas consequências de um erro e nos seus requisitos de revisão. Ter menos correções não basta para retirar a supervisão. Definimos o monitoramento, o escalonamento e as condições para voltar à revisão humana.
Funciona bem com
Perguntas frequentes
Isso certifica a conformidade regulatória?
Não. Entregamos os controles técnicos, os resultados de avaliação e a documentação acordados para o projeto. Suas equipes de jurídico, segurança ou compliance avaliam esse material conforme seus requisitos. Documentamos o escopo e o que falta resolver.
Como equilibram a revisão com uma automação útil?
Testamos o fluxo com quem o utiliza, incluindo o tempo e o esforço de revisão. Sua equipe decide quais ações podem ser executadas com permissões definidas e quais precisam de aprovação, conforme as avaliações e as consequências de um erro.
Quem trata um erro da IA?
Antes do lançamento, acordamos responsáveis operacionais pelo monitoramento, pela revisão de incidentes e pela interrupção de ações. Os procedimentos identificam quem recebe um alerta, quem o investiga e quem pode aprovar uma mudança ou a retomada do serviço.
Isso atrasa o projeto?
A avaliação e a revisão exigem trabalho. Incluímos as duas no escopo do desenvolvimento conforme o caso de uso, os dados disponíveis e as consequências de um erro. Testar antes do lançamento ajuda a identificar problemas enquanto ainda é possível ajustar o projeto.
Como vocês lidam com dados que não podem sair do nosso ambiente?
Projetamos a implantação em torno dessa restrição e verificamos onde os dados são processados, armazenados e registrados. Se um modelo hospedado fora do seu ambiente exigir uma transferência que você não permite, avaliamos modelos que possam rodar dentro dele. Todo serviço externo permitido também precisa atender aos seus requisitos de retenção e uso para treinamento.
O que podemos apresentar à equipe de segurança ou ao conselho?
Acordamos o material com sua equipe: casos e resultados de avaliação, ações permitidas e regras de aprovação, escopo dos registros e procedimentos para tratar falhas. Ele documenta os controles implementados, seus limites e os problemas que continuam pendentes.