Ele vai alucinar na frente dos nossos usuários?
Ele pode dar respostas incorretas, mesmo usando seus dados. Testamos essas falhas com seus casos, mostramos as fontes para conferir as respostas e definimos quando elas precisam de revisão. O monitoramento após o lançamento ajuda a detectar problemas; esses controles não eliminam o risco.
Ele pode agir dentro das nossas ferramentas atuais?
Sim, quando as ferramentas oferecem os acessos e as integrações necessários. Verificamos esses requisitos, definimos as ações permitidas e acordamos as regras de aprovação antes de construir. Alguns sistemas podem precisar primeiro de uma integração ou preparação de dados.
Quanta autonomia devemos dar a ele?
Combinamos com seu time quais aprovações cada tipo de ação exige. O nível de autonomia depende das avaliações e das consequências de um erro; algumas ações podem continuar exigindo aprovação humana.
Qual modelo ele usa?
Escolhemos o modelo conforme a tarefa, as restrições de dados, a qualidade, a latência e o custo de operação. Ele fica atrás de uma interface que o seu produto controla. Trocá-lo pode exigir ajustes nos prompts, nas integrações com ferramentas e na infraestrutura, seguidos de uma avaliação com os seus casos antes da publicação.
Nossos dados saem do nosso ambiente quando um agente roda?
Depende da implantação. Documentamos quais dados cada serviço recebe, onde são processados e armazenados, e quais condições de retenção e treinamento se aplicam. Se os seus dados precisam permanecer no seu ambiente, essa restrição orienta a escolha do modelo e da infraestrutura.
Quem mantém depois do lançamento?
Antes do lançamento, acordamos quem assume o sistema, o monitoramento, o suporte e a transferência para sua equipe. Ela pode continuar com o código, os casos de avaliação e a documentação operacional. Se continuarmos mantendo ou desenvolvendo o sistema, o acordo define o escopo, as responsabilidades e o preço.