Por que tantas implementações de IA são revertidas?
O levantamento The AI Production Paradox, da Sinch, ouviu 2.527 executivos em dez países e seis setores. Ele indica que oito em cada dez empresas brasileiras já interromperam ou reverteram uma implementação de inteligência artificial, e que em 39% dos casos o motivo foi vazamento de dado ou de informação pessoal.
Repare no que esse número não diz. Ele não fala de qualidade de modelo, nem de escolha de fornecedor. Fala de regra que não existia quando o agente foi ligado.
Governança não é documento para auditoria. É a diferença entre desligar em cinco minutos e descobrir pelo cliente.
Quais são as três perguntas obrigatórias?
1. Que dado ele enxerga, e qual ele nunca pode enxergar?
A pergunta certa não é o que o agente precisa ver. É o que ele nunca pode ver. A primeira lista cresce toda semana, porque sempre aparece um caso novo. A segunda é curta, é estável, e é ela que segura o incidente.
Se a lista do que é proibido estiver vazia, ela não foi feita.
2. Quem aprova o que ele faz sozinho, e o que ele nunca faz sozinho?
Nome de pessoa, não nome de área. Um documento que diz "a área de operações aprova" não nomeia ninguém: a área tem onze pessoas e nenhuma delas acha que a frase fala especificamente dela.
Às duas da manhã, ou existe um nome, ou não existe ninguém. Por isso o campo pede dois nomes: quem aprova e quem aprova quando essa pessoa não responde.
3. Em quanto tempo ele se desliga, sem derrubar o resto da operação?
Todo mundo responde "rápido". Quase ninguém cronometrou. A resposta honesta costuma ser outra: depende de quem está online.
Esse número existe de qualquer jeito. A escolha é descobrir hoje ou no dia do incidente, e descobrir no dia do incidente é o que transforma um erro em prejuízo, porque o relógio corre enquanto alguém procura quem autoriza.
Quais permissões costumam causar vazamento?
Quase nenhum vazamento começa numa invasão. Começa numa permissão dada com pressa: não funcionava, alguém liberou o acesso inteiro só para testar, funcionou, e ninguém voltou para reduzir de novo.
Três aparecem em quase toda empresa:
- A pasta inteira, quando o necessário era uma subpasta. Compartilhar a raiz é mais rápido do que descobrir qual caminho a ferramenta precisa, e é irreversível na prática.
- A conta de quem tem acesso a tudo, porque foi a que estava logada. A ferramenta herda o alcance da pessoa: se ela é da diretoria, o agente virou diretoria.
- O acesso temporário que ninguém marcou para expirar. Temporário sem data é permanente, e a diferença entre os dois é uma linha no calendário.
Como medir o tempo real de desligamento?
O teste leva três minutos e pode ser feito hoje, sem preparação.
- Escolha um agente e pergunte quem tem o botão. Se a resposta for o nome de um fornecedor, ou de alguém que já saiu da empresa, o teste terminou aqui.
- Liste o que para junto quando ele parar. Quase sempre aparece algo que ninguém tinha ligado ali, e é esse item que faz o desligamento ser adiado no dia do problema.
- Cronometre da decisão até o agente parado. Não é o tempo do clique, é o tempo do caminho inteiro, com a aprovação que ele exige no meio.
Ligar é a parte fácil. Desligar é a parte que ninguém ensaiou.
O que precisa ficar registrado?
A primeira pergunta de qualquer auditoria é quem autorizou. A cena que antecede essa pergunta é sempre parecida: a resposta saiu errada, foi para o cliente, e ninguém sabe qual versão da instrução gerou aquilo, porque a ferramenta foi ajustada três vezes naquele mês e nenhum ajuste ficou anotado.
- O que entrou no pedido, guardado junto com o que saiu. Só a saída não reconstrói nada: sem a entrada, é impossível saber se o erro foi da máquina ou do pedido.
- A data de cada mudança na instrução, com o nome de quem mudou. Uma linha por alteração. É o que separa investigar em vinte minutos de investigar em dois dias.
- Quem revisou antes de sair, mesmo quando a revisão foi rápida. Revisão sem registro é revisão que não aconteceu, do ponto de vista de quem vai apurar depois.
O registro não existe para a auditoria. Existe para você conseguir consertar. Auditoria é só a primeira vez em que a falta dele aparece.
A ficha de governança, uma por agente
Preencha uma ficha para cada agente que roda sozinho. Se algum campo ficar vazio, esse campo é o seu risco aberto, e vale mais deixá-lo em branco de propósito do que preencher com uma frase que não decide nada.
Uma frase. Se precisar de um parágrafo, provavelmente são dois agentes.
A lista do proibido. Curta e estável. Se estiver vazia, ela não foi feita.
Não o que foi planejado. O que está concedido agora, incluindo o que foi liberado para testar.
Dois nomes de pessoa. Nome de área não aprova nada às duas da manhã.
Valor, alcance ou quantidade. Sem número, tudo vira caso a caso.
Falar com cliente, mexer em preço e apagar qualquer coisa costumam estar nesta lista.
Cronometrado da decisão até o agente parado. Escreva o número real, não a estimativa.
A lista do que depende dele. É o que faz o desligamento ser adiado no dia do problema.
Se a resposta for "em lugar nenhum", este é o primeiro item a resolver.
O que você escreve fica guardado no seu próprio navegador e não passa por nenhum servidor. Ninguém aqui lê, e nada é enviado. Se limpar os dados do navegador, o texto some junto.
Perguntas frequentes
O que é uma ficha de governança de agente de IA?
É um documento de uma página, por agente, que declara a que dados ele tem acesso e a que nunca pode ter, quem aprova o que ele faz sozinho, o limite acima do qual nada passa sem aprovação, o tempo medido para desligá-lo e onde ficam os registros.
Preciso de uma ficha para cada agente?
Sim. Cada agente tem acesso, alçada e dependências próprias. Uma ficha única para todos entrega uma média, e média não ajuda ninguém no dia do incidente.
Isso não é burocracia demais para uma empresa pequena?
A ficha inteira cabe numa página e leva menos tempo do que uma reunião sobre o assunto. Empresa pequena costuma ter menos gente para descobrir quem autorizou, o que torna o registro mais necessário, e não menos.
Por que nomear pessoa em vez de área?
Porque responsabilidade que é de todo mundo não é de ninguém. Isso não aparece enquanto está tudo certo, e aparece exatamente no dia em que alguém precisa decidir rápido e descobre que a decisão não tem dono.
Qual é a fonte do dado sobre reversões de IA?
O levantamento The AI Production Paradox, da Sinch, com 2.527 executivos em dez países e seis setores. Ele indica que oito em cada dez empresas brasileiras já interromperam ou reverteram uma implementação, e que em 39% dos casos o motivo foi vazamento de dado ou de informação pessoal.