Governança de IA não é comitê — é instrumentação
Política escrita não impede modelo de errar em produção. O que impede é medir, limitar e registrar cada decisão automatizada.
A maioria dos programas de governança de IA começa por um documento e um comitê mensal. Seis meses depois existe política, e nenhuma evidência de que ela é cumprida.
Política não é controle
Um documento descreve intenção. Controle é o que acontece quando alguém tenta violar a intenção — e num sistema de IA isso precisa ser código, não reunião.
- Limite de custo por execução aplicado no runtime, não pedido no prompt
- Registro de qual ferramenta o agente chamou e com quais argumentos
- Conjunto de avaliação versionado que roda a cada mudança de prompt ou modelo
- Trilha de auditoria que permite reconstruir uma decisão específica
O que medir desde o primeiro dia
Sem linha de base, qualquer discussão sobre risco vira opinião. As três métricas que sustentam o resto: taxa de sucesso por tipo de tarefa, custo por resultado útil, e proporção de execuções que precisaram de intervenção humana.
Governança que não produz número não sobrevive ao primeiro corte de orçamento.