A inteligência artificial generativa pertence a uma categoria rara de invenções que, como a eletricidade e o computador, não melhoram apenas um processo: reconfiguram a economia ao redor. São as tecnologias de propósito geral, que abrem os grandes superciclos de inovação. Mas há nela algo que administradores e conselheiros ainda não internalizaram e dessa lacuna nasce boa parte das falhas de adoção observadas.
MagnificA IA generativa é uma nuvem
Karl Popper, na conferência “Of Clouds and Clocks“, opôs dois tipos de sistema. O relógio é regular, previsível, desmontável em engrenagens. A nuvem é dinâmica, irregular: nunca se repete. A metáfora ilumina nosso momento tecnológico.
A transformação digital das últimas décadas foi construída no mundo do relógio: sistemas deterministas, que produzem sempre a mesma saída para a mesma entrada e, quando erram, erram sempre do mesmo jeito. Essas propriedades moldaram nossa cultura de governança: auditamos, homologamos, certificamos e seguimos em frente. Mas relógios só processam o que cabe em campos, tabelas e regras, e o mundo organizacional real nunca coube ali.
A IA generativa é uma nuvem: um sistema estocástico, que opera sobre probabilidades e devolve, a cada execução, uma amostra de possibilidades. Por não ser um sistema de regras fechadas, ela trabalha com dados desestruturados, como contratos, pareceres, atas, e-mails, áudios e vídeos onde vive a maior parte da informação organizacional, meio século fora do alcance dos relógios. Ela lê o mundo como ele é, não como o formulário gostaria que ele fosse.
É estatística na essência: calcula, a cada passo, qual palavra provavelmente vem a seguir. O resultado é sempre o texto mais plausível. Plausível, não verdadeiro. Essa distância é a “alucinação”: uma resposta fluente, convincente e errada. Otimizado para o plausível, seu treinamento premia o palpite confiante: ele aprende, por construção, a nunca dizer “não sei”. É a lição do “quarto chinês” de John Searle: fluência não é compreensão.
Baixar a “temperatura”, que controla a aleatoriedade, torna o comportamento mais repetível, mas não muda a essência estatística. Guardrails, filtros de entrada e saída, reduzem incidentes, mas não alteram o método de geração: cercam a nuvem, não a transformam em relógio. Podemos e devemos reduzir a taxa de erro até um nível ótimo; não podemos zerá-la. Nos sistemas deterministas, a falha é um evento; nos estocásticos, é uma propriedade. A boa e a má notícia são a mesma: a natureza não determinista que produz a resposta brilhante produz a alucinação eloquente.
A conclusão que interessa à governança organizacional: não se governa uma nuvem com a lógica de um relógio. A pergunta deixa de ser “o sistema funciona?” e passa a ser “onde a falha é tolerável e quem responde em cada camada?”. Quando a responsabilidade não é desenhada antes, ela é descoberta depois do incidente. E sempre desce a hierarquia até encontrar o elo mais fraco.
Organizações maduras respondem em três camadas
A institucional, da governança: comitê de IA com mandato real, política de uso, classificação de risco e reporte ao conselho. Sem ela, há uso por conta e risco. A executiva, da prontidão: letramento das equipes, gestão de dados e avaliação de risco por caso de uso. Tecnologia se compra em semanas; prontidão se constrói em anos. É ela o diferencial competitivo. A operacional, da supervisão humana: toda saída de IA é uma proposta, não uma decisão. Quem usa responde pela verificação que fez, ou deixou de fazer.
Supervisionar tudo com a mesma intensidade é tão ineficiente quanto não supervisionar nada: o custo do controle deve ser proporcional ao dano esperado e à irreversibilidade da decisão. E o padrão de comparação não é o erro zero, que nenhum processo humano alcança: é o processo que a IA substitui. Governança madura não é a que mais controla: é a que sabe onde controlar.
O caminho prático é mapear o risco por tarefa. Na advocacia, onde a tecnologia opera sobre a matéria-prima do ofício, a linguagem, já se ensaia uma régua de três zonas: verde, para o que a IA executa com autonomia, como triagem e minutas padrão; amarela, para usos sob conferência reforçada de fatos, fontes e precedentes; e vermelha, para o indelegável, como a tese, a estratégia e a palavra final ao cliente. Daí nasce um novo papel: o profissional deixa de ser executor e torna-se o maestro de uma orquestra de IA, sob responsabilidade humana e institucional. A lógica vale para qualquer organização. O futuro não será de quem exigir da nuvem a pontualidade do relógio, mas de quem aprender a governar nuvens.
O post IA generativa vai falhar. Não é defeito: é propriedade apareceu primeiro em Consultor Jurídico.
