Uma resposta errada dita com segurança costuma causar mais estrago do que uma dúvida honesta, e Murilo Moura Alencar, C-Level e Tech, People & Game Strategist, contextualiza que é justamente esse o tipo de erro mais comum da inteligência artificial generativa. Em 2024, um tribunal canadense responsabilizou a Air Canada por uma informação falsa que o assistente virtual da companhia deu a um cliente sobre desconto em passagens. A empresa alegou que o chatbot era responsável pelas próprias respostas. O argumento não foi aceito.
O fenômeno tem nome: “alucinação”. E ele não é um defeito raro que a próxima versão vai eliminar por completo. Entender por que ele acontece muda a forma de usar a tecnologia. É o que este artigo apresenta.
Por que a IA inventa com tanta confiança?
Um modelo de linguagem não consulta um banco de fatos antes de responder. Ele produz texto escolhendo, a cada passo, a continuação mais provável a partir de padrões aprendidos em enormes volumes de escrita. Na maior parte das vezes, a continuação provável coincide com a verdade.
Quando não coincide, nada no processo acende um alerta. Uma referência bibliográfica inventada tem o mesmo formato de uma real, com autor, título e ano plausíveis. O tom seguro não é sinal de acerto, é apenas o estilo em que o modelo foi treinado a escrever. Por isso, a aparência de uma resposta diz muito pouco sobre sua exatidão. Quem lê sem conhecer o assunto dificilmente percebe a diferença entre o dado real e o inventado.
Onde o risco é maior?
Em 2023, advogados de Nova York apresentaram à Justiça uma petição com decisões judiciais que simplesmente não existiam, geradas por um assistente de IA. Foram multados. O caso ilustra um padrão: o erro é mais perigoso quando envolve dados específicos, como números, datas, nomes, citações e normas, e quando o resultado sai da empresa sem revisão.
Murilo Alencar chama a atenção para outro ponto sensível. Perguntas sobre temas muito recentes ou muito nichados tendem a gerar mais invenções, porque há pouco material de referência para o modelo se apoiar. Nesses casos, a ferramenta raramente diz que não sabe. Preenche a lacuna. O mesmo vale para informações internas da empresa, que o modelo nunca viu e, ainda assim, pode tentar descrever.
Como reduzir o problema?
A primeira medida é dar à IA as fontes, em vez de pedir que ela as encontre de memória. Murilo Alencar salienta que ferramentas que respondem com base em documentos fornecidos pela empresa, como contratos, manuais e políticas internas, erram menos e permitem conferir de onde veio cada informação.
A segunda é classificar os usos por risco. Resumir uma reunião interna tolera pequenas imprecisões. Responder a um cliente sobre preço, prazo ou direito, não. Nos usos de maior impacto, a revisão humana precisa ser etapa obrigatória, com alguém que conheça o assunto e tenha tempo para checar. Pedir ao modelo que indique a origem de cada afirmação também ajuda, desde que a origem seja verificada de fato.
A responsabilidade continua humana
O caso da Air Canada deixou uma lição que vale para qualquer setor: a empresa responde pelo que sua ferramenta diz. Nenhum contrato com fornecedor e nenhuma nota de rodapé transferem essa responsabilidade para o software.
Para Murilo Moura Alencar, isso não é motivo para evitar a inteligência artificial, e sim para usá-la com a mesma disciplina aplicada a qualquer colaborador novo e muito produtivo, que ainda precisa ter o trabalho conferido antes de falar em nome da empresa. A velocidade da ferramenta só vira vantagem quando existe, do outro lado, alguém capaz de dizer se a resposta está certa. Treinar as equipes para desconfiar do tom seguro e checar o que importa é, hoje, parte tão essencial da adoção quanto escolher a ferramenta.
