Uma das maiores consultoras do mundo retirou recentemente um relatório interno depois de se descobrir que parte do conteúdo tinha sido gerado por inteligência artificial com informações falsas. A KPMG publicou um estudo sobre a adoção de IA nas empresas, mas foi obrigada a removê-lo quando ficou claro que alguns dos dados apresentados não correspondiam à realidade. O caso tornou-se um exemplo marcante dos riscos que as ferramentas de IA generativa ainda representam no mundo profissional.
O que são as chamadas alucinações de IA
Quando falamos em alucinações no contexto da inteligência artificial, não estamos a falar de ficção científica. O termo descreve um comportamento muito concreto: os modelos de linguagem, como o ChatGPT ou outros semelhantes, podem produzir respostas que parecem completamente credíveis mas que são factualmente incorretas. Estatísticas inventadas, citações de estudos que nunca existiram, nomes de especialistas que não publicaram o que lhes é atribuído. Tudo escrito com a mesma confiança de quem sabe do que está a falar.
A melhor forma de perceber este fenómeno é pensar num colaborador muito articulado que, quando não sabe a resposta, em vez de admitir a ignorância, inventa uma resposta plausível com total convicção. É exatamente isso que acontece com estes sistemas: foram treinados para produzir texto coerente, não para verificar a veracidade do que afirmam.
Como é que um erro assim chegou a um relatório da KPMG
Este caso mostra que o problema não afeta apenas utilizadores inexperientes. Mesmo em organizações com recursos consideráveis e equipas especializadas, a pressão para produzir conteúdo rapidamente pode levar a que os resultados gerados por IA não sejam verificados com o rigor necessário. O relatório passou por várias etapas antes de ser publicado, o que levanta questões sérias sobre os processos de revisão quando se utiliza inteligência artificial como ferramenta de produção de conteúdo.
A situação é comparável ao que aconteceria se uma empresa usasse uma calculadora com um erro de software sem nunca verificar os resultados. A ferramenta parece funcionar, os números aparecem no ecrã, mas ninguém questionou se o resultado fazia sentido.
O que nós, enquanto utilizadores de IA, devemos aprender com isto
A lição principal não é abandonar as ferramentas de inteligência artificial. É compreender o papel que devem desempenhar no nosso trabalho. A IA generativa é extraordinariamente útil para rascunhar ideias, estruturar argumentos, resumir textos ou acelerar tarefas repetitivas. No entanto, quando se trata de factos, números, estudos ou citações, a verificação humana é insubstituível.
Uma prática recomendada é tratar qualquer dado específico gerado por IA como uma pista de investigação e não como uma conclusão. Se um modelo afirma que determinado estudo demonstrou algo, o próximo passo deve ser sempre procurar esse estudo numa fonte primária antes de o utilizar em qualquer documento profissional.
O impacto na reputação e as consequências reais
O caso da KPMG tem uma dimensão que vai além do erro técnico. Uma consultora da sua dimensão constrói a sua autoridade precisamente na fiabilidade dos dados que apresenta. Retirar um relatório após publicação é um sinal de alarme para clientes, parceiros e para o mercado em geral. A pergunta que muitos passam a fazer é inevitável: quantos outros documentos passaram pelo mesmo processo sem que os erros tivessem sido detetados?
Este episódio reforça a necessidade de as organizações desenvolverem políticas claras sobre o uso de IA na produção de conteúdo. Não basta adotar as ferramentas. É necessário definir quem verifica, como verifica e qual é a responsabilidade de cada interveniente no processo.
O equilíbrio entre velocidade e rigor
Vivemos num momento em que a pressão para produzir mais conteúdo, mais depressa, é enorme. As ferramentas de IA respondem a essa pressão de forma sedutora. Mas o caso da KPMG lembra-nos que a velocidade sem verificação pode ser mais cara do que a lentidão com rigor. A reputação, uma vez afetada, recupera-se muito mais lentamente do que o tempo poupado na produção de um relatório.
Para os utilizadores comuns, a mensagem é simples: a IA é um assistente poderoso, mas a responsabilidade editorial continua a ser humana. Usar estas ferramentas com consciência é, hoje, uma competência tão importante como saber pesquisar no Google.
Fonte: Notícia Original
