Há uma função que parece inofensiva à primeira vista: pedir a um modelo de inteligência artificial avançado que resuma, traduza ou formate um documento. O resultado chega em segundos, parece correto, e o utilizador segue em frente. O problema é que, em muitos casos, o conteúdo que regressa não é exatamente o que estava no original.
O que está realmente a acontecer?
Os modelos de IA de fronteira, ou seja, os sistemas mais avançados disponíveis hoje como o GPT-4o, o Claude ou o Gemini Ultra, foram treinados para serem úteis e fluentes. Isso significa que, quando processam um texto, não fazem uma cópia mecânica palavra a palavra. Fazem algo muito mais sofisticado: interpretam, reorganizam e reconstroem o conteúdo com base no que aprenderam durante o treino. É como pedir a um especialista altamente culto que repita o que acabou de ler: ele vai parafrasear, simplificar e até corrigir o que lhe parece um erro, mesmo que não o seja.
O resultado é que números, datas, nomes próprios, percentagens e cláusulas contratuais podem ser alterados subtilmente. Uma taxa de juro de 3,7% pode tornar-se 3,5%. Uma data de entrega pode avançar uma semana. Uma condição de exclusividade num contrato pode desaparecer ou ser suavizada. Tudo com uma linguagem impecável e um tom de total confiança.
Por que razão os erros são tão difíceis de apanhar?
A resposta está na própria natureza da ferramenta. Os modelos de linguagem são extraordinariamente bons a parecer corretos. O texto gerado não tem hesitações, não tem marcas de incerteza, não tem gaguez. É fluente, bem estruturado e convincente. Isso é precisamente o que os torna perigosos neste contexto.
Pensemos numa analogia: é como receber uma fotocópia de um contrato onde alguém apagou cuidadosamente um parágrafo e substituiu por outro com a mesma tinta e a mesma letra. A diferença entre o original e a cópia pode estar lá, mas o olho humano, habituado a confiar no formato, raramente vai detetá-la sem uma comparação direta e atenta.
Estudos recentes de investigadores em cibersegurança e fiabilidade de IA mostram que este fenómeno, conhecido em inglês como “hallucination propagation” ou “content drift”, é mais frequente precisamente em documentos longos e técnicos, onde a atenção do utilizador naturalmente baixa.
Quem é mais vulnerável a este problema?
Qualquer pessoa que use IA para processar documentos profissionais está exposta. Mas há perfis com risco mais elevado: advogados que pedem resumos de contratos, contabilistas que usam IA para rever relatórios financeiros, jornalistas que solicitam traduções de fontes estrangeiras, e profissionais de saúde que recorrem a IA para sintetizar literatura médica.
Em Portugal, onde a adoção de ferramentas de IA no setor das PME tem crescido de forma acelerada mas muitas vezes sem formação adequada, este risco é particularmente relevante. Muitos utilizadores assumem que se a IA devolve um texto bem escrito, o conteúdo está correto. Essa suposição pode ter consequências sérias.
O que podemos fazer para nos proteger?
A primeira e mais importante recomendação é nunca usar IA como única instância de verificação em documentos com implicações legais, financeiras ou médicas. A IA deve ser um assistente, não um árbitro final.
Em segundo lugar, quando se pede a um modelo que processe um documento, convém dar instruções muito específicas: “reproduz este texto sem alterar nenhum número, nome ou data” ou “indica entre aspas todas as secções que copiaste diretamente”. Estas instruções não eliminam o risco, mas reduzem-no de forma significativa.
Em terceiro lugar, sempre que possível, devemos comparar o output da IA com o documento original, especialmente em secções com dados numéricos. Ferramentas de comparação de texto como o “diff” ou funcionalidades nativas de processadores de texto podem ser aliadas valiosas neste processo.
Por fim, a literacia digital continua a ser a melhor defesa. Saber como os modelos de linguagem funcionam, conhecer as suas limitações e manter uma postura crítica perante os seus resultados não é apenas recomendável: é cada vez mais uma competência essencial no mundo profissional moderno.
A IA não mente. Mas também não garante a verdade.
É importante sublinhar que os modelos de IA não alteram documentos com intenção de enganar. Não há malícia no processo. O que existe é uma arquitetura que foi desenhada para gerar texto provável e coerente, não necessariamente exato. Essa distinção é fundamental para entender o problema e para o abordar com inteligência em vez de alarmismo.
Na Arena Digital, acreditamos que a melhor forma de usar estas ferramentas poderosas é com os olhos bem abertos: aproveitando tudo o que têm de extraordinário, sem esquecer onde terminam as suas garantias.
Fonte: Notícia Original
