No mundo do direito, uma citação errada pode destruir um caso inteiro. Foi precisamente isso que quase aconteceu em Portugal, quando um tribunal detetou que decisões judiciais apresentadas numa peça processual simplesmente não existiam. O problema? Tinham sido geradas por inteligência artificial, com toda a confiança e autoridade de documentos reais.
O que aconteceu, exatamente?
Um advogado recorreu ao ChatGPT para pesquisar jurisprudência, ou seja, decisões de tribunais anteriores que sustentassem os seus argumentos. A ferramenta devolveu referências detalhadas: números de processo, datas, tribunais, sumários. Tudo muito convincente. O problema é que, quando o tribunal foi verificar essas fontes, elas não existiam em lado nenhum. O ChatGPT tinha simplesmente inventado os acórdãos, um fenómeno técnico que os especialistas chamam de “alucinação”.
Porque é que a IA “alucina”?
Para perceber este fenómeno, é útil pensar num modelo de linguagem como um estudante extremamente bem lido, mas com uma falha crítica: ele não sabe distinguir o que realmente leu do que poderia logicamente ter lido. O seu cérebro foi treinado para produzir respostas que soam corretas e coerentes, não necessariamente respostas que são corretas e verificáveis.
Quando alguém pergunta ao ChatGPT por acórdãos portugueses sobre um tema específico, o modelo não vai a uma base de dados consultar processos reais. Em vez disso, gera texto com base em padrões estatísticos aprendidos durante o treino. O resultado pode parecer um documento jurídico autêntico, com toda a estrutura, linguagem e formatação esperadas, mas o conteúdo é uma composição probabilística, não uma citação factual.
Este problema é exclusivo do direito?
Não. As alucinações acontecem em qualquer domínio que exija precisão factual: medicina, história, ciência, finanças. No entanto, o direito é particularmente vulnerável porque a sua lógica assenta em precedentes verificáveis. Uma referência inventada numa consulta médica pode ser perigosa. Numa peça processual, pode resultar em sanções disciplinares para o advogado e em danos reais para o cliente.
O caso português não é isolado. Nos Estados Unidos, o advogado Steven Schwartz foi multado em 2023 depois de apresentar ao tribunal de Nova Iorque seis decisões judiciais completamente fictícias geradas pelo ChatGPT. O padrão é sempre o mesmo: o profissional confiou na ferramenta sem verificar as fontes de forma independente.
O que é que os utilizadores e profissionais devem fazer?
A lição não é abandonar a inteligência artificial. É usar a ferramenta certa para a tarefa certa. O ChatGPT é excelente para rascunhar argumentos, resumir conceitos complexos, organizar ideias e melhorar a clareza de um texto. É uma ferramenta de raciocínio e de escrita. Para pesquisa factual e jurídica, o caminho correto passa por bases de dados verificadas como o IGFEJ, o Diário da República Eletrónico ou plataformas jurídicas com fontes rastreáveis.
Uma boa regra prática é a seguinte: qualquer informação concreta gerada por um modelo de linguagem, seja uma data, um nome, um número de processo ou uma estatística, deve ser tratada como uma hipótese a confirmar, não como um facto estabelecido. A IA pode apontar uma direção. Cabe ao utilizador confirmar se o caminho existe de verdade.
O que este caso revela sobre a adoção responsável da IA
Este incidente é um sinal saudável de maturidade no debate sobre inteligência artificial. Mostra que os sistemas de controlo, neste caso o próprio tribunal, funcionam. Mostra também que a adoção acrítica de qualquer tecnologia, por mais impressionante que pareça, tem consequências reais.
A Arena Digital defende que compreender os limites de uma ferramenta é tão importante quanto conhecer as suas capacidades. O ChatGPT não é uma base de dados jurídica. Nunca foi desenhado para o ser. Usá lo como tal é como usar um dicionário para fazer contas: o objeto parece sofisticado, mas não foi construído para aquela função específica.
À medida que a IA entra em profissões de alta responsabilidade, como o direito, a medicina e as finanças, a literacia sobre o funcionamento e os limites destas ferramentas deixa de ser um luxo e passa a ser uma competência essencial.
Fonte: Notícia Original
