Um advogado norte-americano foi multado em cinco mil dólares depois de apresentar, num caso real de homicídio, referências a jurisprudência que simplesmente não existia. As citações, os nomes dos juízes, as datas e os números dos processos eram todos convincentes, detalhados e completamente falsos. A origem do problema? Uma ferramenta de inteligência artificial que “alucionou” fontes jurídicas do nada.
O que significa uma IA “alucinar”?
No vocabulário da inteligência artificial, o termo “alucinação” descreve o momento em que um modelo de linguagem como o ChatGPT inventa informação com uma confiança absoluta e perturbadora. Não se trata de um erro de cálculo simples. É mais parecido com um colaborador que, ao ser questionado sobre algo que não sabe, em vez de admitir a ignorância, inventa uma resposta plausível e apresenta-a com toda a seriedade. O modelo não “sabe” que está a mentir. Para ele, está apenas a completar um padrão de linguagem.
Neste caso concreto, o advogado pediu à IA que o ajudasse a encontrar precedentes jurídicos relevantes para a defesa do seu cliente num processo de homicídio. A ferramenta devolveu uma lista de casos com nomes, datas e citações aparentemente legítimas. O problema é que nenhum desses casos existia nos registos reais dos tribunais norte-americanos.
Porque é que isto é tão perigoso num contexto jurídico?
O direito, especialmente o sistema anglo-saxónico, assenta em precedentes. Cada decisão judicial é influenciada por decisões anteriores. Quando um advogado cita um caso, o juiz e a parte contrária podem verificar esse caso, ler a sua fundamentação e avaliar a sua relevância. Ao apresentar casos fictícios, o advogado não só enganou o tribunal como colocou em risco a integridade de todo o processo judicial e, potencialmente, o futuro do seu cliente.
A situação é comparável a um médico que, em vez de consultar os registos clínicos reais de um doente, pede a uma IA que invente um historial convincente e o usa para justificar um tratamento. A aparência de rigor esconde um vazio de verdade que pode ter consequências devastadoras.
Qual é a lição prática para todos nós?
Este episódio não significa que as ferramentas de IA são inúteis ou que devem ser abandonadas. Significa que são ferramentas com limitações muito específicas que os utilizadores têm a obrigação de compreender antes de as usar em contextos de alto risco.
Os modelos de linguagem são excelentes a redigir, a resumir, a estruturar ideias e a sugerir caminhos de pesquisa. São muito pouco fiáveis quando se trata de citar factos concretos, datas, referências bibliográficas ou jurisprudência específica. Qualquer informação factual produzida por uma IA deve ser verificada em fontes primárias antes de ser usada em qualquer contexto profissional ou legal.
A multa de cinco mil dólares imposta ao advogado serve como um aviso claro: a responsabilidade pelo conteúdo que se apresenta é sempre humana, independentemente da ferramenta que o gerou. A IA pode ser um ponto de partida. Nunca pode ser a última palavra.
Fonte: Notícia Original
