Quando procuramos um hotel numa plataforma como o Tripadvisor, a tendência natural é confiar nos resumos automáticos que aparecem no topo da página. Afinal, esses textos parecem condensar centenas de avaliações em poucos segundos, poupando tempo e esforço. O problema, segundo uma investigação recente da organização de defesa do consumidor Which?, é que esses resumos gerados por inteligência artificial podem estar a pintar um quadro rosado de alojamentos que, na realidade, apresentam problemas sérios de segurança.
O que aconteceu exatamente?
A entidade britânica Which? analisou de forma sistemática os resumos produzidos pela ferramenta de IA do Tripadvisor e comparou os textos gerados com o conteúdo real das avaliações escritas pelos utilizadores. Os resultados foram preocupantes: em vários casos, a IA produziu descrições elogiosas de hotéis que tinham acumulado queixas concretas sobre infraestruturas em mau estado, problemas de higiene e até riscos físicos para os hóspedes. O sistema parecia “filtrar” o negativo e amplificar o positivo de forma desproporcional.
Porque é que a IA comete este tipo de erro?
Para perceber o problema, vale a pena pensar numa analogia simples. Pensemos num assistente que lê mil cartas sobre um restaurante e depois escreve um resumo para afixar na montra. Se esse assistente foi treinado para ser agradável e encorajador, pode inconscientemente suavizar as críticas e destacar os elogios, mesmo que a maioria das cartas fale de baratas na cozinha.
Os modelos de linguagem que alimentam estas ferramentas são treinados com enormes quantidades de texto e aprendem padrões estatísticos sobre como as pessoas escrevem. No entanto, não compreendem o peso moral de certas informações. Uma queixa sobre “escadas sem corrimão” e um comentário sobre “pequeno almoço delicioso” podem ter o mesmo peso estatístico para o modelo, mesmo que para um hóspede real a primeira seja infinitamente mais relevante. A IA não distingue a urgência de uma questão de segurança da mera preferência pessoal.
O problema da confiança delegada
Há aqui um fenómeno particularmente relevante para os utilizadores que usam plataformas digitais no quotidiano. Quando lemos uma avaliação escrita por uma pessoa real, o nosso cérebro ativa automaticamente o ceticismo. Sabemos que aquela pessoa pode estar a exagerar, a ter um mau dia ou a ter expectativas muito específicas. Ao ler um “resumo de IA”, porém, muitos utilizadores tendem a atribuir ao texto uma neutralidade e objetividade que ele simplesmente não tem. A interface transmite autoridade, e essa autoridade pode ser perigosa quando o conteúdo subjacente não a justifica.
Este é, no fundo, o risco central da automação sem supervisão adequada: não é que a máquina minta deliberadamente, é que a máquina não sabe o que é importante para a segurança e o bem estar de uma pessoa real.
O que diz o Tripadvisor?
A plataforma respondeu às conclusões da Which? afirmando que a ferramenta está em constante melhoria e que os resumos são sempre acompanhados pelas avaliações originais, permitindo que os utilizadores verifiquem a informação por conta própria. Ainda assim, a investigação levanta uma questão estrutural que vai além do Tripadvisor: em que medida estamos a delegar decisões importantes a sistemas que ainda não estão preparados para as tomar com responsabilidade?
Como nos protegemos enquanto utilizadores?
A recomendação prática mais importante é tratar qualquer resumo gerado por IA como um ponto de partida, nunca como uma conclusão. Antes de reservar um alojamento, especialmente em viagens com crianças ou pessoas com mobilidade reduzida, vale a pena percorrer as avaliações mais recentes e filtrar especificamente pelas de uma ou duas estrelas. São essas que contêm, muitas vezes, os alertas mais concretos sobre segurança e condições físicas do espaço.
Além disso, é útil desconfiar de resumos excessivamente entusiastas em propriedades com uma média de classificação mediana. Quando o texto automatizado parece demasiado positivo face à pontuação geral, é sinal de que algo pode não estar a ser refletido com fidelidade.
A lição mais ampla sobre IA e responsabilidade
Este caso do Tripadvisor é um exemplo concreto de um debate muito maior que atravessa toda a indústria tecnológica: quem é responsável quando uma IA produz informação que leva alguém a tomar uma má decisão? A entidade que treinou o modelo? A plataforma que o implementou? O utilizador que confiou nele sem verificar?
Por agora, as respostas legais e éticas ainda estão a ser construídas. O que podemos fazer, enquanto utilizadores informados, é não abdicar do nosso próprio sentido crítico só porque uma interface parece moderna e conveniente. A tecnologia é uma ferramenta poderosa, mas a última linha de defesa continua a ser a nossa capacidade de questionar o que lemos.
Fonte: Notícia Original
