Durante anos, a criação de conteúdo falso com o rosto ou a voz de outra pessoa exigia conhecimentos técnicos avançados e ferramentas caras. Hoje, com a proliferação de ferramentas de inteligência artificial generativa, esse processo tornou-se acessível a qualquer pessoa com um telemóvel e uma ligação à internet. É precisamente neste contexto que a Meta tomou uma decisão que merece atenção de todos os que utilizam o Instagram.
O que estava a acontecer e por que razão foi problemático
O Instagram disponibilizava uma funcionalidade que permitia aos utilizadores criar versões geradas por inteligência artificial de contas públicas, incluindo celebridades, figuras políticas e criadores de conteúdo. Na prática, funcionava como uma fábrica de duplos digitais: bastava selecionar o perfil de uma figura pública e a plataforma gerava uma versão sintética dessa pessoa, capaz de interagir ou de ser representada em contextos que nunca existiram na realidade.
Para entender o perigo, podemos comparar esta situação a um estúdio de máscaras de cera que, em vez de expor as figuras num museu controlado, as distribuísse gratuitamente pela rua e permitisse a qualquer pessoa usá-las para se fazer passar por outra. O resultado seria inevitavelmente a desorientação, a manipulação e a perda de confiança no que vemos e ouvimos.
O conceito de deepfake explicado de forma simples
Um deepfake é, essencialmente, um conteúdo visual ou auditivo fabricado por algoritmos de inteligência artificial que aprende os padrões do rosto, da voz ou dos gestos de uma pessoa real e os reproduz de forma convincente. O nome resulta da combinação das palavras inglesas “deep learning” (aprendizagem profunda, a tecnologia subjacente) e “fake” (falso).
O problema central não é a tecnologia em si, mas o uso que dela se faz. Quando aplicada sem consentimento e sem supervisão, esta capacidade pode ser usada para criar declarações falsas atribuídas a políticos, cenas íntimas não consentidas de pessoas reais ou esquemas de fraude que exploram a imagem de figuras de confiança pública.
A decisão da Meta e o que muda na prática
Face à pressão crescente de organizações de defesa dos direitos digitais, de legisladores europeus e de vozes da sociedade civil, a Meta optou por desativar a funcionalidade que tornava possível a criação de representações de IA de contas públicas no Instagram. Esta medida significa que os utilizadores deixam de ter acesso a uma ferramenta que, pela sua natureza, facilitava a produção de conteúdo enganoso sem o conhecimento ou a autorização das pessoas retratadas.
É importante sublinhar que esta não é uma solução definitiva para o problema dos deepfakes. Outras plataformas e ferramentas externas continuam a permitir a criação deste tipo de conteúdo. No entanto, representa um sinal importante: as grandes plataformas tecnológicas começam a reconhecer que disponibilizar estas capacidades sem salvaguardas adequadas tem consequências reais para pessoas reais.
O que os utilizadores devem saber para se proteger
Mesmo com esta alteração, a literacia digital continua a ser a melhor defesa disponível. Ao consumir conteúdo online, especialmente vídeos curtos ou declarações atribuídas a figuras públicas, convém adotar uma postura crítica. Alguns sinais de alerta incluem movimentos faciais ligeiramente artificiais, inconsistências na iluminação do rosto em relação ao ambiente, ou um tom de voz que não corresponde ao registo habitual da pessoa em questão.
Ferramentas de verificação de factos e plataformas especializadas na deteção de conteúdo sintético estão cada vez mais disponíveis, e o seu uso regular é um hábito que todos os utilizadores de redes sociais deveriam cultivar. A tecnologia avança rapidamente, mas a capacidade de questionar o que se vê continua a ser uma competência exclusivamente humana e insubstituível.
Um passo na direção certa, mas o caminho é longo
A decisão da Meta é um exemplo de como a pressão pública e regulatória pode influenciar as escolhas das grandes empresas tecnológicas. Na Europa, o Regulamento de Inteligência Artificial da União Europeia está a introduzir obrigações específicas para sistemas de IA de alto risco, incluindo aqueles que manipulam a imagem ou a identidade de pessoas. Portugal, enquanto Estado membro, está alinhado com este quadro regulatório, o que significa que os utilizadores nacionais terão progressivamente mais proteções legais neste domínio.
O que aconteceu no Instagram serve como um lembrete de que a inovação tecnológica e a responsabilidade ética precisam de caminhar lado a lado. Cada funcionalidade lançada sem uma avaliação séria do seu potencial de abuso é uma porta deixada aberta para a desinformação. E fechar essa porta, mesmo que tardiamente, continua a ser melhor do que deixá-la escancarada.
Fonte: Notícia Original
