Há certas vozes que, quando falam, merecem atenção redobrada. Não por serem alarmistas, mas precisamente porque vieram de dentro das maiores empresas que constroem os sistemas de inteligência artificial mais poderosos do mundo. É o caso de Jack Clark, cofundador da Anthropic e antigo diretor de política da OpenAI, que foi a público com um alerta que poucos ousam fazer com tanta clareza: estamos a apostar as nossas vidas no desenvolvimento da IA sem termos a certeza de que essa aposta vai correr bem.
O que disse exatamente e porquê importa
Clark descreveu o atual momento do desenvolvimento da inteligência artificial como uma corrida sem travões. As empresas avançam a grande velocidade, os governos tentam acompanhar sem sucesso, e a sociedade em geral ainda nem percebeu bem o que está a acontecer. A sua preocupação central não é a ficção científica de robôs que se revoltam. É algo muito mais subtil e por isso mesmo mais perigoso: sistemas de IA que tomam decisões críticas em áreas como saúde, finanças, infraestruturas e segurança nacional, sem que exista supervisão humana adequada nem mecanismos de responsabilização claros.
Para perceber melhor, podemos pensar na aviação. Quando os primeiros aviões foram construídos, houve acidentes graves antes de existirem normas de segurança, caixas negras, torres de controlo e regulação internacional. O setor aprendeu com os erros, mas pagou um preço humano elevado por isso. Clark argumenta que com a IA não temos esse luxo: a escala, a velocidade e o impacto potencial são incomparavelmente maiores, e o preço dos erros pode ser catastrófico antes de termos tempo para corrigir o rumo.
O paradoxo das pessoas que mais sabem
Um dos aspetos mais perturbadores desta situação é aquilo que os especialistas chamam de “corrida ao precipício”. As mesmas pessoas que melhor entendem os riscos são as que mais rapidamente desenvolvem os sistemas. Clark é um exemplo perfeito deste paradoxo: ajudou a construir alguns dos modelos de IA mais avançados do mundo e é simultaneamente um dos que mais alto grita que a velocidade atual é insustentável.
Isto não é hipocrisia. É o resultado de um sistema de incentivos que empurra as organizações a avançar, sob pena de ficarem para trás numa competição global. Se a Anthropic abrandar, a OpenAI avança. Se os Estados Unidos regularem mais, a China acelera. Nenhum jogador individual consegue sair da corrida sem perder terreno, mesmo que todos reconheçam que a corrida em si é perigosa.
O que está concretamente em risco
Clark e outros investigadores apontam para vários cenários de risco que não pertencem ao domínio da ficção. Entre os mais preocupantes está a utilização de sistemas de IA em decisões militares autónomas, onde a velocidade de resposta pode ser tão rápida que o julgamento humano fica simplesmente fora da equação. Outro cenário envolve infraestruturas críticas como redes elétricas, sistemas de água ou redes financeiras, onde um sistema de IA mal alinhado com os objetivos humanos pode causar danos em cascata.
Existe ainda o risco mais gradual e menos dramático, mas igualmente sério: a erosão silenciosa da capacidade humana de tomar decisões. Quando delegamos cada vez mais escolhas em sistemas automáticos, perdemos progressivamente a competência e a vontade de questionar essas escolhas. É como deixar de saber cozinhar porque existe sempre uma aplicação de entrega ao domicílio: funciona até ao dia em que não funciona.
O que Clark propõe e porque é difícil de implementar
A proposta central de Clark passa por criar organismos internacionais de supervisão da IA com dentes reais, ou seja, com poder de auditar, abrandar e mesmo suspender o desenvolvimento de sistemas que não cumpram requisitos mínimos de segurança. A analogia aqui é com a Agência Internacional de Energia Atómica, que supervisiona o desenvolvimento de tecnologia nuclear a nível global.
O problema é que a analogia tem limites importantes. O software de IA não tem peso nem ocupa espaço físico. Pode ser copiado, transferido e desenvolvido em qualquer lugar do mundo com uma ligação à internet e poder computacional suficiente. Criar um regime de verificação e controlo eficaz é tecnicamente muito mais complexo do que inspecionar centrais nucleares.
O que podemos fazer como sociedade
A mensagem de Clark não é de desespero. É de urgência. E a urgência implica ação a vários níveis. Os cidadãos podem e devem exigir que os seus representantes políticos compreendam estas questões com profundidade suficiente para legislar de forma informada. Os profissionais de tecnologia têm a responsabilidade de levantar questões éticas dentro das organizações onde trabalham. E as próprias empresas de IA precisam de aceitar que a velocidade não pode ser o único critério de sucesso.
Portugal, como membro da União Europeia, está de certa forma numa posição privilegiada. O AI Act europeu é o primeiro grande quadro regulatório do mundo para a inteligência artificial. Não é perfeito, mas representa exatamente o tipo de abordagem que Clark defende: colocar a segurança humana no centro, antes que os acidentes aconteçam e não depois.
O alerta de Jack Clark é incómodo precisamente porque vem de alguém que não pode ser descartado como desinformado ou como inimigo do progresso. É o aviso de um construtor que olha para o que ajudou a criar e pede que paremos um momento para perguntar se sabemos realmente para onde vamos e o que fazemos se algo correr mal.
Fonte: Notícia Original
