Quando pensamos em segurança aérea, a maioria das pessoas sente uma confiança instintiva. Os aviões modernos são extraordinariamente seguros, e grande parte dessa segurança deve se à existência de organismos reguladores rigorosos, como a FAA nos Estados Unidos, que certificam cada aeronave, treinam pilotos e investigam incidentes antes que se tornem catástrofes. A empresa de inteligência artificial Anthropic acredita que este modelo é exatamente o que o setor da IA precisa adotar com urgência.
O argumento da Anthropic: segurança antes de velocidade
A Anthropic, criadora do assistente de IA Claude, publicou recentemente um conjunto de propostas em que defende a criação de um quadro regulatório para os modelos de IA mais avançados, inspirado no funcionamento da Administração Federal de Aviação norte americana. A ideia central é simples: assim como um avião não pode transportar passageiros sem ter passado por testes rigorosos e recebido certificação oficial, um modelo de IA com capacidades extremamente avançadas não deveria ser lançado ao público sem avaliações de segurança independentes e aprovação de uma entidade reguladora.
Para a Anthropic, nem toda a inteligência artificial necessita deste nível de escrutínio. O foco recai sobre os chamados modelos de fronteira, ou seja, os sistemas mais potentes e capazes que existem em cada momento. São estes que apresentam os riscos mais difíceis de prever e controlar.
O que significa isto na prática para os utilizadores comuns
A proposta tem implicações concretas para quem usa ferramentas de IA no dia a dia, mesmo que de forma indireta. Se uma regulação ao estilo FAA fosse implementada, os utilizadores poderiam ter maior garantia de que os sistemas com que interagem foram submetidos a testes de segurança por entidades independentes, e não apenas pelos próprios criadores. Seria o equivalente a saber que o avião em que embarcamos foi inspecionado por um organismo externo e não apenas pela companhia aérea.
Neste momento, a grande maioria dos modelos de IA é avaliada internamente pelas próprias empresas que os desenvolvem. Este cenário levanta questões legítimas sobre conflitos de interesse: será que uma empresa tem todos os incentivos para identificar e divulgar publicamente os riscos dos seus próprios produtos? A regulação independente existe precisamente para responder a esta questão noutros setores de alto risco.
Uma posição que surpreende pela fonte
Há algo particularmente relevante neste debate: a Anthropic é ela própria uma das empresas que desenvolve os modelos que propõe regular. Esta posição pode parecer contraditória à primeira vista, mas a empresa argumenta que é precisamente por isso que a defende. Na perspetiva da Anthropic, quem está na linha da frente do desenvolvimento destes sistemas tem uma responsabilidade acrescida de alertar para os riscos que os outros ainda não conseguem ver claramente.
Esta postura contrasta com a de outras empresas do setor que resistem à regulação, alegando que esta pode travar a inovação e colocar as empresas ocidentais em desvantagem competitiva face a concorrentes de países com menos restrições.
Regulação e inovação: inimigos ou aliados
O debate sobre se a regulação trava ou protege a inovação tecnológica não é novo. No setor automóvel, a obrigatoriedade dos cintos de segurança e dos airbags foi inicialmente vista pela indústria como um custo desnecessário. Hoje, ninguém questiona que essas medidas salvaram milhões de vidas sem destruir a indústria automóvel.
A Anthropic usa um raciocínio semelhante. Regulação bem desenhada não impede o progresso. Pelo contrário, pode criar as condições para que a tecnologia seja adotada com mais confiança por mais pessoas, precisamente porque existe um nível mínimo garantido de segurança verificada externamente.
O que falta para isto se tornar realidade
A proposta da Anthropic é, por agora, uma posição pública e um conjunto de recomendações. Não existe ainda, nem nos Estados Unidos nem na Europa, um organismo com as características que a empresa propõe. A União Europeia avançou com o AI Act, que estabelece categorias de risco e obrigações para os sistemas de IA, mas críticos argumentam que a lei ainda não aborda com profundidade suficiente os riscos específicos dos modelos de fronteira mais avançados.
Para os utilizadores e para as empresas que dependem cada vez mais de ferramentas baseadas em inteligência artificial, o debate sobre regulação deixou de ser uma questão académica. Torna se uma questão prática sobre quem verifica, quem certifica e quem responde quando algo corre mal.
Fonte: Notícia Original
