Nos últimos anos, a inteligência artificial entrou silenciosamente na vida dos mais novos. Está nos jogos que jogam, nos vídeos que assistem, nas aplicações que usam para aprender. Mas até que ponto esses sistemas foram desenhados com a segurança das crianças em mente? É exatamente esta pergunta que um grupo internacional de especialistas decidiu colocar em cima da mesa, antes de uma cimeira histórica das Nações Unidas dedicada ao futuro da IA.
O que está a acontecer e porquê é importante
Um conjunto de organizações e investigadores de vários países formalizou um apelo urgente às entidades que vão participar na próxima cimeira da ONU sobre inteligência artificial. O pedido é claro: antes de se avançar com qualquer grande decisão global sobre IA, é necessário estabelecer salvaguardas específicas para proteger os utilizadores mais jovens.
Para perceber a dimensão do problema, pensemos numa biblioteca pública. Se essa biblioteca fosse construída sem considerar que crianças também a frequentam, não teria secções separadas, não teria livros adequados a cada faixa etária e não teria qualquer filtro no acesso a conteúdos para adultos. A IA funciona de forma semelhante: quando é desenvolvida sem pensar nos mais novos, pode expô-los a conteúdos prejudiciais, manipular os seus comportamentos ou recolher dados sensíveis sem qualquer controlo.
O que os especialistas estão a pedir concretamente
As recomendações apresentadas ao grupo de trabalho da ONU incluem várias medidas práticas. Entre elas, destaca-se a exigência de que os sistemas de IA que possam ser acedidos por crianças passem por avaliações de impacto específicas antes de serem lançados ao público. Ou seja, não basta testar se a tecnologia funciona bem. É preciso testar se funciona bem para os mais novos, sem os prejudicar.
Outro ponto central é a transparência algorítmica. Em linguagem simples, isto significa que as empresas deverão ser obrigadas a explicar de forma compreensível como os seus sistemas tomam decisões que afetam crianças. Por exemplo, de que forma um algoritmo decide o próximo vídeo a mostrar a um utilizador de dez anos? Essa lógica não pode continuar a ser uma caixa negra.
O grupo defende ainda que os países membros da ONU criem legislação nacional alinhada com estes princípios, e que exista uma cooperação internacional para evitar que empresas contornem as regras ao operar em países com menor regulação.
Porque é que a cimeira da ONU é uma oportunidade única
As cimeiras internacionais sobre tecnologia têm um peso enorme. Quando os países se comprometem em conjunto com determinados princípios, fica muito mais difícil para qualquer empresa ignorá-los. Foi assim com os acordos climáticos, foi assim com a proteção de dados na Europa através do Regulamento Geral de Proteção de Dados, e pode ser assim com a segurança da IA.
O momento é particularmente sensível porque a IA generativa, aquela que cria textos, imagens e até vozes sintéticas, está a crescer a um ritmo que as leis atuais não conseguem acompanhar. Sem uma intervenção coordenada agora, o risco é que daqui a cinco anos os danos já estejam feitos.
O que isto significa para nós, em Portugal
Portugal, como membro da União Europeia, já está inserido num quadro regulatório que inclui o AI Act europeu, aprovado em 2024. No entanto, as regras europeias, embora avançadas, nem sempre cobrem todos os cenários possíveis relacionados com menores. Um esforço coordenado a nível da ONU poderia reforçar e complementar o que já existe na Europa.
Para os pais, educadores e criadores de conteúdo digital que acompanham a Arena Digital, esta é uma notícia que merece atenção. Não porque a tecnologia seja inimiga das crianças, muito pelo contrário. Mas porque a tecnologia mais segura é sempre aquela que foi pensada para as pessoas certas, desde o início.
A conversa sobre IA responsável deixou de ser apenas técnica. É agora também uma conversa sobre os valores que queremos transmitir às gerações que estão a crescer num mundo cada vez mais moldado por algoritmos.
Fonte: Notícia Original
