Durante anos, as empresas correram para adotar ferramentas de inteligência artificial sem pensar muito no que poderia correr mal. Agora, esse cenário está a mudar rapidamente. A HiddenLayer, uma empresa especializada em proteger sistemas de IA, acaba de receber um investimento de 100 milhões de dólares, num sinal claro de que o mercado levou a sério uma ameaça que muitos ignoravam.
O que é que a HiddenLayer realmente faz?
Pensemos num banco que instala um cofre ultra moderno mas esquece de proteger a porta dos fundos. É exatamente isso que acontece quando as organizações implementam modelos de IA sofisticados sem proteger adequadamente a camada onde esses modelos operam. A HiddenLayer funciona como um sistema de vigilância especializado que monitoriza os modelos de IA em tempo real, detetando tentativas de manipulação, extração de dados sensíveis e ataques específicos a esses sistemas.
Os modelos de inteligência artificial são, na sua essência, conjuntos de padrões matemáticos treinados com enormes quantidades de dados. Ora, esses padrões podem ser explorados de formas que os sistemas de cibersegurança tradicionais simplesmente não conseguem detetar, porque foram desenhados para proteger redes e ficheiros, não lógica matemática.
Porque é que este investimento acontece agora?
A resposta está na aceleração da adoção empresarial da IA. Com ferramentas como o ChatGPT, o Copilot da Microsoft e os sistemas de IA generativa a serem integrados em processos críticos, como recursos humanos, contabilidade e apoio ao cliente, a superfície de ataque disponível para agentes maliciosos expandiu de forma dramática.
Existem ataques conhecidos como “prompt injection”, onde alguém engana deliberadamente um modelo de IA para que este ignore as suas instruções originais e execute ações não autorizadas. Há também o chamado “model stealing”, em que um atacante replica o comportamento de um modelo proprietário sem ter acesso direto ao mesmo. Estas ameaças são reais, documentadas e cada vez mais frequentes no contexto empresarial.
O que muda para as empresas e para os utilizadores comuns?
Para as organizações que usam IA nos seus produtos e serviços, esta tendência representa uma nova camada de responsabilidade. Não basta escolher um bom modelo de IA. É preciso garantir que esse modelo não pode ser manipulado para expor informação confidencial dos clientes ou para produzir resultados enviesados por interferência externa.
Para os utilizadores finais, o impacto é mais indireto mas igualmente relevante. Quando se utiliza um chatbot de apoio ao cliente, um assistente médico digital ou uma ferramenta de análise financeira baseada em IA, existe uma expectativa legítima de que o sistema está a funcionar como foi desenhado e não foi comprometido por terceiros. Empresas como a HiddenLayer trabalham precisamente para garantir essa confiança.
Um mercado que está apenas a começar
O investimento de 100 milhões de dólares não é um caso isolado. Representa a consolidação de uma categoria inteira de cibersegurança dedicada especificamente a sistemas de IA. Analistas do setor estimam que este mercado poderá valer vários milhares de milhões de dólares nos próximos cinco anos, à medida que regulamentações como o AI Act europeu obriguem as empresas a demonstrar que os seus modelos são seguros, auditáveis e resistentes a manipulação.
Para Portugal e para o espaço empresarial europeu, esta tendência é particularmente relevante. Com o regulamento europeu de inteligência artificial a entrar progressivamente em vigor, as organizações que ignorarem a segurança dos seus modelos de IA não apenas correm riscos técnicos, como poderão enfrentar consequências regulatórias significativas. Investir em segurança de IA deixou de ser uma opção e passou a ser uma componente essencial de qualquer estratégia digital responsável.
Fonte: Notícia Original
