Um pesquisador plantou cerca de 2 milhões de “canários” — credenciais e marcadores-isca controlados por ele — em requisições distribuídas por uma ampla rede de serviços de IA para descobrir o que acontece com informações sensíveis confiadas a esses sistemas. O resultado, segundo a Ars Technica, foi um ecossistema que vazou dados altamente sensíveis “como uma peneira”, com episódios de roubo de prompts e violações de privacidade.
Como funcionou o experimento
O pesquisador HD Moore montou um conjunto de chaves de acesso da AWS vinculadas a contas vazias e sob seu controle, senhas de serviços como SSH, URLs únicas, nomes de DNS e referências a repositórios git privados. Nenhuma dessas sequres havia sido usada antes. Cada segredo foi inserido em exatamente um prompt, enviado a um único provedor. Se algum deles aparecesse em outro lugar, o “canário” permitiria identificar em qual elo da cadeia o vazamento ocorreu.
O ponto central é a arquitetura atual dos aplicativos de IA: muitos não falam diretamente com Anthropic, OpenAI ou outro modelo de grande porte, e sim com roteadores de IA (também chamados de gateways ou brokers, como OpenRouter ou Vercel), que recebem enormes volumes de prompts e os direcionam a um motor de inferência disponível — o mais barato ou o mais adequado à tarefa. Cada salto nessa cadeia é um novo ponto em que dados de usuários finais podem ser copiados, logados ou expostos.
Shadow AI: o risco que já está dentro da empresa
Para empresas, o achado importa menos pelo experimento em si e mais pelo que ele revela sobre o uso real de IA nas organizações. Quando um funcionário cola dados de clientes, código interno ou credenciais em uma ferramenta de IA “conveniente”, esses dados podem atravessar três, quatro ou mais intermediários — nenhum dos quais auditado pelo time de segurança. É o shadow AI: adoção sem governança, invisível para o DLP tradicional.
Como auditar a jornada dos dados em serviços de IA
- Mapear os fluxos: quais ferramentas de IA a organização usa, direta ou indiretamente, e por quais gateways os dados passam.
- Política de dados em prompts: definir explicitamente o que nunca pode ser enviado a modelos externos (credenciais, dados pessoais, código proprietário sensível).
- Gestão de segredos: credenciais vivem em cofres, nunca em texto colado em caixas de diálogo de IA.
- Revisão de fornecedores: contratos e políticas de retenção dos roteadores/gateways importam tanto quanto os dos modelos.
- Detecção: canários internos e monitoramento de vazamentos de credenciais também servem como termômetro contínuo.
A cadeia de suprimentos de IA é longa e opaca; o experimento mostra que confiar dados sensíveis a ela sem mapeamento é, na prática, apostar que nenhum dos elos falha.
Fontes
Foto de destaque: Indrajit Das / Wikimedia Commons (CC BY-SA 3.0).
