O aprendizado federado representa uma mudança significativa no cenário do aprendizado de máquina, permitindo que muitos clientes ou dispositivos treinem modelos de forma colaborativa e, ao mesmo tempo, melhorem substancialmente a privacidade dos dados envolvidos.
Ao contrário das abordagens convencionais de aprendizagem centralizada, onde é necessário o compartilhamento de dados brutos de treinamento, a aprendizagem federada permite que os participantes mantenham seus dados individuais localizados, trocando apenas atualizações de modelo. Este método protege informações confidenciais e reduz os riscos associados ao armazenamento central de dados.
No modelo típico de aprendizagem federada, conhecido como aprendizagem federada assistida por servidor, um servidor central desempenha um papel crucial. Ele coordena o processo de treinamento enviando o modelo global atual aos clientes e integrando seus modelos locais para melhorar iterativamente o modelo geral.
No entanto, esta centralização apresenta vários inconvenientes. Primeiro, a carga de comunicação é imensa; o servidor deve lidar com grandes quantidades de dados enviados e recebidos de potencialmente milhares de clientes. Segundo, a dependência de um único servidor introduz uma vulnerabilidade; se o servidor falhar devido a problemas de hardware ou software, todo o processo de treinamento será interrompido.
Aprendizado federado descentralizado e vulnerabilidades
Para mitigar estes problemas, a aprendizagem federada descentralizada foi proposta como alternativa. Nesta estrutura, o servidor central é removido e os clientes comunicam-se diretamente entre si, compartilhando modelos ponto a ponto. Esta arquitetura não apenas reduz o ponto único de falha, mas também diminui a sobrecarga de comunicação associada a um servidor central. Nosso estudo foi publicado no Anais da Conferência ACM SIGSAC 2024 sobre Segurança de Computadores e Comunicações.
É particularmente benéfico em ambientes onde a confiança numa única entidade central é problemática, ou onde entidades como hospitais ou instituições financeiras relutam em compartilhar dados devido a preocupações com privacidade ou restrições regulatórias. A Figura 1 ilustra as distinções entre aprendizagem federada assistida por servidor e aprendizagem federada descentralizada.
A aprendizagem federada descentralizada, contudo, introduz novos desafios, particularmente a vulnerabilidade a ataques de envenenamento. Nesses ataques, clientes maliciosos injetam dados falsos no sistema, com o objetivo de corromper os modelos treinados coletivamente. Isto é particularmente problemático porque cada cliente numa rede descentralizada tem uma visão limitada do sistema global, dificultando a detecção independente de anomalias ou atividades maliciosas.
Novo mecanismo de defesa para garantir a aprendizagem federada descentralizada
Respondendo a estas preocupações de segurança, desenvolvemos um novo mecanismo chamado BALANCE, uma regra de agregação robusta bizantina concebida especificamente para o ambiente de aprendizagem federado descentralizado. O BALANCE é o único que não exige que a rede de clientes esteja totalmente conectada, o que é uma limitação comum em muitas estratégias de defesa existentes. Em vez disso, funciona com base no princípio de que cada cliente pode utilizar o seu modelo local como referência para avaliar a fiabilidade dos modelos recebidos dos seus vizinhos.
De acordo com a regra BALANCE, cada cliente avalia os modelos recebidos comparando-os com o seu próprio modelo. Se um modelo recebido se desviar significativamente do modelo do cliente de uma forma que sugira possível adulteração ou intenção maliciosa, ele será automaticamente rejeitado. Esta estratégia de avaliação local permite que cada cliente se defenda de forma independente contra potenciais ameaças à segurança, melhorando a robustez geral da rede contra ataques coordenados.
A introdução do BALANCE na aprendizagem federada descentralizada oferece uma solução promissora para uma das questões de segurança mais urgentes que este campo emergente enfrenta. Ao capacitar cada cliente para agir como seu próprio guardião, a BALANCE garante que a integridade do processo de formação seja mantida, mesmo num ambiente altamente distribuído e descentralizado.
Essa história faz parte Diálogo Ciência Xonde os pesquisadores podem relatar resultados de seus artigos de pesquisa publicados. Visite esta página para obter informações sobre o Science X Dialog e como participar.
Mais informações: Minghong Fang et al, Aprendizagem Federada Descentralizada Robusta Bizantina, Anais da Conferência ACM SIGSAC 2024 sobre Segurança de Computadores e Comunicações (2024). DOI: 10.1145/3658644.3670307
Dr. Minghong Fang é professor assistente efetivo no Departamento de Ciência da Computação e Engenharia da Universidade de Louisville.
Citação: Protegendo o futuro da IA: Inovações na aprendizagem federada descentralizada (2025, 13 de janeiro) recuperado em 13 de janeiro de 2025 em https://techxplore.com/news/2025-01-future-ai-decentralized-federated.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
