Compatibilidade entre clientes para predição de desempenho do aprendizado federado.

Abstract

O aprendizado federado permite o treinamento colaborativo de modelos sem o compartilhamento direto de dados, porém enfrenta desafios significativos decorrentes da heterogeneidade entre clientes. Neste trabalho, introduzimos o conceito de compatibilidade entre clientes, definido como a discrepância estatística entre o modelo global de uma rodada anterior e os modelos locais atualizados, avaliada sobre os dados de cada cliente nas rodadas iniciais do treinamento.

A compatibilidade é estimada por meio de métricas de divergência e distância entre distribuições, incluindo Maximum Mean Discrepancy (MMD), Fréchet Inception Distance (FID), divergência de Kullback-Leibler (KL) e divergência de Jensen-Shannon (JS). Investigamos a correlação entre a compatibilidade calculada nas primeiras rodadas e o ganho global de acurácia ao final do treinamento federado.

Os experimentos foram conduzidos em diferentes conjuntos de dados (CIFAR-10, Fashion-MNIST e Blood-MNIST), variando número de clientes, arquitetura de rede neural e número de épocas locais. Os resultados indicam que a MMD apresentou comportamento consistente e robusto em todos os cenários analisados, mantendo forte correlação negativa com o ganho global. Em contraste, a FID demonstrou instabilidade em determinados contextos, enquanto KL e JS apresentaram comportamento dependente do conjunto de dados e do critério de agregação adotado.

Além da análise retrospectiva, demonstramos o potencial uso preditivo da compatibilidade baseada em MMD como indicador antecipado do desempenho final da federação, possibilitando aplicações em diagnóstico precoce e ajuste dinâmico de hiperparâmetros.

Os resultados sugerem que a compatibilidade entre clientes, especialmente quando mensurada via MMD, constitui ferramenta promissora para análise e monitoramento de cenários federados heterogêneos.