LLMベースの自動化を用いたフェデレーテッドラーニングのためのウェブベースソリューション

A Web-Based Solution for Federated Learning with LLM-Based Automation

August 23, 2024

著者: Chamith Mawela, Chaouki Ben Issaid, Mehdi Bennis

cs.AI

要旨

フェデレーテッドラーニング（FL）は、分散デバイス間での協調機械学習における有望なアプローチを提供します。しかし、信頼性のある通信アーキテクチャの構築の複雑さと、機械学習とネットワークプログラミングの両方の専門知識が必要とされることによって、その採用が妨げられています。本論文では、FLタスクのオーケストレーションを簡素化し、意図に基づく自動化を統合する包括的な解決策を提案しています。私たちは、ユーザーフレンドリーなWebアプリケーションを開発し、フェデレーテッド平均（FedAvg）アルゴリズムをサポートし、ユーザーが直感的なインターフェースを通じてパラメータを設定できるようにしています。バックエンドソリューションは、パラメータサーバーとエッジノード間の通信を効率的に管理します。また、モデルの圧縮とスケジューリングアルゴリズムを実装して、FLのパフォーマンスを最適化します。さらに、特定のデータセットでトレーニングされた調整済み言語モデル（LLM）を使用して、FLにおける意図に基づく自動化を探究し、ユーザーが高レベルのプロンプトを使用してFLタスクを実行できるようにします。LLMベースの自動化ソリューションは、標準のWebベースのソリューションと比較して、転送されるバイト数を最大64％、CPU時間を最大46％削減しながら、同等のテスト精度を達成することが観察されます。また、ニューラルアーキテクチャサーチ（NAS）とハイパーパラメータ最適化（HPO）をLLMを使用して活用し、パフォーマンスを向上させます。このアプローチを使用することで、実施されたFLタスクのテスト精度を10〜20％向上させることが観察されます。

English

Federated Learning (FL) offers a promising approach for collaborative machine learning across distributed devices. However, its adoption is hindered by the complexity of building reliable communication architectures and the need for expertise in both machine learning and network programming. This paper presents a comprehensive solution that simplifies the orchestration of FL tasks while integrating intent-based automation. We develop a user-friendly web application supporting the federated averaging (FedAvg) algorithm, enabling users to configure parameters through an intuitive interface. The backend solution efficiently manages communication between the parameter server and edge nodes. We also implement model compression and scheduling algorithms to optimize FL performance. Furthermore, we explore intent-based automation in FL using a fine-tuned Language Model (LLM) trained on a tailored dataset, allowing users to conduct FL tasks using high-level prompts. We observe that the LLM-based automated solution achieves comparable test accuracy to the standard web-based solution while reducing transferred bytes by up to 64% and CPU time by up to 46% for FL tasks. Also, we leverage the neural architecture search (NAS) and hyperparameter optimization (HPO) using LLM to improve the performance. We observe that by using this approach test accuracy can be improved by 10-20% for the carried out FL tasks.