論文の概要: Role-Aware Server Optimization for Multimodal Federated Learning with Missing Modalities
- arxiv url: http://arxiv.org/abs/2610.41193v1
- Date: Fri, 30 Oct 2026 03:16:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.605141
- Title: Role-Aware Server Optimization for Multimodal Federated Learning with Missing Modalities
- Title(参考訳): モダリティを欠いたマルチモーダル・フェデレーション学習のためのロールアウェアサーバ最適化
- Abstract要約: 本稿では、役割固有のサーバ更新とコントリビュータの選択を調整するために、ロール・アウェア・サーバ最適化(RASO)を提案する。
RASOは、予測依存と局所最適化への含意を通じてコントリビュータを選択し、エンコーダのモーメントを保持し、共有予測ブロックを現在のアグリゲーションに同期させる。
- 参考スコア(独自算出の注目度): 6.17059264011429
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal federated learning (MFL) trains a shared model by aggregating client updates without exchanging raw data. Under missing modalities, clients adapt active modality encoders and a shared prediction block (fusion and classifier) to different input subsets. This raises two server-side questions: which clients should contribute to each component, and how should their aggregates be incorporated across rounds? We observe that an absent-modality encoder can still adapt through missing-input handling. Availability- based aggregation can therefore omit its update while retaining jointly learned prediction-block updates. Contributor selection also shapes server momentum, a weighted history of aggregated updates. We observe that prediction-block momentum can improve or reduce performance depending on the encoder update policy. We therefore propose Role-Aware Server Optimization (RASO), which coordinates contributor selection with role-specific server updates. RASO selects contributors through prediction dependence and inclusion in local optimization, retains encoder momentum, and synchronizes the shared prediction block to its current aggregate. Experiments across datasets and fusion architectures demonstrate the effectiveness of RASO under missing modalities.
- Abstract(参考訳): マルチモーダル・フェデレート・ラーニング(MFL)は、生データを交換することなくクライアント更新を集約することで、共有モデルを訓練する。
欠落したモダリティの下で、クライアントは異なる入力サブセットにアクティブなモダリティエンコーダと共有予測ブロック(融合と分類器)を適用する。
これにより、各コンポーネントにどのクライアントがコントリビュートすべきか、どのアグリゲーションをラウンド全体でどのように組み込むべきか、という2つのサーバーサイドの疑問が提起される。
モダリティを欠くエンコーダは、入出力処理によっても適用可能であることを観察する。
そのため、アベイラビリティベースのアグリゲーションは、共同で学習した予測ブロック更新を維持しながら、更新を省略することができる。
コントリビュータの選択もサーバの勢いを形作っている。
我々は,エンコーダ更新ポリシーにより,予測ブロックのモーメントが性能を向上あるいは低下させることができることを観察する。
そこで我々は、役割固有のサーバ更新とコントリビュータの選択を協調するロール・アウェア・サーバ最適化(RASO)を提案する。
RASOは、予測依存と局所最適化への含意を通じてコントリビュータを選択し、エンコーダのモーメントを保持し、共有予測ブロックを現在のアグリゲーションに同期させる。
データセットと融合アーキテクチャをまたいだ実験は、RASOが欠落したモダリティの下で有効であることを示す。
関連論文リスト
- Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - CycleSL: Server-Client Cyclical Update Driven Scalable Split Learning [60.59553507555341]
本稿では,新たなアグリゲーションフリーな分割学習フレームワークであるCycleSLを紹介する。
ブロック座標降下の交互化によって着想を得たCycleSLは、サーバサイドトレーニングを独立した高レベルの機械学習タスクとして扱う。
実験結果から,CycleSLのモデル性能向上効果が示唆された。
論文 参考訳(メタデータ) (2025-11-23T21:00:21Z) - RIFLES: Resource-effIcient Federated LEarning via Scheduling [4.358456799125694]
Federated Learning(FL)は、分散クライアント間の分散協調モデルトレーニングを可能にする、プライバシ保護機械学習技術である。
現在の選択戦略は、過去または現在の相互作用に基づいているという点で、自然界においてミオピックである。
RIFLESは、クライアント選択プロセスをサポートするために、新しい可用性予測層を構築します。
論文 参考訳(メタデータ) (2025-05-19T14:26:33Z) - Dynamic Allocation Hypernetwork with Adaptive Model Recalibration for Federated Continual Learning [49.508844889242425]
適応型モデル再構成(FedDAH)を用いた動的アロケーション・ハイパーネットワーク(動的アロケーション・ハイパーネットワーク)の医用領域におけるサーバサイドFCLパターンを提案する。
FedDAHは、クライアント間で異なる動的タスクストリームの下での協調学習を容易にするように設計されている。
バイアス最適化のために,従来のモデルの変更候補を現在のサーバ更新に組み込むために,新しい適応モデル再校正(AMR)を導入する。
論文 参考訳(メタデータ) (2025-03-25T00:17:47Z) - FedECADO: A Dynamical System Model of Federated Learning [15.425099636035108]
フェデレーション学習は分散最適化の力を活用して、別々のクライアント間で統一された機械学習モデルをトレーニングする。
本研究は,フェデレート学習プロセスの動的システム表現にインスパイアされた新しいアルゴリズムであるFedECADOを提案する。
FedProxやFedNovaといった著名な技術と比較して、FedECADOは多くの異種シナリオにおいて高い分類精度を達成する。
論文 参考訳(メタデータ) (2024-10-13T17:26:43Z) - SCALA: Split Federated Learning with Concatenated Activations and Logit Adjustments [4.826527560777905]
Split Federated Learning(SFL)は、サーバとクライアントの間で学習プロセスを戦略的に分割する分散機械学習フレームワークである。
本稿では,SCALA(Concatenated Activations and Logit Adjustments)を用いたSFLを提案する。
論文 参考訳(メタデータ) (2024-05-08T08:12:21Z) - MISSRec: Pre-training and Transferring Multi-modal Interest-aware
Sequence Representation for Recommendation [61.45986275328629]
逐次レコメンデーションのためのマルチモーダル事前学習・転送学習フレームワークであるMISSRecを提案する。
ユーザ側ではトランスフォーマーベースのエンコーダデコーダモデルを設計し、コンテキストエンコーダがシーケンスレベルのマルチモーダルユーザ興味を捉えることを学習する。
候補項目側では,ユーザ適応項目表現を生成するために動的融合モジュールを採用する。
論文 参考訳(メタデータ) (2023-08-22T04:06:56Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - An Expectation-Maximization Perspective on Federated Learning [75.67515842938299]
フェデレーション学習は、データをデバイス上でプライベートにしながら、複数のクライアントにわたるモデルの分散トレーニングを記述する。
本稿では,サーバがクライアント固有のモデルパラメータに対して事前分布のパラメータを提供する階層的潜在変数モデルとして,サーバが設定したフェデレーション学習プロセスについて考察する。
我々は,単純なガウス先行とよく知られた期待最大化(EM)アルゴリズムのハードバージョンを用いて,そのようなモデルの学習は,フェデレーション学習環境における最も一般的なアルゴリズムであるFedAvgに対応することを示す。
論文 参考訳(メタデータ) (2021-11-19T12:58:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。