論文の概要: Enabling Federated Inference via Unsupervised Consensus Embedding
- arxiv url: http://arxiv.org/abs/2605.05718v1
- Date: Thu, 07 May 2026 06:08:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.5522
- Title: Enabling Federated Inference via Unsupervised Consensus Embedding
- Title(参考訳): 教師なしコンセンサス埋め込みによるフェデレーション推論の実現
- Authors: Yui Hashimoto, Takayuki Nishio, Yuichi Kitagawa, Takahito Tanimura,
- Abstract要約: コンセンサス埋め込みに基づくフェデレーション推論(CE-FI)を提案する。
CE-FIは、モデルパラメータや生の入力を共有することなく、事前訓練されたモデルが推論時に協調することを可能にする。
画像分類ベンチマークの実験では、CE-FIは単体推論よりも一貫して優れていた。
- 参考スコア(独自算出の注目度): 1.0766267972211196
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Cooperative inference across independently deployed machine learning models is increasingly desirable in distributed environments, as there is a growing need to leverage multiple models while keeping their data and model parameters private. However, existing cooperative frameworks typically rely on sharing input data, model parameters, or a common encoder, which limits their applicability in privacy-sensitive or cross-organizational settings. To address this challenge, we propose Consensus Embedding-based Federated Inference (CE-FI), a framework that enables pretrained models to cooperate at inference time without sharing model parameters or raw inputs and without assuming a common encoder. CE-FI introduces two components: a Consensus Embedding (CE) layer that maps heterogeneous intermediate representations into a common embedding space, and a Cooperative Output (CO) layer that produces predictions from these embeddings. Both layers are trained using shared unlabeled data only, so the cooperative stage does not require additional labeled data. Experiments on image classification benchmarks -- CIFAR-10 and CIFAR-100 -- under diverse non-IID conditions show that CE-FI consistently outperforms solo inference and performs comparably to conventional methods that require stronger sharing assumptions. Additional evaluations on text and time-series tasks indicate applicability beyond image classification, although performance depends on the ensemble strategy. Further analysis identifies representation alignment as the primary bottleneck.
- Abstract(参考訳): 独立してデプロイされた機械学習モデル間の協調推論は、データとモデルパラメータをプライベートに保ちながら複数のモデルを活用する必要性が高まっているため、分散環境でますます望ましい。
しかし、既存の協調フレームワークは一般的に、入力データ、モデルパラメータ、あるいは共通のエンコーダを共有することに依存しており、プライバシに敏感な、あるいは組織横断的な設定で適用性を制限する。
この課題に対処するため,コンセンサス・エンベディングをベースとしたフェデレーション推論(CE-FI)を提案する。モデルパラメータや生の入力を共有することなく,共通エンコーダを仮定することなく,事前学習したモデルが推論時に協調することを可能にするフレームワークである。
CE-FIは、異種中間表現を共通の埋め込み空間にマッピングするConsensus Embedding(CE)層と、これらの埋め込みから予測を生成するCooperative Output(CO)層である。
どちらの層も共有ラベル付きデータのみを使用してトレーニングされるため、協調的な段階は追加ラベル付きデータを必要としない。
CIFAR-10 と CIFAR-100 の様々な非IID条件下での実験は、CE-FI が単体推論を一貫して上回り、より強い共有仮定を必要とする従来の手法と互換性があることを示している。
テキストおよび時系列タスクのさらなる評価は、アンサンブル戦略に依存するが、画像分類以外の適用可能性を示している。
さらなる分析により、表現アライメントが主要なボトルネックとして認識される。
関連論文リスト
- Mixture of Predefined Experts: Maximizing Data Usage on Vertical Federated Learning [4.1346825639910785]
Split-MoPEは、Split Learningと専門的なMixture of Predefined Expertsアーキテクチャを統合する新しいフレームワークである。
MoPEは、事前定義された専門家を使用して、特定のデータアライメントを処理し、トレーニングと推論の両方におけるデータ使用量を効果的に最大化する。
トレーニング済みエンコーダをターゲットデータドメインに利用することにより、Split-MoPEは単一の通信ラウンドで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-02-13T08:21:20Z) - A Tale of Two Experts: Cooperative Learning for Source-Free Unsupervised Domain Adaptation [59.88864205383671]
Source-Free Unsupervised Domain Adaptation (SFUDA)は、ソースデータにアクセスすることなく、ターゲットドメインにソース学習モデルを適用するという現実的な課題に対処する。
既存のSFUDA手法は、ソースモデルの予測のみを利用するか、大きなマルチモーダルモデルを微調整する。
本稿では、補完的な洞察と対象データの潜在構造を利用するためのエキスパート協調学習(EXCL)を提案する。
論文 参考訳(メタデータ) (2025-09-26T11:39:50Z) - Are Any-to-Any Models More Consistent Across Modality Transfers Than Specialists? [14.044169097789034]
ACONは、字幕、編集命令、Q&Aペアと組み合わせた1000枚の画像からなるデータセットで、モーダル間転送を評価する。
実験の結果,任意のモデルが,ポイントワイド評価において,特定のモデルよりも一貫した相互整合性を示さないことが明らかとなった。
論文 参考訳(メタデータ) (2025-05-30T04:51:54Z) - Prior2Former -- Evidential Modeling of Mask Transformers for Assumption-Free Open-World Panoptic Segmentation [74.55677741919035]
顕在学習に根ざしたセグメンテーション・ビジョン・トランスフォーマの最初のアプローチである Prefer2Former (P2F) を提案する。
P2Fは、ピクセル単位のバイナリマスク割り当てにおいて、モデル不確実性を計算するためのベータを組み込むことで、マスクビジョントランスフォーマーアーキテクチャを拡張している。
未知のクラスに対処するほとんどのセグメンテーションモデルとは異なり、P2FはOODデータサンプルへのアクセスや、ヴォイド(ラベルなし)クラスに対する対照的なトレーニングなしで動作する。
論文 参考訳(メタデータ) (2025-04-07T08:53:14Z) - FissionVAE: Federated Non-IID Image Generation with Latent Space and Decoder Decomposition [8.444515700910879]
フェデレートされた学習により、分散化されたクライアントは、すべてのトレーニングデータをローカルに保ちながら、共有モデルを共同で学習することができる。
本稿では,異なるタイプの複数の画像群を特徴とする非IIDデータ環境の課題に対処する。
本稿では、潜在空間を分離し、個々のクライアントグループに適したデコーダブランチを構築するFissionVAEを紹介する。
論文 参考訳(メタデータ) (2024-08-30T08:22:30Z) - Federated Two Stage Decoupling With Adaptive Personalization Layers [5.69361786082969]
フェデレーション学習は、プライバシ制約を維持しながら分散学習を可能にする能力によって、大きな注目を集めている。
本質的には、学習の劣化と収束速度の低下を経験する。
等質なクライアントを同じ群にクラスタリングするという概念を採用することは自然であり、各群内のモデル重みのみを集約することができる。
論文 参考訳(メタデータ) (2023-08-30T07:46:32Z) - Universal Semi-supervised Model Adaptation via Collaborative Consistency
Training [92.52892510093037]
我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。
本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。
実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
論文 参考訳(メタデータ) (2023-07-07T08:19:40Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。