論文の概要: Unsupervised Ensemble Learning Through Deep Energy-based Models
- arxiv url: http://arxiv.org/abs/2601.20556v1
- Date: Wed, 28 Jan 2026 12:50:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-29 15:46:06.932468
- Title: Unsupervised Ensemble Learning Through Deep Energy-based Models
- Title(参考訳): 深部エネルギーモデルによる教師なしアンサンブル学習
- Authors: Ariel Maymon, Yanir Buznah, Uri Shaham,
- Abstract要約: 教師なしアンサンブル学習は、複数の学習者の予測を、真実のラベルや追加データにアクセスせずに組み合わせることの難しさに対処するために現れた。
本稿では,個々の学習者の予測のみを用いて,正確なメタ学習者を構築するための新しい深層エネルギーに基づく手法を提案する。
さまざまなアンサンブルシナリオにまたがって優れたパフォーマンスを示します。
- 参考スコア(独自算出の注目度): 3.0344469521198003
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Unsupervised ensemble learning emerged to address the challenge of combining multiple learners' predictions without access to ground truth labels or additional data. This paradigm is crucial in scenarios where evaluating individual classifier performance or understanding their strengths is challenging due to limited information. We propose a novel deep energy-based method for constructing an accurate meta-learner using only the predictions of individual learners, potentially capable of capturing complex dependence structures between them. Our approach requires no labeled data, learner features, or problem-specific information, and has theoretical guarantees for when learners are conditionally independent. We demonstrate superior performance across diverse ensemble scenarios, including challenging mixture of experts settings. Our experiments span standard ensemble datasets and curated datasets designed to test how the model fuses expertise from multiple sources. These results highlight the potential of unsupervised ensemble learning to harness collective intelligence, especially in data-scarce or privacy-sensitive environments.
- Abstract(参考訳): 教師なしアンサンブル学習は、複数の学習者の予測を、真実のラベルや追加データにアクセスせずに組み合わせることの難しさに対処するために現れた。
このパラダイムは、個々の分類器のパフォーマンスを評価したり、その強みを理解することが、限られた情報のために困難であるシナリオにおいて不可欠である。
本稿では,個々の学習者の予測のみを用いて,その間の複雑な依存構造を捉えることが可能な,高精度なメタ学習者を構築するための新しい深層エネルギーベース手法を提案する。
提案手法では,ラベル付きデータや学習者の特徴,問題固有の情報を必要としない。
さまざまなアンサンブルシナリオにおける優れたパフォーマンスを示します。
我々の実験は、モデルが複数のソースから専門知識を融合する方法をテストするために設計された、標準的なアンサンブルデータセットとキュレートデータセットにまたがる。
これらの結果は、特にデータスキャンやプライバシに敏感な環境で、集合的知性を活用するために教師なしアンサンブル学習の可能性を浮き彫りにしている。
関連論文リスト
- UNIFORM: Unifying Knowledge from Large-scale and Diverse Pre-trained Models [62.76435672183968]
UNIFORMと呼ばれる新しいフレームワークを導入し、多様なオフザシェルフモデルから1つの学生モデルへ知識を伝達する。
本稿では,ロジットレベルでも機能レベルでも知識のコンセンサスを捉えるための,専用の投票機構を提案する。
UNIFORMは、強い知識伝達ベースラインに比べて、教師なしオブジェクト認識性能を効果的に向上することを示した。
論文 参考訳(メタデータ) (2025-08-27T00:56:11Z) - Stochastic Encodings for Active Feature Acquisition [100.47043816019888]
Active Feature Acquisitionは、インスタンスワイドでシーケンシャルな意思決定問題である。
目的は、テストインスタンスごとに独立して、現在の観測に基づいて計測する機能を動的に選択することである。
一般的なアプローチは強化学習(Reinforcement Learning)であり、トレーニングの困難を経験する。
我々は、教師付きで訓練された潜在変数モデルを導入し、潜在空間における観測不能な実現の可能性の多くにまたがる特徴を推論することで獲得する。
論文 参考訳(メタデータ) (2025-08-03T23:48:46Z) - Instance-Level Difficulty: A Missing Perspective in Machine Unlearning [13.052520843129363]
完全インスタンスレベルのアンラーニング性能分析により,機械学習を困難にさせる難易度について検討する。
特に,データポイントの学習を困難にする4つの要因を要約する。
機械学習の研究は、未学習のインスタンスレベルの難しさに注意を払うべきだと我々は主張する。
論文 参考訳(メタデータ) (2024-10-03T23:41:42Z) - Federated Self-supervised Learning for Heterogeneous Clients [20.33482170846688]
異種クライアント上でのフェデレーションによる自己教師型学習を実現するための統一的かつ体系的なフレームワークであるemphHeterogeneous Self-supervised Federated Learning (Hetero-SSFL)を提案する。
提案したフレームワークは、アーキテクチャ上の制約やラベル付きデータの存在を伴わずに、すべてのクライアントをまたいだ表現学習を可能にする。
我々は,提案手法が最先端の手法よりも優れていることを実証的に実証した。
論文 参考訳(メタデータ) (2022-05-25T05:07:44Z) - Leveraging Ensembles and Self-Supervised Learning for Fully-Unsupervised
Person Re-Identification and Text Authorship Attribution [77.85461690214551]
完全ラベル付きデータからの学習は、Person Re-IdentificationやText Authorship Attributionなどのマルチメディアフォレスト問題において困難である。
近年の自己教師型学習法は,基礎となるクラスに意味的差異が有る場合に,完全ラベル付きデータを扱う際に有効であることが示されている。
本研究では,異なるクラスからのサンプルが顕著に多様性を持っていない場合でも,ラベルのないデータから学習できるようにすることにより,個人再認識とテキストオーサシップの属性に対処する戦略を提案する。
論文 参考訳(メタデータ) (2022-02-07T13:08:11Z) - On Covariate Shift of Latent Confounders in Imitation and Reinforcement
Learning [69.48387059607387]
模擬・強化学習において,未観測の共同設立者と専門家データを併用することの問題点を考察する。
我々は、外部報酬を伴わずに、確立した専門家データから学ぶことの限界を分析する。
我々は,支援医療とレコメンデーションシステムシミュレーションの課題に挑戦する上で,我々の主張を実証的に検証する。
論文 参考訳(メタデータ) (2021-10-13T07:31:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。