論文の概要: Developing parsimonious ensembles using predictor diversity within a
reinforcement learning framework
- arxiv url: http://arxiv.org/abs/2102.07344v1
- Date: Mon, 15 Feb 2021 05:00:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-17 00:03:50.797822
- Title: Developing parsimonious ensembles using predictor diversity within a
reinforcement learning framework
- Title(参考訳): 強化学習フレームワークにおける予測器の多様性を用いた擬似アンサンブルの開発
- Authors: Ana Stanescu and Gaurav Pandey
- Abstract要約: 強化学習(RL)ベースのアンサンブル選択フレームワークにアンサンブル多様性を組み込んだアルゴリズムをいくつか紹介します。
これらのアルゴリズムは、最終的に効果的なアンサンブルに同化予測モデルの解釈またはリバースエンジニアリングを支援することができる。
- 参考スコア(独自算出の注目度): 4.204145943086225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Heterogeneous ensembles that can aggregate an unrestricted number and variety
of base predictors can effectively address challenging prediction problems. In
particular, accurate ensembles that are also parsimonious, i.e., consist of as
few base predictors as possible, can help reveal potentially useful knowledge
about the target problem domain. Although ensemble selection offers a potential
approach to achieving these goals, the currently available algorithms are
limited in their abilities. In this paper, we present several algorithms that
incorporate ensemble diversity into a reinforcement learning (RL)-based
ensemble selection framework to build accurate and parsimonious ensembles.
These algorithms, as well as several baselines, are rigorously evaluated on
datasets from diverse domains in terms of the predictive performance and
parsimony of their ensembles. This evaluation demonstrates that our
diversity-incorporated RL-based algorithms perform better than the others for
constructing simultaneously accurate and parsimonious ensembles. These
algorithms can eventually aid the interpretation or reverse engineering of
predictive models assimilated into effective ensembles. To enable such a
translation, an implementation of these algorithms, as well the experimental
setup they are evaluated in, has been made available at
https://github.com/GauravPandeyLab/lens-learning-ensembles-using-reinforcement-learning.
- Abstract(参考訳): 制限のない数と様々なベース予測器を集約できる異種アンサンブルは、難しい予測問題に効果的に対処できます。
特に、パーシモン的である正確なアンサンブル、すなわち、できるだけ少数のベース予測器で構成され、ターゲット問題領域に関する潜在的に有用な知識を明らかにするのに役立つ。
アンサンブル選択はこれらの目標を達成するための潜在的アプローチを提供するが、現在利用可能なアルゴリズムはその能力に制限がある。
本稿では,アンサンブルの多様性を強化学習(rl)に基づくアンサンブル選択フレームワークに組み込むアルゴリズムをいくつか紹介する。
これらのアルゴリズムは、いくつかのベースラインと同様に、予測性能とアンサンブルのパシモニーの観点から、さまざまなドメインのデータセットで厳格に評価される。
この評価は,我々の多様性を組み込んだRLベースのアルゴリズムが,同時に正確かつ同義的なアンサンブルを構築する上で,他のアルゴリズムよりも優れていることを示す。
これらのアルゴリズムは、最終的に効果的なアンサンブルに同化予測モデルの解釈またはリバースエンジニアリングを支援することができる。
このような翻訳を可能にするために、これらのアルゴリズムの実装と、彼らが評価した実験的な設定がhttps://github.com/GauravPandeyLab/lens-learning-ensembles-using-reinforcement-learningで利用可能になった。
関連論文リスト
- Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Evaluating Ensemble Methods for News Recommender Systems [50.90330146667386]
本稿では,Microsoft News データセット (MIND) において,様々な最先端アルゴリズムを組み合わさって優れた結果を得るために,アンサンブル手法をどのように利用できるかを示す。
その結果,NRSアルゴリズムの組み合わせは,基礎学習者が十分に多様であることから,個々のアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-06-23T13:40:50Z) - Quantized Hierarchical Federated Learning: A Robust Approach to
Statistical Heterogeneity [3.8798345704175534]
本稿では,コミュニケーション効率に量子化を組み込んだ新しい階層型フェデレーション学習アルゴリズムを提案する。
最適性ギャップと収束率を評価するための包括的な分析フレームワークを提供する。
この結果から,本アルゴリズムはパラメータの範囲で常に高い学習精度を達成できることが判明した。
論文 参考訳(メタデータ) (2024-03-03T15:40:24Z) - Towards a Systematic Approach to Design New Ensemble Learning Algorithms [0.0]
本研究は,アンサンブルの誤り分解に関する基礎研究を再考する。
最近の進歩は「多様性の統一理論」を導入した
本研究は,新たなアンサンブル学習アルゴリズムの創出を導くために,この分解の応用を体系的に検討する。
論文 参考訳(メタデータ) (2024-02-09T22:59:20Z) - Structurally Diverse Sampling Reduces Spurious Correlations in Semantic
Parsing Datasets [51.095144091781734]
本稿では,構造化された出力を持つラベル付きインスタンスプールから,構造的に多様なインスタンス群をサンプリングする新しいアルゴリズムを提案する。
提案アルゴリズムは, 合成テンプレート分割だけでなく, 従来のID分割においても, 従来のアルゴリズムよりも競合的に動作することを示す。
一般に、多種多様な列車集合は、10組のデータセット分割ペアのうち9組で同じ大きさのランダムな訓練集合よりも優れた一般化をもたらす。
論文 参考訳(メタデータ) (2022-03-16T07:41:27Z) - Harnessing Heterogeneity: Learning from Decomposed Feedback in Bayesian
Modeling [68.69431580852535]
サブグループフィードバックを取り入れた新しいGPレグレッションを導入する。
我々の修正された回帰は、以前のアプローチと比べて、明らかにばらつきを減らし、したがってより正確な後続を減らした。
我々は2つの異なる社会問題に対してアルゴリズムを実行する。
論文 参考訳(メタデータ) (2021-07-07T03:57:22Z) - HAWKS: Evolving Challenging Benchmark Sets for Cluster Analysis [2.5329716878122404]
クラスタリングアルゴリズムの包括的なベンチマークは難しい。
厳格なベンチマークのベストプラクティスに関する合意はありません。
このようなベンチマークのフレキシブルな生成を支援するために,進化的アルゴリズムが果たす重要な役割を実証する。
論文 参考訳(メタデータ) (2021-02-13T15:01:34Z) - A Comparative Analysis of the Ensemble Methods for Drug Design [0.0]
エンサンブルベースの機械学習アプローチは、限界を克服し、信頼できる予測を生成するために使用されます。
本稿では、57のアルゴリズムを開発し、4つの異なるデータセットを比較した。
提案した個々のモデルは統合されたモデルとして印象的な結果を示さなかったが、組み合わせると最も重要な予測器とみなされた。
論文 参考訳(メタデータ) (2020-12-11T05:27:20Z) - Combining Task Predictors via Enhancing Joint Predictability [53.46348489300652]
そこで本研究では,目標予測能力に基づいて参照の関連性を測定し,その関連性を高めるための新しい予測器組合せアルゴリズムを提案する。
提案アルゴリズムはベイズフレームワークを用いて,すべての参照の関連性について共同で評価する。
視覚属性ランキングとマルチクラス分類シナリオから得られた実世界の7つのデータセットの実験に基づいて,本アルゴリズムが性能向上に寄与し,既存の予測器の組み合わせアプローチの適用範囲を広くすることを示した。
論文 参考訳(メタデータ) (2020-07-15T21:58:39Z) - Neural Ensemble Search for Uncertainty Estimation and Dataset Shift [67.57720300323928]
ニューラルネットワークのアンサンブルは、データセットシフトに対する精度、不確実性キャリブレーション、堅牢性の観点から、スタンドアロンネットワークよりも優れたパフォーマンスを実現する。
本稿では,アンサンブルをアンサンブルで自動構築する2つの手法を提案する。
得られたアンサンブルは、精度だけでなく、不確実なキャリブレーションやデータセットシフトに対する堅牢性の観点からも、深いアンサンブルよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-06-15T17:38:15Z) - Active Learning in Video Tracking [8.782204980889079]
本稿では,マッチング可能な構造化予測領域を用いた能動学習のための対角的アプローチを提案する。
我々は,この手法をビデオ中の物体追跡という,重要な構造化された予測問題においてアルゴリズム的に評価する。
論文 参考訳(メタデータ) (2019-12-29T00:42:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。