論文の概要: Cultivating Archipelago of Forests: Evolving Robust Decision Trees through Island Coevolution

• arxiv url: http://arxiv.org/abs/2412.13762v1
• Date: Wed, 18 Dec 2024 11:59:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-19 16:49:41.604316
• Title: Cultivating Archipelago of Forests: Evolving Robust Decision Trees through Island Coevolution
• Title（参考訳）: 森林群落の耕作:島間共進化によるロバスト決定木の形成
• Authors: Adam Żychowski, Andrew Perrault, Jacek Mańdziuk,
• Abstract要約: 決定木は、その単純さと解釈可能性のために機械学習で広く使用されているが、敵の攻撃やデータ摂動に対する堅牢性に欠けることが多い。 本稿では,ロバストな決定木アンサンブルを構築するための島型共進化アルゴリズム(ICoEvoRDF)を提案する。
• 参考スコア（独自算出の注目度）: 10.246596695310176
• License:
• Abstract: Decision trees are widely used in machine learning due to their simplicity and interpretability, but they often lack robustness to adversarial attacks and data perturbations. The paper proposes a novel island-based coevolutionary algorithm (ICoEvoRDF) for constructing robust decision tree ensembles. The algorithm operates on multiple islands, each containing populations of decision trees and adversarial perturbations. The populations on each island evolve independently, with periodic migration of top-performing decision trees between islands. This approach fosters diversity and enhances the exploration of the solution space, leading to more robust and accurate decision tree ensembles. ICoEvoRDF utilizes a popular game theory concept of mixed Nash equilibrium for ensemble weighting, which further leads to improvement in results. ICoEvoRDF is evaluated on 20 benchmark datasets, demonstrating its superior performance compared to state-of-the-art methods in optimizing both adversarial accuracy and minimax regret. The flexibility of ICoEvoRDF allows for the integration of decision trees from various existing methods, providing a unified framework for combining diverse solutions. Our approach offers a promising direction for developing robust and interpretable machine learning models
• Abstract（参考訳）: 決定木は、その単純さと解釈可能性のために機械学習で広く使用されているが、敵の攻撃やデータ摂動に対する堅牢性に欠けることが多い。 本稿では,ロバストな決定木アンサンブルを構築するための島型共進化アルゴリズム(ICoEvoRDF)を提案する。 このアルゴリズムは複数の島で動作し、それぞれが決定木の個体群と敵の摂動を含む。 島々の個体群は独立して進化し、島々間の最上級の決定木が周期的に移動した。 このアプローチは多様性を高め、解空間の探索を強化し、より堅牢で正確な決定木アンサンブルをもたらす。 ICoEvoRDFは、アンサンブル重み付けに混合ナッシュ均衡という一般的なゲーム理論を使い、その結果をさらに改善する。 ICoEvoRDFは20のベンチマークデータセットで評価され、敵の精度とミニマックスの後悔を最適化する最先端の手法よりも優れた性能を示している。 ICoEvoRDFの柔軟性により、様々な既存のメソッドから決定木を統合することができ、多様なソリューションを統合するための統一されたフレームワークを提供する。 私たちのアプローチは、堅牢で解釈可能な機械学習モデルを開発するための有望な方向を提供する。

関連論文リスト

• FoLDTree: A ULDA-Based Decision Tree Framework for Efficient Oblique Splits and Feature Selection [6.087464679182875]
  LDATreeとFoldTreeは、Uncorrelated Linear Discriminant Analysis (ULDA)とForward ULDAを決定木構造に統合する。 LDATree と FoLDTree は軸直交およびその他の斜め決定木法より一貫して優れている。
  論文  参考訳（メタデータ） (2024-10-30T16:03:51Z)
• Heterogeneous Random Forest [2.0646127669654835]
  不均一ランダムフォレスト(HRF)は、木多様性を有意義な方法で向上させるように設計されている。 HRFは、ほとんどのデータセットの精度において、他のアンサンブル手法よりも一貫して優れていた。
  論文  参考訳（メタデータ） (2024-10-24T09:18:55Z)
• An Interpretable Client Decision Tree Aggregation process for Federated Learning [7.8973037023478785]
  本稿では,フェデレート学習シナリオを対象とした解釈可能なクライアント決定木集約プロセスを提案する。 このモデルは、決定ツリーの複数の決定パスの集約に基づいており、ID3やCARTなど、さまざまな決定ツリータイプで使用することができる。 4つのデータセットで実験を行い、分析により、モデルで構築された木が局所モデルを改善し、最先端のモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2024-04-03T06:53:56Z)
• Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
  メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。 我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
  論文  参考訳（メタデータ） (2024-02-06T07:40:53Z)
• RJHMC-Tree for Exploration of the Bayesian Decision Tree Posterior [1.3351610617039973]
  本論文はベイジアンアプローチを用いてデータから決定木を学習することを目的としている。 ハミルトンモンテカルロ (HMC) アプローチを用いてベイズ決定木の後方をより効率的に探索する。
  論文  参考訳（メタデータ） (2023-12-04T02:23:32Z)
• MIXRTs: Toward Interpretable Multi-Agent Reinforcement Learning via Mixing Recurrent Soft Decision Trees [18.83056365359009]
  ブラックボックスニューラルネットワークアーキテクチャを用いたマルチエージェント強化学習(MARL)は、不透明な方法で決定する。 従来の線形モデルや決定木のような既存の解釈可能なアプローチは通常、弱い表現力と低い精度に悩まされる。 我々は、ルート・ツー・リーフ・パスを通じて明示的な決定過程を表現できる新しい解釈可能なアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2022-09-15T11:39:59Z)
• Contextual Decision Trees [62.997667081978825]
  学習アンサンブルの1つの浅い木を特徴量ベースで選択するための,マルチアームのコンテキスト付きバンドレコメンデーションフレームワークを提案する。 トレーニングされたシステムはランダムフォレスト上で動作し、最終的な出力を提供するためのベース予測器を動的に識別する。
  論文  参考訳（メタデータ） (2022-07-13T17:05:08Z)
• Growing Deep Forests Efficiently with Soft Routing and Learned Connectivity [79.83903179393164]
  この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。 我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。 MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
  論文  参考訳（メタデータ） (2020-12-29T18:05:05Z)
• Convex Polytope Trees [57.56078843831244]
  コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。 木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
  論文  参考訳（メタデータ） (2020-10-21T19:38:57Z)
• Rectified Decision Trees: Exploring the Landscape of Interpretable and Effective Machine Learning [66.01622034708319]
  我々は,reDT(rerectified decision tree)と呼ばれる知識蒸留に基づく決定木拡張を提案する。 我々は,ソフトラベルを用いたトレーニングを可能にする標準決定木の分割基準と終了条件を拡張した。 次に,教師モデルから抽出したソフトラベルに基づいて,新しいジャックニフェ法を用いてReDTを訓練する。
  論文  参考訳（メタデータ） (2020-08-21T10:45:25Z)
• Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
  様々な目的に対して最適な決定木を生成する手法を提案する。 また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-06-15T19:00:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。