論文の概要: Efficient Exploration of the Rashomon Set of Rule Set Models

• arxiv url: http://arxiv.org/abs/2406.03059v1
• Date: Wed, 5 Jun 2024 08:37:41 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 19:19:28.719563
• Title: Efficient Exploration of the Rashomon Set of Rule Set Models
• Title（参考訳）: ルール集合モデルの羅生門集合の効率的な探索
• Authors: Martino Ciaperoni, Han Xiao, Aristides Gionis,
• Abstract要約: 解釈可能な機械学習における新たなパラダイムは、ほぼ最適性能を示すすべてのモデルの羅生門集合を探索することを目的としている。 ラショモン集合探索に関する既存の研究は、特定のモデルのクラスに対するラショモン集合の徹底的な探索に焦点を当てている。 本稿では,Rashomonのルールセットの集合を網羅的探索の有無で探索する手法を初めて提案する。
• 参考スコア（独自算出の注目度）: 18.187800166484507
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Today, as increasingly complex predictive models are developed, simple rule sets remain a crucial tool to obtain interpretable predictions and drive high-stakes decision making. However, a single rule set provides a partial representation of a learning task. An emerging paradigm in interpretable machine learning aims at exploring the Rashomon set of all models exhibiting near-optimal performance. Existing work on Rashomon-set exploration focuses on exhaustive search of the Rashomon set for particular classes of models, which can be a computationally challenging task. On the other hand, exhaustive enumeration leads to redundancy that often is not necessary, and a representative sample or an estimate of the size of the Rashomon set is sufficient for many applications. In this work, we propose, for the first time, efficient methods to explore the Rashomon set of rule set models with or without exhaustive search. Extensive experiments demonstrate the effectiveness of the proposed methods in a variety of scenarios.
• Abstract（参考訳）: 今日、ますます複雑な予測モデルが開発されるにつれて、単純なルールセットは解釈可能な予測を取得し、高い意思決定を促進する重要なツールとして残されている。 しかし、単一のルールセットは学習タスクの部分的な表現を提供する。 解釈可能な機械学習における新たなパラダイムは、ほぼ最適性能を示すすべてのモデルの羅生門集合を探索することを目的としている。 ラショウモン集合探索に関する既存の研究は、特定のモデルのクラスに対するラショウモン集合の徹底的な探索に焦点を当てており、これは計算的に難しい課題である。 一方、徹底的な列挙は、しばしば不要な冗長性をもたらし、代表的なサンプルやラショモン集合の大きさの見積もりは多くの応用に十分である。 本研究では,ラショウモン集合のルール集合を網羅的探索の有無で探索する手法を初めて提案する。 広範囲な実験により,提案手法の有効性が様々なシナリオで示された。

関連論文リスト

• Revisiting SMoE Language Models by Evaluating Inefficiencies with Task Specific Expert Pruning [78.72226641279863]
  SMOE(Sparse Mixture of Expert)モデルは、言語モデリングにおける高密度モデルに代わるスケーラブルな代替品として登場した。 本研究は,SMoEアーキテクチャの設計に関する意思決定を行うために,タスク固有のモデルプルーニングについて検討する。 適応型タスク対応プルーニング手法 UNCURL を導入し,MoE 層当たりの専門家数をオフラインで学習する手法を提案する。
  論文  参考訳（メタデータ） (2024-09-02T22:35:03Z)
• Practical Attribution Guidance for Rashomon Sets [0.0]
  実践的な観点から, 羅生門集合サンプリングの問題点を考察する。 一般化可能性と実装範囲の2つの基本公理を同定する。 我々はこの規範を用いて$epsilon$-subgradient-based sample法の設計をガイドする。
  論文  参考訳（メタデータ） (2024-07-26T03:17:41Z)
• Diversified Batch Selection for Training Acceleration [68.67164304377732]
  オンラインバッチ選択として知られる一般的な研究ラインでは、トレーニングプロセス中の情報サブセットの選択について検討している。 バニラ参照モデルフリーメソッドは、独立してデータをサンプリング的にスコア付けし、選択する。 DivBS(Diversified Batch Selection)を提案する。
  論文  参考訳（メタデータ） (2024-06-07T12:12:20Z)
• Predictive Churn with the Set of Good Models [64.05949860750235]
  近似機械学習モデルの集合に対する競合予測の効果について検討する。 ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。 当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
  論文  参考訳（メタデータ） (2024-02-12T16:15:25Z)
• Dropout-Based Rashomon Set Exploration for Efficient Predictive Multiplicity Estimation [15.556756363296543]
  予測多重性(英: Predictive multiplicity)とは、ほぼ等しい最適性能を達成する複数の競合モデルを含む分類タスクを指す。 本稿では,Rashomon 集合のモデル探索にドロップアウト手法を利用する新しいフレームワークを提案する。 本手法は, 予測多重度推定の有効性の観点から, ベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2024-02-01T16:25:00Z)
• A Path to Simpler Models Starts With Noise [17.36067410506525]
  羅生門集合は、与えられたデータセット上でほぼ等しく機能するモデルの集合である。 オープンな疑問は、なぜラショモン比が大きくなるのかである。 よりノイズの多いデータセットは、実践者がモデルをトレーニングする方法を通じて、より大きなRashomon比につながることを示す。
  論文  参考訳（メタデータ） (2023-10-30T16:52:57Z)
• Skill Disentanglement for Imitation Learning from Suboptimal Demonstrations [60.241144377865716]
  我々は、小さなクリーンな実演セットと大きなノイズセットの両方で、準最適実演の模倣を考える。 本稿では,様々な品質のアクションプリミティブを異なるスキルに符号化し,サブデモレーションレベルの評価と模倣を行う手法を提案する。
  論文  参考訳（メタデータ） (2023-06-13T17:24:37Z)
• Exploring and Interacting with the Set of Good Sparse Generalized Additive Models [26.64299550434767]
  固定支持集合に対する楕円体を持つスパース・一般化加法モデルのラショーモン集合を近似するアルゴリズムを提案する。 近似された羅生門集合は、(1)モデルクラスにおける変数の重要性の研究、(2)ユーザ指定制約下でのモデル発見(単調性、直接編集)、(3)形状関数の急激な変化の調査など、実用上の課題を解決する基盤となる。
  論文  参考訳（メタデータ） (2023-03-28T15:25:46Z)
• Exploring the Whole Rashomon Set of Sparse Decision Trees [23.136590456299007]
  ラショーモン集合は、ほぼ最適モデル全体の成す集合であることを示す。 粗い決定木のための羅生門セットを完全に列挙する最初の手法を提供する。 これにより、ユーザーはモデル選択に対して前例のないレベルの制御を行うことができる。
  論文  参考訳（メタデータ） (2022-09-16T16:37:26Z)
• Partial Order in Chaos: Consensus on Feature Attributions in the Rashomon Set [50.67431815647126]
  ポストホックなグローバル/ローカルな特徴属性法は、機械学習モデルを理解するために徐々に採用されている。 この手法により局所的・言語的特徴の半順序が生じることを示す。 これらの部分的な順序に現れる特徴間の関係は、既存のアプローチによって提供されたランクにも当てはまることを示す。
  論文  参考訳（メタデータ） (2021-10-26T02:53:14Z)
• Few-shot Classification via Adaptive Attention [93.06105498633492]
  ごく少数の参照サンプルに基づいて,クエリサンプル表現を最適化し,高速に適応する新しい数ショット学習手法を提案する。 実験で実証したように,提案モデルでは,様々なベンチマーク数ショット分類と微粒化認識データセットを用いて,最先端の分類結果を達成している。
  論文  参考訳（メタデータ） (2020-08-06T05:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。