論文の概要: Learning Locally Interpretable Rule Ensemble
- arxiv url: http://arxiv.org/abs/2306.11481v1
- Date: Tue, 20 Jun 2023 12:06:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-21 14:33:08.063105
- Title: Learning Locally Interpretable Rule Ensemble
- Title(参考訳): 局所解釈可能なルールアンサンブルの学習
- Authors: Kentaro Kanamori
- Abstract要約: ルールアンサンブルは重み付き規則の線形結合に基づく解釈可能なモデルである。
本稿では,正確かつ解釈可能なルールアンサンブルモデルを学習するための新しいフレームワークを提案する。
- 参考スコア(独自算出の注目度): 2.512827436728378
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a new framework for learning a rule ensemble model that
is both accurate and interpretable. A rule ensemble is an interpretable model
based on the linear combination of weighted rules. In practice, we often face
the trade-off between the accuracy and interpretability of rule ensembles. That
is, a rule ensemble needs to include a sufficiently large number of weighted
rules to maintain its accuracy, which harms its interpretability for human
users. To avoid this trade-off and learn an interpretable rule ensemble without
degrading accuracy, we introduce a new concept of interpretability, named local
interpretability, which is evaluated by the total number of rules necessary to
express individual predictions made by the model, rather than to express the
model itself. Then, we propose a regularizer that promotes local
interpretability and develop an efficient algorithm for learning a rule
ensemble with the proposed regularizer by coordinate descent with local search.
Experimental results demonstrated that our method learns rule ensembles that
can explain individual predictions with fewer rules than the existing methods,
including RuleFit, while maintaining comparable accuracy.
- Abstract(参考訳): 本稿では,正確かつ解釈可能なルールアンサンブルモデルを学習するための新しいフレームワークを提案する。
ルールアンサンブルは重み付き規則の線形結合に基づく解釈可能なモデルである。
実際、私たちはしばしば規則アンサンブルの正確さと解釈可能性のトレードオフに直面します。
すなわち、ルールアンサンブルは、その正確性を維持するために十分な量の重み付けされたルールを含む必要がある。
このトレードオフを回避し、精度を低下させることなく解釈可能なルールアンサンブルを学ぶために、モデル自体を表現するのではなく、モデルによってなされる個々の予測を表現するのに必要なルールの総数によって評価される、ローカル解釈可能性という新しい概念を導入する。
次に,局所的な解釈可能性を促進する正規化子を提案し,局所探索と座標降下によって規則アンサンブルを学習するための効率的なアルゴリズムを提案する。
実験の結果,ルールファイトを含む既存手法と比較して,個々の予測を少ないルールで説明できるルールアンサンブルを学習し,精度を同等に維持できることがわかった。
関連論文リスト
- Probabilistic Truly Unordered Rule Sets [4.169915659794567]
真に順序のない規則集合に対するTURSを提案する。
我々はルールセットの確率的特性を利用して、類似した確率的出力を持つ場合のみ規則が重複することを許すという直観を生かしている。
我々は,幅広いルールベースの手法に対してベンチマークを行い,モデルの複雑さを低くし,高い競争力のある予測性能を持つルールセットを学習できることを実証した。
論文 参考訳(メタデータ) (2024-01-18T12:03:19Z) - ChatRule: Mining Logical Rules with Large Language Models for Knowledge
Graph Reasoning [107.61997887260056]
そこで我々は,知識グラフ上の論理ルールをマイニングするための大規模言語モデルの力を解き放つ新しいフレームワークChatRuleを提案する。
具体的には、このフレームワークは、KGのセマンティック情報と構造情報の両方を活用するLLMベースのルールジェネレータで開始される。
生成されたルールを洗練させるために、ルールランキングモジュールは、既存のKGから事実を取り入れてルール品質を推定する。
論文 参考訳(メタデータ) (2023-09-04T11:38:02Z) - Abstracting Concept-Changing Rules for Solving Raven's Progressive
Matrix Problems [54.26307134687171]
Raven's Progressive Matrix (RPM) は、候補者の中から選択することで、機械知能においてそのような能力を実現する古典的なテストである。
近年の研究では、RPMの解法はルールの深い理解を促進することが示唆されている。
本稿では、解釈可能な概念を学習し、潜在空間における概念変更ルールを解析することにより、概念変更ルールABstraction(CRAB)の潜時変数モデルを提案する。
論文 参考訳(メタデータ) (2023-07-15T07:16:38Z) - On Regularization and Inference with Label Constraints [62.60903248392479]
機械学習パイプラインにおけるラベル制約を符号化するための2つの戦略、制約付き正規化、制約付き推論を比較した。
正規化については、制約に不整合なモデルを前置することで一般化ギャップを狭めることを示す。
制約付き推論では、モデルの違反を訂正することで人口リスクを低減し、それによってその違反を有利にすることを示す。
論文 参考訳(メタデータ) (2023-07-08T03:39:22Z) - Machine Learning with Probabilistic Law Discovery: A Concise
Introduction [77.34726150561087]
Probabilistic Law Discovery (PLD) は、確率論的ルール学習の変種を実装した論理ベースの機械学習手法である。
PLDはDecision Tree/Random Forestメソッドに近いが、関連するルールの定義方法に大きく異なる。
本稿はPLDの主な原則を概説し、その利点と限界を強調し、いくつかのアプリケーションガイドラインを提供する。
論文 参考訳(メタデータ) (2022-12-22T17:40:13Z) - RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。
RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。
複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
論文 参考訳(メタデータ) (2022-10-24T06:47:13Z) - Truly Unordered Probabilistic Rule Sets for Multi-class Classification [0.0]
真に順序のない規則集合に対するTURSを提案する。
まず、真に順序のない規則集合を学習する問題を定式化する。
次に、ルールを慎重に成長させることでルール集合を学習する2相アルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-06-17T14:34:35Z) - Differentiable Rule Induction with Learned Relational Features [9.193818627108572]
Rule Network(RRN)は、属性間の線形関係を表す述語とそれらを使用するルールを学習するニューラルネットワークである。
ベンチマークタスクでは、これらの述語は解釈可能性を維持するのに十分単純であるが、予測精度を改善し、アートルール誘導アルゴリズムの状態と比較してより簡潔なルールセットを提供する。
論文 参考訳(メタデータ) (2022-01-17T16:46:50Z) - Interpretable and Fair Boolean Rule Sets via Column Generation [18.08486863429421]
整数プログラムは、規則単純性のために最適に分類精度を交換するように定式化される。
公平性の設定を考慮し、分類パリティの2つの異なる尺度に関する明示的な制約を含むように定式化を拡張した。
他の公正かつ解釈可能な分類器と比較して、我々の手法は、公正性のより厳密な概念に適合する規則セットを精度の低いトレードオフで見つけることができる。
論文 参考訳(メタデータ) (2021-11-16T13:40:28Z) - Discovering Useful Compact Sets of Sequential Rules in a Long Sequence [57.684967309375274]
COSSUは、小さな、意味のある一連の規則をマイニングするアルゴリズムである。
COSSUは、長いシーケンスから、関連するクローズド・シーケンシャル・ルールの集合を検索できることを示す。
論文 参考訳(メタデータ) (2021-09-15T18:25:18Z) - Diverse Rule Sets [20.170305081348328]
ルールベースのシステムは、直感的なif-then表現のためにルネッサンスを経験しています。
本稿では,ルール間の重なり合いを最適化することで,多様なルールセットを推定する新しい手法を提案する。
次に、高い差別性を持ち、重複が少ない規則をサンプリングする効率的なランダム化アルゴリズムを考案する。
論文 参考訳(メタデータ) (2020-06-17T14:15:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。