論文の概要: Truly Unordered Probabilistic Rule Sets for Multi-class Classification
- arxiv url: http://arxiv.org/abs/2206.08804v1
- Date: Fri, 17 Jun 2022 14:34:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-20 14:32:56.865797
- Title: Truly Unordered Probabilistic Rule Sets for Multi-class Classification
- Title（参考訳）: 多クラス分類のための真に順序のない確率的ルールセット
- Authors: Lincen Yang, Matthijs van Leeuwen
- Abstract要約: 真に順序のない規則集合に対するTURSを提案する。
まず、真に順序のない規則集合を学習する問題を定式化する。
次に、ルールを慎重に成長させることでルール集合を学習する2相アルゴリズムを開発する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Rule set learning has long been studied and has recently been frequently
revisited due to the need for interpretable models. Still, existing methods
have several shortcomings: 1) most recent methods require a binary feature
matrix as input, learning rules directly from numeric variables is
understudied; 2) existing methods impose orders among rules, either explicitly
or implicitly, which harms interpretability; and 3) currently no method exists
for learning probabilistic rule sets for multi-class target variables (there is
only a method for probabilistic rule lists).
We propose TURS, for Truly Unordered Rule Sets, which addresses these
shortcomings. We first formalise the problem of learning truly unordered rule
sets. To resolve conflicts caused by overlapping rules, i.e., instances covered
by multiple rules, we propose a novel approach that exploits the probabilistic
properties of our rule sets. We next develop a two-phase heuristic algorithm
that learns rule sets by carefully growing rules. An important innovation is
that we use a surrogate score to take the global potential of the rule set into
account when learning a local rule.
Finally, we empirically demonstrate that, compared to non-probabilistic and
(explicitly or implicitly) ordered state-of-the-art methods, our method learns
rule sets that not only have better interpretability (i.e., they are smaller
and truly unordered), but also better predictive performance.
- Abstract（参考訳）: ルールセット学習は長い間研究されてきたが、近年は解釈可能なモデルの必要性から再検討されている。
それでも、既存の方法にはいくつかの欠点がある。
1) 最近の手法では、入力としてバイナリ特徴行列が必要であり、数値変数から直接ルールを学習する。
2) 既存の方法は,明示的にも暗黙的にも,解釈可能性に害を与える規則間で命令を課す。
3) 現在,多クラス対象変数に対する確率的ルールセットの学習方法は存在しない(確率的ルールリストの方法のみが存在する)。
本稿では、これらの欠点に対処する真に無秩序なルールセットのTURSを提案する。
まず、真に順序のない規則集合を学習する問題を定式化する。
重複するルール、すなわち複数のルールがカバーするインスタンスによって引き起こされる競合を解決するために、ルール集合の確率的性質を利用する新しいアプローチを提案する。
次に,ルール集合を注意深く学習する二相ヒューリスティックアルゴリズムを開発した。
重要なイノベーションは、ローカルルールを学ぶ際に設定されたルールのグローバルなポテンシャルを考慮に入れるために、サロゲートスコアを使用することです。
最後に,非確率的かつ(明示的あるいは暗黙的に)順序づけられた最先端の手法と比較して,より優れた解釈性(すなわち,小さく,真に順序のない)を持つ規則集合を学習し,予測性能も向上することを示す。
関連論文リスト
- Neuro-Symbolic Rule Lists [31.085257698392354]
NeuRulesは、識別、ルール学習、ルール順序を単一のフレームワークに統合するエンドツーエンドのトレーニング可能なモデルである。
我々は、NeuRulesがニューラルシンボリックな手法を一貫して上回り、幅広いデータセットにわたって、シンプルで複雑なルールとそれらの順序を効果的に学習していることを示す。
論文 参考訳（メタデータ） (2024-11-10T11:10:36Z) - Probabilistic Truly Unordered Rule Sets [4.169915659794567]
真に順序のない規則集合に対するTURSを提案する。
我々はルールセットの確率的特性を利用して、類似した確率的出力を持つ場合のみ規則が重複することを許すという直観を生かしている。
我々は,幅広いルールベースの手法に対してベンチマークを行い,モデルの複雑さを低くし,高い競争力のある予測性能を持つルールセットを学習できることを実証した。
論文 参考訳（メタデータ） (2024-01-18T12:03:19Z) - Large Language Models can Learn Rules [106.40747309894236]
大規模言語モデル(LLM)を用いた推論のためのルールライブラリを学習するフレームワークであるHtTを提案する。
リレーショナル推論、数値推論、概念学習に関する実験は、HtTが既存のプロンプト法を改善することを示す。
学習されたルールは、異なるモデルや同じ問題の異なる形式にも転送可能である。
論文 参考訳（メタデータ） (2023-10-10T23:07:01Z) - Learning Locally Interpretable Rule Ensemble [2.512827436728378]
ルールアンサンブルは重み付き規則の線形結合に基づく解釈可能なモデルである。
本稿では,正確かつ解釈可能なルールアンサンブルモデルを学習するための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2023-06-20T12:06:56Z) - Efficient learning of large sets of locally optimal classification rules [0.0]
従来のルール学習アルゴリズムは、単純なルールの集合を見つけることを目的としており、各ルールは可能な限り多くの例をカバーする。
本稿では、この方法で発見されたルールは、それらがカバーする例のそれぞれに対して最適な説明ではないかもしれないと論じる。
本稿では,1つの特殊化ループと1つの一般化ループからなるグリーディ最適化において,各トレーニング例をカバーする最良のルールを見つけることを目的とした,効率的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-01-24T11:40:28Z) - Machine Learning with Probabilistic Law Discovery: A Concise
Introduction [77.34726150561087]
Probabilistic Law Discovery (PLD) は、確率論的ルール学習の変種を実装した論理ベースの機械学習手法である。
PLDはDecision Tree/Random Forestメソッドに近いが、関連するルールの定義方法に大きく異なる。
本稿はPLDの主な原則を概説し、その利点と限界を強調し、いくつかのアプリケーションガイドラインを提供する。
論文 参考訳（メタデータ） (2022-12-22T17:40:13Z) - Differentiable Rule Induction with Learned Relational Features [9.193818627108572]
Rule Network(RRN)は、属性間の線形関係を表す述語とそれらを使用するルールを学習するニューラルネットワークである。
ベンチマークタスクでは、これらの述語は解釈可能性を維持するのに十分単純であるが、予測精度を改善し、アートルール誘導アルゴリズムの状態と比較してより簡潔なルールセットを提供する。
論文 参考訳（メタデータ） (2022-01-17T16:46:50Z) - Learning Symbolic Rules for Reasoning in Quasi-Natural Language [74.96601852906328]
我々は,ルールを手作業で構築することなく,自然言語入力で推論できるルールベースシステムを構築した。
本稿では,形式論理文と自然言語文の両方を表現可能な"Quasi-Natural"言語であるMetaQNLを提案する。
提案手法は,複数の推論ベンチマークにおける最先端の精度を実現する。
論文 参考訳（メタデータ） (2021-11-23T17:49:00Z) - Discovering Useful Compact Sets of Sequential Rules in a Long Sequence [57.684967309375274]
COSSUは、小さな、意味のある一連の規則をマイニングするアルゴリズムである。
COSSUは、長いシーケンスから、関連するクローズド・シーケンシャル・ルールの集合を検索できることを示す。
論文 参考訳（メタデータ） (2021-09-15T18:25:18Z) - RNNLogic: Learning Logic Rules for Reasoning on Knowledge Graphs [91.71504177786792]
本稿では知識グラフに基づく推論のための論理規則の学習について研究する。
論理規則は、予測に使用されるときに解釈可能な説明を提供するとともに、他のタスクに一般化することができる。
既存の手法は、検索スペースの検索の問題や、スパース報酬による非効率な最適化に悩まされている。
論文 参考訳（メタデータ） (2020-10-08T14:47:02Z) - Meta-learning with Stochastic Linear Bandits [120.43000970418939]
我々は、よく知られたOFULアルゴリズムの正規化バージョンを実装するバンディットアルゴリズムのクラスを考える。
我々は,タスク数の増加とタスク分散の分散が小さくなると,タスクを個別に学習する上で,我々の戦略が大きな優位性を持つことを理論的および実験的に示す。
論文 参考訳（メタデータ） (2020-05-18T08:41:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。