論文の概要: Efficient Learning of Interpretable Classification Rules
- arxiv url: http://arxiv.org/abs/2205.06936v1
- Date: Sat, 14 May 2022 00:36:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-17 13:55:01.234882
- Title: Efficient Learning of Interpretable Classification Rules
- Title（参考訳）: 解釈可能な分類規則の効率的な学習
- Authors: Bishwamittra Ghosh, Dmitry Malioutov, Kuldeep S. Meel
- Abstract要約: 本稿では,命題論理で表現可能な分類規則に対して,最大満足度(MaxSAT)に基づく解釈可能な学習フレームワークIMLIを提案する。
我々の実験では,IMLIは予測精度,解釈可能性,スケーラビリティの最良のバランスを達成している。
- 参考スコア（独自算出の注目度）: 34.27987659227838
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Machine learning has become omnipresent with applications in various
safety-critical domains such as medical, law, and transportation. In these
domains, high-stake decisions provided by machine learning necessitate
researchers to design interpretable models, where the prediction is
understandable to a human. In interpretable machine learning, rule-based
classifiers are particularly effective in representing the decision boundary
through a set of rules comprising input features. The interpretability of
rule-based classifiers is in general related to the size of the rules, where
smaller rules are considered more interpretable. To learn such a classifier,
the brute-force direct approach is to consider an optimization problem that
tries to learn the smallest classification rule that has close to maximum
accuracy. This optimization problem is computationally intractable due to its
combinatorial nature and thus, the problem is not scalable in large datasets.
To this end, in this paper we study the triangular relationship among the
accuracy, interpretability, and scalability of learning rule-based classifiers.
The contribution of this paper is an interpretable learning framework IMLI,
that is based on maximum satisfiability (MaxSAT) for synthesizing
classification rules expressible in proposition logic. Despite the progress of
MaxSAT solving in the last decade, the straightforward MaxSAT-based solution
cannot scale. Therefore, we incorporate an efficient incremental learning
technique inside the MaxSAT formulation by integrating mini-batch learning and
iterative rule-learning. In our experiments, IMLI achieves the best balance
among prediction accuracy, interpretability, and scalability. As an
application, we deploy IMLI in learning popular interpretable classifiers such
as decision lists and decision sets.
- Abstract（参考訳）: 機械学習は、医療、法律、交通など、さまざまな安全上重要な分野の応用と一線を画している。
これらの領域では、機械学習によって提供される高い意思決定は、研究者が解釈可能なモデルを設計する必要がある。
解釈可能な機械学習では、ルールベースの分類器は入力特徴からなる一連のルールを通して決定境界を表現するのに特に効果的である。
規則に基づく分類器の解釈可能性は通常、より小さい規則をより解釈可能なものとみなす規則のサイズに関係している。
そのような分類器を学習するために、ブルートフォース直接アプローチは、最大精度に近い最小の分類規則を学習しようとする最適化問題を考えることである。
この最適化問題は組合せの性質から計算的に難解であり、大規模なデータセットでは拡張性がない。
そこで本研究では,学習規則に基づく分類器の精度,解釈可能性,スケーラビリティの三角関係について検討する。
本論文の貢献は、命題論理で表現可能な分類規則を合成するための最大満足度(MaxSAT)に基づく解釈可能な学習フレームワークIMLIである。
過去10年間のMaxSAT解決の進歩にもかかわらず、単純なMaxSATベースのソリューションはスケールできない。
そこで我々は,ミニバッチ学習と反復ルール学習を統合することで,maxsat定式化に効率的なインクリメンタル学習技術を導入する。
我々の実験では,IMLIは予測精度,解釈可能性,スケーラビリティの最良のバランスを達成している。
アプリケーションとして、意思決定リストや意思決定セットなどの一般的な解釈可能な分類器の学習にIMLIを配置する。
関連論文リスト
- STAND: Data-Efficient and Self-Aware Precondition Induction for Interactive Task Learning [0.0]
STANDはデータ効率と計算効率のよい機械学習手法である。
XGBoostのような一般的なアプローチよりも、分類精度が高い。
これはインスタンス確実性と呼ばれる尺度を生成し、ホールドアウトセットのパフォーマンスの増加を予測する。
論文 参考訳（メタデータ） (2024-09-11T22:49:38Z) - An Incremental MaxSAT-based Model to Learn Interpretable and Balanced Classification Rules [0.0]
本研究は,MaxSATに基づく解釈可能かつバランスの取れたルールを学習するための漸進的モデルを提案することを目的とする。
MaxSATをベースとしたアプローチは、IMLIと呼ばれ、データセットにモデルを漸進的に適用することで一連のルールを学習するパフォーマンスを向上させるテクニックを提供する。
論文 参考訳（メタデータ） (2024-03-25T04:43:47Z) - Machine Learning with Probabilistic Law Discovery: A Concise
Introduction [77.34726150561087]
Probabilistic Law Discovery (PLD) は、確率論的ルール学習の変種を実装した論理ベースの機械学習手法である。
PLDはDecision Tree/Random Forestメソッドに近いが、関連するルールの定義方法に大きく異なる。
本稿はPLDの主な原則を概説し、その利点と限界を強調し、いくつかのアプリケーションガイドラインを提供する。
論文 参考訳（メタデータ） (2022-12-22T17:40:13Z) - Stabilizing Q-learning with Linear Architectures for Provably Efficient
Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。
このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文 参考訳（メタデータ） (2022-06-01T23:26:51Z) - How Fine-Tuning Allows for Effective Meta-Learning [50.17896588738377]
MAMLライクなアルゴリズムから派生した表現を解析するための理論的フレームワークを提案する。
我々は,勾配降下による微調整により得られる最良予測器のリスク境界を提示し,アルゴリズムが共有構造を有効活用できることを実証する。
この分離の結果、マイニングベースのメソッド、例えばmamlは、少数ショット学習における"frozen representation"目標を持つメソッドよりも優れている。
論文 参考訳（メタデータ） (2021-05-05T17:56:00Z) - Rule Generation for Classification: Scalability, Interpretability, and Fairness [0.0]
制約付き分類のためのルールベースの新しい最適化手法を提案する。
ルールにコスト係数を割り当て、追加制約を導入することにより、解釈可能性と公正性に対処する。
提案手法は,一方の局所的解釈可能性と他方の正当性,他方の精度との間に良好な妥協関係を示す。
論文 参考訳（メタデータ） (2021-04-21T20:31:28Z) - A Scalable Two Stage Approach to Computing Optimal Decision Sets [29.946141040012545]
決定木、決定リスト、決定セットといったルールベースのモデルは、伝統的に最も解釈可能なものとみなされる。
最近の研究は、最小サイズの決定セットを生成するために、命題満足度(SAT)の解を用いている。
本稿では,目的とする決定セットの個々のルールを互いに独立して列挙し,ルールのサブセットを選択することで,最小限の決定セットを学習するための新しい手法を提案する。
論文 参考訳（メタデータ） (2021-02-03T06:51:49Z) - Learning Implicitly with Noisy Data in Linear Arithmetic [94.66549436482306]
PAC-セマンティックスにおける暗黙学習を拡張し、線形算術の言語における間隔としきい値の不確実性を扱う。
最適線形プログラミング対象制約の学習に対する我々の暗黙的アプローチは、実際的な明示的アプローチよりも著しく優れていることを示す。
論文 参考訳（メタデータ） (2020-10-23T19:08:46Z) - Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。
我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。
我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
論文 参考訳（メタデータ） (2020-10-01T15:59:31Z) - Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。
既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。
本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2020-02-19T08:35:15Z) - IMLI: An Incremental Framework for MaxSAT-Based Learning of
Interpretable Classification Rules [40.497133083839664]
我々は、スケーラブルなランタイムパフォーマンスを実現するMaxSATベースのフレームワークに対する漸進的なアプローチであるIMLIを提案する。
IMLIは、精度と解釈性を失うことなく、最大3桁のランタイム改善を達成する。
論文 参考訳（メタデータ） (2020-01-07T05:03:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。