論文の概要: White-box Induction From SVM Models: Explainable AI with Logic
Programming
- arxiv url: http://arxiv.org/abs/2008.03301v1
- Date: Sun, 9 Aug 2020 23:07:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 04:35:39.089339
- Title: White-box Induction From SVM Models: Explainable AI with Logic
Programming
- Title(参考訳): SVMモデルからのホワイトボックス誘導:ロジックプログラミングによる説明可能なAI
- Authors: Farhad Shakerin, Gopal Gupta
- Abstract要約: 本稿では,サポートベクタマシン(SVM)アルゴリズムで学習したモデルを説明するロジックプログラムの導入に着目する。
我々は、説明可能なAIの例固有のインタプリタであるSHAPを使用して、関連する機能のセットを決定する。
このアプローチは、SVMモデルの基盤となるロジックを捕捉し、FOILアルゴリズムである%GGを上回るアルゴリズムを生成する。
- 参考スコア(独自算出の注目度): 6.396288020763143
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We focus on the problem of inducing logic programs that explain models
learned by the support vector machine (SVM) algorithm. The top-down sequential
covering inductive logic programming (ILP) algorithms (e.g., FOIL) apply
hill-climbing search using heuristics from information theory. A major issue
with this class of algorithms is getting stuck in a local optimum. In our new
approach, however, the data-dependent hill-climbing search is replaced with a
model-dependent search where a globally optimal SVM model is trained first,
then the algorithm looks into support vectors as the most influential data
points in the model, and induces a clause that would cover the support vector
and points that are most similar to that support vector. Instead of defining a
fixed hypothesis search space, our algorithm makes use of SHAP, an
example-specific interpreter in explainable AI, to determine a relevant set of
features. This approach yields an algorithm that captures SVM model's
underlying logic and outperforms %GG: the FOIL algorithm --> other ILP
algorithms other ILP algorithms in terms of the number of induced clauses and
classification evaluation metrics. This paper is under consideration for
publication in the journal of "Theory and practice of logic programming".
- Abstract(参考訳): 本稿では,サポートベクトルマシン(SVM)アルゴリズムで学習したモデルを説明するロジックプログラムの誘導問題に焦点をあてる。
トップダウンシーケンシャルカバーインダクティブ論理プログラミング(ILP)アルゴリズム(例えば、FOIL)は、情報理論からのヒューリスティックスを用いたヒルクライミング探索を適用する。
このタイプのアルゴリズムの大きな問題は、ローカル最適化に詰まってしまうことだ。
しかし,新たなアプローチでは,データ依存のヒルクライミング探索をモデル依存検索に置き換え,まずグローバルな最適SVMモデルをトレーニングし,次に,そのモデルにおいて最も影響力のあるデータポイントとしてサポートベクトルを探索し,そのサポートベクトルと最もよく似た点をカバーする節を誘導する。
固定仮説探索空間を定義する代わりに、我々のアルゴリズムは、説明可能なAIの例固有のインタプリタであるSHAPを用いて、関連する機能セットを決定する。
このアプローチは、svmモデルの基盤となるロジックをキャプチャし、%ggを上回るアルゴリズムを生成する: foilアルゴリズム --> 他のilpアルゴリズム 他のilpアルゴリズム 誘導節の数と分類評価メトリクスの観点から。
本論文は「論理プログラミングの理論と実践」誌の出版に向けて検討中である。
関連論文リスト
- Large Language Model-Enhanced Algorithm Selection: Towards Comprehensive Algorithm Representation [27.378185644892984]
本稿では,Large Language Models (LLM) をアルゴリズム選択に導入する。
LLMはアルゴリズムの構造的・意味的な側面を捉えるだけでなく、文脈的認識とライブラリ機能理解も示している。
選択されたアルゴリズムは、与えられた問題と異なるアルゴリズムの一致度によって決定される。
論文 参考訳(メタデータ) (2023-11-22T06:23:18Z) - Online Regenerative Learning [0.0]
入力による目的関数を最大化するオンライン線形プログラミング(OLP)問題について検討する。
このタイプの OLP を解析する様々なアルゴリズムの性能は、入力が i.i.d 分布に従うとよく研究される。
論文 参考訳(メタデータ) (2022-09-18T21:04:56Z) - The CLRS Algorithmic Reasoning Benchmark [28.789225199559834]
アルゴリズムの学習表現は機械学習の新たな領域であり、ニューラルネットワークから古典的なアルゴリズムで概念をブリッジしようとしている。
本稿では,従来のアルゴリズムを包括するCLRS Algorithmic Reasoning Benchmarkを提案する。
我々のベンチマークは、ソート、探索、動的プログラミング、グラフアルゴリズム、文字列アルゴリズム、幾何アルゴリズムなど、様々なアルゴリズムの推論手順にまたがっている。
論文 参考訳(メタデータ) (2022-05-31T09:56:44Z) - A Clustering and Demotion Based Algorithm for Inductive Learning of
Default Theories [4.640835690336653]
正および負の例から非単調論理プログラムを誘導するクラスタリングとデモーションに基づくアルゴリズムKmeans-FOLDを提案する。
本アルゴリズムは,FOLDアルゴリズムと比較して,より簡潔な論理プログラムを生成する。
UCIデータセットの実験では、K-Meansクラスタリングと当社のデモーション戦略の組み合わせによって、複数の肯定的な例のクラスタを持つデータセットに対して、大幅な改善が達成されている。
論文 参考訳(メタデータ) (2021-09-26T14:50:18Z) - Machine Learning for Online Algorithm Selection under Censored Feedback [71.6879432974126]
オンラインアルゴリズム選択(OAS)では、アルゴリズム問題クラスのインスタンスがエージェントに次々に提示され、エージェントは、固定された候補アルゴリズムセットから、おそらく最高のアルゴリズムを迅速に選択する必要がある。
SAT(Satisfiability)のような決定問題に対して、品質は一般的にアルゴリズムのランタイムを指す。
本研究では,OASのマルチアームバンディットアルゴリズムを再検討し,この問題に対処する能力について議論する。
ランタイム指向の損失に適応し、時間的地平線に依存しない空間的・時間的複雑さを維持しながら、部分的に検閲されたデータを可能にする。
論文 参考訳(メタデータ) (2021-09-13T18:10:52Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳(メタデータ) (2021-06-08T21:05:30Z) - Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。
問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。
本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-07T08:00:02Z) - Online Model Selection for Reinforcement Learning with Function
Approximation [50.008542459050155]
我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。
また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
論文 参考訳(メタデータ) (2020-11-19T10:00:54Z) - Performance Analysis of Meta-heuristic Algorithms for a Quadratic
Assignment Problem [6.555180412600522]
二次代入問題 (QAP) はNPハード問題に属する最適化問題である。
ヒューリスティックスとメタヒューリスティックスアルゴリズムはこの問題の一般的な解法である。
本稿では,QAPの解法に異なるメタヒューリスティックアルゴリズムを適用するための比較研究の1つである。
論文 参考訳(メタデータ) (2020-07-29T15:02:07Z) - Run2Survive: A Decision-theoretic Approach to Algorithm Selection based
on Survival Analysis [75.64261155172856]
生存分析(SA)は、自然に検閲されたデータをサポートし、アルゴリズムランタイムの分散モデルを学習するためにそのようなデータを使用する適切な方法を提供する。
我々は、アルゴリズム選択に対する洗練された決定論的アプローチの基礎として、そのようなモデルを活用し、Run2Surviveを疑う。
標準ベンチマークASlibによる広範な実験では、我々のアプローチは競争力が高く、多くの場合、最先端のASアプローチよりも優れていることが示されている。
論文 参考訳(メタデータ) (2020-07-06T15:20:17Z) - Model Selection in Contextual Stochastic Bandit Problems [51.94632035240787]
基本アルゴリズムを選択できるメタアルゴリズムを開発した。
基本アルゴリズムの1つが$O(sqrtT)$後悔している場合でも、一般的には$Omega(sqrtT)$後悔よりも良いものを得ることはできません。
論文 参考訳(メタデータ) (2020-03-03T18:46:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。