論文の概要: Visual Exploration of Machine Learning Model Behavior with Hierarchical Surrogate Rule Sets

• arxiv url: http://arxiv.org/abs/2201.07724v1
• Date: Wed, 19 Jan 2022 17:03:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-20 14:35:56.122304
• Title: Visual Exploration of Machine Learning Model Behavior with Hierarchical Surrogate Rule Sets
• Title（参考訳）: 階層型サロゲートルールセットを用いた機械学習モデル行動の視覚的探索
• Authors: Jun Yuan, Brian Barr, Kyle Overton, Enrico Bertini
• Abstract要約: 本稿では,ユーザ定義パラメータに基づく階層的ルールを生成するアルゴリズムである階層的サロゲートルール(HSR)を提案する。 我々はまた、HSRと対話型代理ルール可視化を統合した視覚分析(VA)システムであるSuREにも貢献する。 パラメータ感度,時間性能,および代理決定木との比較により,本アルゴリズムの評価を行った。
• 参考スコア（独自算出の注目度）: 13.94542147252982
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: One of the potential solutions for model interpretation is to train a surrogate model: a more transparent model that approximates the behavior of the model to be explained. Typically, classification rules or decision trees are used due to the intelligibility of their logic-based expressions. However, decision trees can grow too deep and rule sets can become too large to approximate a complex model. Unlike paths on a decision tree that must share ancestor nodes (conditions), rules are more flexible. However, the unstructured visual representation of rules makes it hard to make inferences across rules. To address these issues, we present a workflow that includes novel algorithmic and interactive solutions. First, we present Hierarchical Surrogate Rules (HSR), an algorithm that generates hierarchical rules based on user-defined parameters. We also contribute SuRE, a visual analytics (VA) system that integrates HSR and interactive surrogate rule visualizations. Particularly, we present a novel feature-aligned tree to overcome the shortcomings of existing rule visualizations. We evaluate the algorithm in terms of parameter sensitivity, time performance, and comparison with surrogate decision trees and find that it scales reasonably well and outperforms decision trees in many respects. We also evaluate the visualization and the VA system by a usability study with 24 volunteers and an observational study with 7 domain experts. Our investigation shows that the participants can use feature-aligned trees to perform non-trivial tasks with very high accuracy. We also discuss many interesting observations that can be useful for future research on designing effective rule-based VA systems.
• Abstract（参考訳）: モデル解釈の潜在的な解決策の1つは代理モデルを訓練することであり、説明すべきモデルの振る舞いを近似するより透明なモデルである。 典型的には、分類規則や決定木は論理に基づく表現の理解性のために用いられる。 しかし、決定木は深く成長しすぎ、規則集合は複雑なモデルを近似するには大きすぎる。 祖先ノード(条件)を共有しなければならない決定ツリー上のパスとは異なり、ルールはより柔軟である。 しかし、ルールの非構造的な視覚表現は、ルール間の推論を難しくする。 これらの問題に対処するために,新しいアルゴリズムとインタラクティブなソリューションを含むワークフローを提案する。 まず,ユーザ定義パラメータに基づいて階層ルールを生成するアルゴリズムである階層型サーロゲートルール(hsr)を提案する。 我々はまた、HSRと対話型代理ルール可視化を統合した視覚分析(VA)システムSuREにも貢献する。 特に,既存のルール視覚化の欠点を克服する新しい特徴整列木を提案する。 パラメータ感度,時間性能,サロゲート決定木との比較によりアルゴリズムの評価を行い,多くの点で合理的にスケールし,決定木よりも優れることを示した。 また,24名のボランティアによるユーザビリティスタディと7名のドメインエキスパートによる観察研究により,可視化とvaシステムを評価する。 本研究は,特徴に合わせた木を用いて,極めて高い精度で非自明なタスクを遂行できることを示す。 また,ルールベースのVAシステムの設計における今後の研究に役立つ興味深い観測点についても論じる。

関連論文リスト

• Decision Trees for Interpretable Clusters in Mixture Models and Deep Representations [5.65604054654671]
  混合モデルに対する説明可能性-雑音比の概念を導入する。 本研究では,混合モデルを入力として,データに依存しない時間に適切な木を構築するアルゴリズムを提案する。 結果の決定ツリーの誤り率について,上と下の境界を証明した。
  論文  参考訳（メタデータ） (2024-11-03T14:00:20Z)
• Inherently Interpretable Tree Ensemble Learning [7.868733904112288]
  浅い決定木をベース学習として使用すると、アンサンブル学習アルゴリズムが本質的に解釈可能であることを示す。 木アンサンブルを固有の解釈可能性を持つ機能的ANOVA表現に変換する解釈アルゴリズムを開発した。 シミュレーションと実世界のデータセットを用いた実験により,提案手法はモデル解釈と予測性能のトレードオフを良くすることを示した。
  論文  参考訳（メタデータ） (2024-10-24T18:58:41Z)
• Optimized Feature Generation for Tabular Data via LLMs with Decision Tree Reasoning [53.241569810013836]
  本稿では,大規模言語モデル(LLM)を用いて,効率的な特徴生成ルールを同定するフレームワークを提案する。 我々は、自然言語で容易に表現できるため、この推論情報を伝達するために決定木を使用します。 OCTreeは様々なベンチマークで様々な予測モデルの性能を継続的に向上させる。
  論文  参考訳（メタデータ） (2024-06-12T08:31:34Z)
• ViTree: Single-path Neural Tree for Step-wise Interpretable Fine-grained Visual Categorization [56.37520969273242]
  細かな視覚分類のための新しいアプローチであるViTreeを紹介する。 ツリーパスをトラバースすることで、ViTreeは変換処理された機能からパッチを効果的に選択し、情報のあるローカルリージョンをハイライトする。 このパッチとパスの選択性は、ViTreeのモデルの解釈可能性を高め、モデルの内部動作に関するより良い洞察を可能にする。
  論文  参考訳（メタデータ） (2024-01-30T14:32:25Z)
• Greedy Algorithm for Inference of Decision Trees from Decision Rule Systems [0.0]
  決定木と決定ルールシステムは属性、知識表現ツール、アルゴリズムとして重要な役割を果たす。 本稿では,逆変換問題について考察する。 本研究は,決定木全体を構築する代わりに,与えられた属性に対する決定木の操作をシミュレートする欲求時間アルゴリズムに焦点を当てる。
  論文  参考訳（メタデータ） (2024-01-08T09:28:55Z)
• DeforestVis: Behavior Analysis of Machine Learning Models with Surrogate Decision Stumps [46.58231605323107]
  複雑なMLモデルの振る舞いを要約する視覚解析ツールであるDeforestVisを提案する。 DeforestVisは、より多くの切り株をインクリメンタルに生成することで、複雑さとフィデリティのトレードオフを探索するのに役立つ。 DeforestVisの適用性と有用性について,2つのユースケースと,データアナリストとモデル開発者とのエキスパートインタビューで紹介する。
  論文  参考訳（メタデータ） (2023-03-31T21:17:15Z)
• Unsupervised Knowledge Graph Alignment by Probabilistic Reasoning and Semantic Embedding [22.123001954919893]
  本稿では,確率論的推論とセマンティック埋め込みに基づくPRASEという反復的フレームワークを提案する。 PRASEフレームワークは、異なる埋め込みベースのモデルと互換性があり、複数のデータセットの実験では、その最先端性能が実証されている。
  論文  参考訳（メタデータ） (2021-05-12T11:27:46Z)
• Probabilistic Case-based Reasoning for Open-World Knowledge Graph Completion [59.549664231655726]
  ケースベース推論(CBR)システムは,与えられた問題に類似した事例を検索することで,新たな問題を解決する。 本稿では,知識ベース(KB)の推論において,そのようなシステムが実現可能であることを示す。 提案手法は,KB内の類似エンティティからの推論パスを収集することにより,エンティティの属性を予測する。
  論文  参考訳（メタデータ） (2020-10-07T17:48:12Z)
• MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
  動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。 当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
  論文  参考訳（メタデータ） (2020-07-24T17:06:55Z)
• Parameterizing Branch-and-Bound Search Trees to Learn Branching Policies [76.83991682238666]
  Branch and Bound (B&B) は、Mixed-Integer Linear Programming Problem (MILP) の解法として一般的に用いられる木探索法である。 本稿では,新しい模倣学習フレームワークを提案し,分岐を表現するための新しい入力機能とアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-02-12T17:43:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。