論文の概要: GPTree: Towards Explainable Decision-Making via LLM-powered Decision Trees

• arxiv url: http://arxiv.org/abs/2411.08257v1
• Date: Wed, 13 Nov 2024 00:14:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-14 16:11:48.234468
• Title: GPTree: Towards Explainable Decision-Making via LLM-powered Decision Trees
• Title（参考訳）: GPTree: LLMを利用した決定木による説明可能な意思決定を目指して
• Authors: Sichao Xiong, Yigit Ihlamur, Fuat Alican, Aaron Ontoyin Yin,
• Abstract要約: GPTreeは、決定木の説明可能性とLLMの高度な推論能力を組み合わせた、新しいフレームワークである。 我々の決定木は、スタートアップの開始段階で「ユニコーン」スタートアップを特定するための精度が7.8%に達した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Traditional decision tree algorithms are explainable but struggle with non-linear, high-dimensional data, limiting its applicability in complex decision-making. Neural networks excel at capturing complex patterns but sacrifice explainability in the process. In this work, we present GPTree, a novel framework combining explainability of decision trees with the advanced reasoning capabilities of LLMs. GPTree eliminates the need for feature engineering and prompt chaining, requiring only a task-specific prompt and leveraging a tree-based structure to dynamically split samples. We also introduce an expert-in-the-loop feedback mechanism to further enhance performance by enabling human intervention to refine and rebuild decision paths, emphasizing the harmony between human expertise and machine intelligence. Our decision tree achieved a 7.8% precision rate for identifying "unicorn" startups at the inception stage of a startup, surpassing gpt-4o with few-shot learning as well as the best human decision-makers (3.1% to 5.6%).
• Abstract（参考訳）: 従来の決定木アルゴリズムは説明可能であるが、非線形で高次元のデータに苦しむため、複雑な意思決定における適用性が制限される。 ニューラルネットワークは複雑なパターンを捉えるのに優れるが、プロセスにおける説明責任を犠牲にする。 本稿では,決定木の説明可能性とLLMの高度な推論能力を組み合わせた新しいフレームワークであるGPTreeを提案する。 GPTreeは機能エンジニアリングとプロンプトチェインの必要性を排除し、タスク固有のプロンプトのみを必要とし、ツリーベースの構造を利用して動的にサンプルを分割する。 また、人間の介入による意思決定経路の洗練と再構築を可能にし、人間の専門知識とマシンインテリジェンスとの調和を強調することにより、パフォーマンスの向上を図るためのエキスパート・イン・ザ・ループフィードバック機構も導入する。 我々の決定木は、スタートアップの開始時点で「ユニコーン」スタートアップを識別する精度が7.8%に達し、数発の学習でgpt-4oを上回り、最高の人間の意思決定者(3.1%から5.6%)を上回った。

関連論文リスト

• Causal Discovery and Classification Using Lempel-Ziv Complexity [2.7309692684728617]
  本稿では,Lempel-Ziv複雑性から導かれる新しい因果度尺度と距離計量を導入する。 因果決定木と距離決定木の有効性を評価する。
  論文  参考訳（メタデータ） (2024-11-04T08:24:56Z)
• Learning accurate and interpretable decision trees [27.203303726977616]
  我々は、同じドメインから繰り返しデータにアクセスして決定木学習アルゴリズムを設計するためのアプローチを開発する。 本研究では,ベイズ決定木学習における事前パラメータのチューニングの複雑さについて検討し,その結果を決定木回帰に拡張する。 また、学習した決定木の解釈可能性について検討し、決定木を用いた説明可能性と精度のトレードオフを最適化するためのデータ駆動型アプローチを提案する。
  論文  参考訳（メタデータ） (2024-05-24T20:10:10Z)
• Online Learning of Decision Trees with Thompson Sampling [12.403737756721467]
  決定木は解釈可能な機械学習のための顕著な予測モデルである。 オンライン環境で最適な決定木を生成できるモンテカルロ木探索アルゴリズムを考案した。
  論文  参考訳（メタデータ） (2024-04-09T15:53:02Z)
• An Interpretable Client Decision Tree Aggregation process for Federated Learning [7.8973037023478785]
  本稿では,フェデレート学習シナリオを対象とした解釈可能なクライアント決定木集約プロセスを提案する。 このモデルは、決定ツリーの複数の決定パスの集約に基づいており、ID3やCARTなど、さまざまな決定ツリータイプで使用することができる。 4つのデータセットで実験を行い、分析により、モデルで構築された木が局所モデルを改善し、最先端のモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2024-04-03T06:53:56Z)
• Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
  メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。 我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
  論文  参考訳（メタデータ） (2024-02-06T07:40:53Z)
• Explaining Tree Model Decisions in Natural Language for Network Intrusion Detection [18.5400518912912]
  機械学習を利用したネットワーク侵入検知(NID)システムは、悪意のあるネットワークトラフィックを検出するために使用される場合、実際に高い性能を示すことが示されている。 特に決定木は、パフォーマンスと単純さのバランスが強いが、NIDシステムのユーザは、機械学習の背景知識を解釈しなければならない。 本研究では,大規模言語モデル(LLM)を用いて,意思決定木NIDシステムに対する説明と背景知識を提供する。
  論文  参考訳（メタデータ） (2023-10-30T15:40:34Z)
• Tree Prompting: Efficient Task Adaptation without Fine-Tuning [112.71020326388029]
  Tree Promptingはプロンプトの決定ツリーを構築し、複数のLMコールをリンクしてタスクを解決する。 分類データセットの実験により、Tree Promptingは競合するメソッドよりも精度が向上し、微調整と競合することが示された。
  論文  参考訳（メタデータ） (2023-10-21T15:18:22Z)
• TreeDQN: Learning to minimize Branch-and-Bound tree [78.52895577861327]
  Branch-and-Boundは、Mixed Linear Programsという形で最適化タスクを解決するための便利なアプローチである。 解法の効率は、分割する変数を選択するのに使用される分岐に依存する。 分岐を効率的に学習できる強化学習法を提案する。
  論文  参考訳（メタデータ） (2023-06-09T14:01:26Z)
• Growing Deep Forests Efficiently with Soft Routing and Learned Connectivity [79.83903179393164]
  この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。 我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。 MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
  論文  参考訳（メタデータ） (2020-12-29T18:05:05Z)
• MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
  動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。 当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
  論文  参考訳（メタデータ） (2020-07-24T17:06:55Z)
• Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
  様々な目的に対して最適な決定木を生成する手法を提案する。 また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-06-15T19:00:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。