論文の概要: MetaDT: Meta Decision Tree with Class Hierarchy for Interpretable
Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2203.01482v2
- Date: Wed, 26 Jul 2023 00:49:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-27 16:42:57.423560
- Title: MetaDT: Meta Decision Tree with Class Hierarchy for Interpretable
Few-Shot Learning
- Title(参考訳): MetaDT:Few-Shot学習のためのクラス階層を持つメタ決定木
- Authors: Baoquan Zhang, Hao Jiang, Xutao Li, Shanshan Feng, Yunming Ye, Rui Ye
- Abstract要約: Few-Shot Learningは、新しいクラスを少数の例で認識することを目的とした、難しいタスクである。
本稿ではメタ学習に基づく決定木フレームワークMetaDTを提案する。
FSLの解釈性は概念的側面と視覚的側面という2つの側面から達成される。
- 参考スコア(独自算出の注目度): 18.825617142472648
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Few-Shot Learning (FSL) is a challenging task, which aims to recognize novel
classes with few examples. Recently, lots of methods have been proposed from
the perspective of meta-learning and representation learning. However, few
works focus on the interpretability of FSL decision process. In this paper, we
take a step towards the interpretable FSL by proposing a novel meta-learning
based decision tree framework, namely, MetaDT. In particular, the FSL
interpretability is achieved from two aspects, i.e., a concept aspect and a
visual aspect. On the concept aspect, we first introduce a tree-like concept
hierarchy as FSL prior. Then, resorting to the prior, we split each few-shot
task to a set of subtasks with different concept levels and then perform class
prediction via a model of decision tree. The advantage of such design is that a
sequence of high-level concept decisions that lead up to a final class
prediction can be obtained, which clarifies the FSL decision process. On the
visual aspect, a set of subtask-specific classifiers with visual attention
mechanism is designed to perform decision at each node of the decision tree. As
a result, a subtask-specific heatmap visualization can be obtained to achieve
the decision interpretability of each tree node. At last, to alleviate the data
scarcity issue of FSL, we regard the prior of concept hierarchy as an
undirected graph, and then design a graph convolution-based decision tree
inference network as our meta-learner to infer parameters of the decision tree.
Extensive experiments on performance comparison and interpretability analysis
show superiority of our MetaDT.
- Abstract(参考訳): FSL(Few-Shot Learning)は、新しいクラスをいくつかの例で認識することを目的とした課題である。
近年,メタ学習や表現学習の観点から多くの手法が提案されている。
しかし、FSL決定プロセスの解釈可能性に焦点を当てた研究はほとんどない。
本稿では,新しいメタ学習ベースの決定木フレームワークであるmetadtを提案することで,解釈可能なfslへの一歩を踏み出す。
特に、FSLの解釈性は概念的側面と視覚的側面という2つの側面から達成される。
概念面では、まず FSL として木のような概念階層を導入する。
そこで, 先行課題に頼って, 各タスクを異なる概念レベルを持つサブタスク群に分割し, 決定木モデルを用いてクラス予測を行う。
このような設計の利点は、最終的なクラス予測につながる一連のハイレベルな概念決定が得られ、fslの決定プロセスが明確になることである。
視覚面では、視覚的注意機構を備えたサブタスク固有の分類器のセットが、決定ツリーの各ノードで決定を行うように設計されている。
その結果、サブタスク固有のヒートマップ可視化が得られ、各ツリーノードの決定解釈性が得られる。
最終的に、FSLのデータ不足を緩和するために、概念階層の先行を無向グラフとみなし、グラフ畳み込みに基づく決定木推論ネットワークをメタラーナーとして設計し、決定木のパラメータを推測する。
性能比較および解釈可能性分析に関する大規模な実験は、MetaDTの優位性を示している。
関連論文リスト
- ST-Tree with Interpretability for Multivariate Time Series Classification [1.298914566427719]
Swin Transformer (ST) は、自己認識機構を利用して、きめ細かい局所パターンとグローバルパターンの両方をキャプチャすることで、これらの問題に対処する。
ST-Treeモデルは、STをバックボーンネットワークとして追加のニューラルツリーモデルと組み合わせる。
これにより、研究者はモデルの意思決定プロセスを明確に把握し、意味のある解釈を抽出できる。
論文 参考訳(メタデータ) (2024-11-18T14:49:12Z) - LLM-based Hierarchical Concept Decomposition for Interpretable Fine-Grained Image Classification [5.8754760054410955]
構造化概念解析によるモデル解釈可能性の向上を目的とした新しいフレームワークである textttHi-CoDecomposition を紹介する。
われわれのアプローチは、最先端のモデルの性能だけでなく、意思決定プロセスに対する明確な洞察を提供することで透明性を向上する。
論文 参考訳(メタデータ) (2024-05-29T00:36:56Z) - Exploring Effective Factors for Improving Visual In-Context Learning [56.14208975380607]
In-Context Learning(ICL)は、いくつかのデモ(別名プロンプト)を通じて新しいタスクを理解し、モデルをチューニングせずに新しい入力を予測することである。
本稿では,視覚的文脈学習の推論性能に直接的な影響を及ぼす要因として,迅速な選択と迅速な融合があげられる。
視覚的インコンテキスト学習のためのシンプルなフレームワークプロンプトSelFを提案する。
論文 参考訳(メタデータ) (2023-04-10T17:59:04Z) - Tree Structure-Aware Few-Shot Image Classification via Hierarchical
Aggregation [27.868736254566397]
我々は、プレテキストタスクを通して、数ショットの画像分類のための追加の特徴表現を学習する方法に焦点をあてる。
この追加の知識は、数発の学習のパフォーマンスをさらに向上させることができる。
本稿では,FSLとプレテキストタスクの関係を学習する階層木構造認識(HTS)手法を提案する。
論文 参考訳(メタデータ) (2022-07-14T15:17:19Z) - Social Interpretable Tree for Pedestrian Trajectory Prediction [75.81745697967608]
本稿では,このマルチモーダル予測課題に対処するため,SIT(Social Interpretable Tree)と呼ばれる木に基づく手法を提案する。
木の根から葉までの経路は、個々の将来の軌跡を表す。
ETH-UCYとStanford Droneのデータセットによる実験結果からは,手作り木にもかかわらず,我々の手法が最先端の手法の性能に適合または超えることを示した。
論文 参考訳(メタデータ) (2022-05-26T12:18:44Z) - SONG: Self-Organizing Neural Graphs [10.253870280561609]
決定木は二分決定に基づいており、決定を素早くし、クラス階層を提供するため、容易に解釈できる。
決定木がよく知られた欠点の1つは、決定木が決定ノードを再利用できないことである。
本稿では、マルコフ過程に基づく一般的なパラダイムを提供する。これは、自己組織化ニューラルネットワーク(SONG)と呼ばれる特殊なタイプの決定グラフの効率的なトレーニングを可能にする。
論文 参考訳(メタデータ) (2021-07-28T07:53:53Z) - General-Purpose Speech Representation Learning through a Self-Supervised
Multi-Granularity Framework [114.63823178097402]
本稿では,汎用音声表現学習のための自己教師型学習フレームワーク MGF を提案する。
具体的には、生成学習手法を用いて、小さな時間スケールできめ細かい情報を捕捉し、識別学習手法を用いて、粗い情報や意味情報を大規模に蒸留することを提案する。
論文 参考訳(メタデータ) (2021-02-03T08:13:21Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z) - Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。
我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
論文 参考訳(メタデータ) (2020-04-28T09:15:50Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2020-04-20T02:47:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。