論文の概要: MetaDT: Meta Decision Tree for Interpretable Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2203.01482v1
- Date: Thu, 3 Mar 2022 01:53:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-05 08:41:08.686553
- Title: MetaDT: Meta Decision Tree for Interpretable Few-Shot Learning
- Title(参考訳): MetaDT: 解釈可能なFew-Shot学習のためのメタ決定木
- Authors: Baoquan Zhang, Hao Jiang, Xutao Li, Shanshan Feng, Yunming Ye, Rui Ye
- Abstract要約: Few-Shot Learningは、新しいクラスを少数の例で認識することを目的とした、難しいタスクである。
本稿では,決定木に基づくメタラーニングフレームワークMetaDTを提案する。
私たちのコードは受理時に公開されます。
- 参考スコア(独自算出の注目度): 18.825617142472648
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Few-Shot Learning (FSL) is a challenging task, which aims to recognize novel
classes with few examples. Recently, lots of methods have been proposed from
the perspective of meta-learning and representation learning for improving FSL
performance. However, few works focus on the interpretability of FSL decision
process. In this paper, we take a step towards the interpretable FSL by
proposing a novel decision tree-based meta-learning framework, namely, MetaDT.
Our insight is replacing the last black-box FSL classifier of the existing
representation learning methods by an interpretable decision tree with
meta-learning. The key challenge is how to effectively learn the decision tree
(i.e., the tree structure and the parameters of each node) in the FSL setting.
To address the challenge, we introduce a tree-like class hierarchy as our
prior: 1) the hierarchy is directly employed as the tree structure; 2) by
regarding the class hierarchy as an undirected graph, a graph convolution-based
decision tree inference network is designed as our meta-learner to learn to
infer the parameters of each node. At last, a two-loop optimization mechanism
is incorporated into our framework for a fast adaptation of the decision tree
with few examples. Extensive experiments on performance comparison and
interpretability analysis show the effectiveness and superiority of our MetaDT.
Our code will be publicly available upon acceptance.
- Abstract(参考訳): FSL(Few-Shot Learning)は、新しいクラスをいくつかの例で認識することを目的とした課題である。
近年,FSL性能向上のためのメタ学習や表現学習の観点から,多くの手法が提案されている。
しかし、FSL決定プロセスの解釈可能性に焦点を当てた研究はほとんどない。
本稿では,新しい決定木ベースのメタ学習フレームワークであるmetadtを提案することで,解釈可能なfslへの一歩を踏み出す。
我々の洞察は、既存の表現学習手法の最後のブラックボックスFSL分類器をメタ学習で解釈可能な決定木に置き換えることである。
鍵となる課題は、FSL設定において決定木(すなわち、各ノードのツリー構造とパラメータ)を効果的に学習する方法である。
この課題に対処するため、木のようなクラス階層を先程紹介します。
1) 階層は,木構造として直接使用される。
2) クラス階層を無向グラフとして扱うことにより, グラフ畳み込みに基づく決定木推論ネットワークをメタ学習者として設計し, 各ノードのパラメータを推定する。
最後に、2ループ最適化機構をフレームワークに組み込んで、わずかな例で決定木を高速に適応させます。
性能比較および解釈可能性分析に関する大規模な実験は,MetaDTの有効性と優位性を示している。
私たちのコードは受け入れ次第公開されます。
関連論文リスト
- ST-Tree with Interpretability for Multivariate Time Series Classification [1.298914566427719]
Swin Transformer (ST) は、自己認識機構を利用して、きめ細かい局所パターンとグローバルパターンの両方をキャプチャすることで、これらの問題に対処する。
ST-Treeモデルは、STをバックボーンネットワークとして追加のニューラルツリーモデルと組み合わせる。
これにより、研究者はモデルの意思決定プロセスを明確に把握し、意味のある解釈を抽出できる。
論文 参考訳(メタデータ) (2024-11-18T14:49:12Z) - LLM-based Hierarchical Concept Decomposition for Interpretable Fine-Grained Image Classification [5.8754760054410955]
構造化概念解析によるモデル解釈可能性の向上を目的とした新しいフレームワークである textttHi-CoDecomposition を紹介する。
われわれのアプローチは、最先端のモデルの性能だけでなく、意思決定プロセスに対する明確な洞察を提供することで透明性を向上する。
論文 参考訳(メタデータ) (2024-05-29T00:36:56Z) - Exploring Effective Factors for Improving Visual In-Context Learning [56.14208975380607]
In-Context Learning(ICL)は、いくつかのデモ(別名プロンプト)を通じて新しいタスクを理解し、モデルをチューニングせずに新しい入力を予測することである。
本稿では,視覚的文脈学習の推論性能に直接的な影響を及ぼす要因として,迅速な選択と迅速な融合があげられる。
視覚的インコンテキスト学習のためのシンプルなフレームワークプロンプトSelFを提案する。
論文 参考訳(メタデータ) (2023-04-10T17:59:04Z) - Tree Structure-Aware Few-Shot Image Classification via Hierarchical
Aggregation [27.868736254566397]
我々は、プレテキストタスクを通して、数ショットの画像分類のための追加の特徴表現を学習する方法に焦点をあてる。
この追加の知識は、数発の学習のパフォーマンスをさらに向上させることができる。
本稿では,FSLとプレテキストタスクの関係を学習する階層木構造認識(HTS)手法を提案する。
論文 参考訳(メタデータ) (2022-07-14T15:17:19Z) - Social Interpretable Tree for Pedestrian Trajectory Prediction [75.81745697967608]
本稿では,このマルチモーダル予測課題に対処するため,SIT(Social Interpretable Tree)と呼ばれる木に基づく手法を提案する。
木の根から葉までの経路は、個々の将来の軌跡を表す。
ETH-UCYとStanford Droneのデータセットによる実験結果からは,手作り木にもかかわらず,我々の手法が最先端の手法の性能に適合または超えることを示した。
論文 参考訳(メタデータ) (2022-05-26T12:18:44Z) - SONG: Self-Organizing Neural Graphs [10.253870280561609]
決定木は二分決定に基づいており、決定を素早くし、クラス階層を提供するため、容易に解釈できる。
決定木がよく知られた欠点の1つは、決定木が決定ノードを再利用できないことである。
本稿では、マルコフ過程に基づく一般的なパラダイムを提供する。これは、自己組織化ニューラルネットワーク(SONG)と呼ばれる特殊なタイプの決定グラフの効率的なトレーニングを可能にする。
論文 参考訳(メタデータ) (2021-07-28T07:53:53Z) - General-Purpose Speech Representation Learning through a Self-Supervised
Multi-Granularity Framework [114.63823178097402]
本稿では,汎用音声表現学習のための自己教師型学習フレームワーク MGF を提案する。
具体的には、生成学習手法を用いて、小さな時間スケールできめ細かい情報を捕捉し、識別学習手法を用いて、粗い情報や意味情報を大規模に蒸留することを提案する。
論文 参考訳(メタデータ) (2021-02-03T08:13:21Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z) - Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。
我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
論文 参考訳(メタデータ) (2020-04-28T09:15:50Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2020-04-20T02:47:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。