論文の概要: Explainable Attention for Few-shot Learning and Beyond

• arxiv url: http://arxiv.org/abs/2310.07800v1
• Date: Wed, 11 Oct 2023 18:33:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-14 14:25:12.715408
• Title: Explainable Attention for Few-shot Learning and Beyond
• Title（参考訳）: 少数学習のための説明可能な注意
• Authors: Bahareh Nikpour, Narges Armanfard
• Abstract要約: 本稿では,説明可能な難易度発見,特に数発の学習シナリオに適した新しいフレームワークを提案する。 提案手法では、深層強化学習を用いて、生の入力データに直接影響するハードアテンションの概念を実装している。
• 参考スコア（独自算出の注目度）: 8.32170125150307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Attention mechanisms have exhibited promising potential in enhancing learning models by identifying salient portions of input data. This is particularly valuable in scenarios where limited training samples are accessible due to challenges in data collection and labeling. Drawing inspiration from human recognition processes, we posit that an AI baseline's performance could be more accurate and dependable if it is exposed to essential segments of raw data rather than the entire input dataset, akin to human perception. However, the task of selecting these informative data segments, referred to as hard attention finding, presents a formidable challenge. In situations with few training samples, existing studies struggle to locate such informative regions due to the large number of training parameters that cannot be effectively learned from the available limited samples. In this study, we introduce a novel and practical framework for achieving explainable hard attention finding, specifically tailored for few-shot learning scenarios, called FewXAT. Our approach employs deep reinforcement learning to implement the concept of hard attention, directly impacting raw input data and thus rendering the process interpretable for human understanding. Through extensive experimentation across various benchmark datasets, we demonstrate the efficacy of our proposed method.
• Abstract（参考訳）: 注意のメカニズムは、入力データの突出部を識別することで学習モデルの強化に有望な可能性を示している。 これは、データ収集とラベリングの課題のため、トレーニングサンプルが限られているシナリオで特に有用である。 人間の認識プロセスからインスピレーションを得て、AIベースラインのパフォーマンスが人間の知覚に似て、入力データセット全体ではなく、生データの不可欠なセグメントに露出すれば、より正確で信頼性の高いものになると仮定する。 しかし、これらの情報的データセグメントを選択するタスクは、ハードアテンション発見と呼ばれ、非常に難しい課題である。 トレーニングサンプルが少ない状況では、利用可能な限られたサンプルから効果的に学習できない多くのトレーニングパラメータのために、既存の研究はそのような重要な領域を見つけるのに苦労している。 本研究では,少数の学習シナリオに特化しながら,説明可能な注意喚起を実現するための新しい実践的枠組みである fewxat を提案する。 提案手法では, 深層強化学習を用いて, 難読化の概念を導入し, 生の入力データに直接影響し, 人間の理解に解釈可能なプロセスをレンダリングする。 様々なベンチマークデータセットの広範な実験を通じて,提案手法の有効性を実証する。

関連論文リスト

• Granularity Matters in Long-Tail Learning [62.30734737735273]
  より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。 既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。 補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
  論文  参考訳（メタデータ） (2024-10-21T13:06:21Z)
• Cross-Domain HAR: Few Shot Transfer Learning for Human Activity Recognition [0.2944538605197902]
  本稿では,HARデータセットを有効な転送学習に利用するための経済的なアプローチを提案する。 本稿では,教師が学習する自己学習パラダイムに則って,新たな伝達学習フレームワークであるクロスドメインHARを紹介する。 本手法の有効性を,撮影活動認識のシナリオで実証する。
  論文  参考訳（メタデータ） (2023-10-22T19:13:25Z)
• Automated Deception Detection from Videos: Using End-to-End Learning Based High-Level Features and Classification Approaches [0.0]
  深層学習と識別モデルを組み合わせたマルチモーダル手法を提案する。 我々は畳み込み学習を用いて、視線、頭ポーズ、表情を解析する。 提案手法は, 経済要因による新しいローリングディース実験を含む5つのデータセットで評価される。
  論文  参考訳（メタデータ） (2023-07-13T08:45:15Z)
• Combining Public Human Activity Recognition Datasets to Mitigate Labeled Data Scarcity [1.274578243851308]
  本稿では,一般公開されたデータセットと一般化されたHARモデルを学習するための新たな戦略を提案する。 我々の実験評価は、さまざまな最先端ニューラルネットワークアーキテクチャの実験を含むもので、公開データセットを組み合わせることで、ラベル付きサンプルの数を著しく削減できることを示している。
  論文  参考訳（メタデータ） (2023-06-23T18:51:22Z)
• Accelerating exploration and representation learning with offline pre-training [52.6912479800592]
  1つのオフラインデータセットから2つの異なるモデルを別々に学習することで、探索と表現の学習を改善することができることを示す。 ノイズコントラスト推定と補助報酬モデルを用いて状態表現を学習することで、挑戦的なNetHackベンチマークのサンプル効率を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2023-03-31T18:03:30Z)
• Combining Feature and Instance Attribution to Detect Artifacts [62.63504976810927]
  トレーニングデータアーティファクトの識別を容易にする手法を提案する。 提案手法は,トレーニングデータのアーティファクトの発見に有効であることを示す。 我々は,これらの手法が実際にNLP研究者にとって有用かどうかを評価するために,小規模なユーザスタディを実施している。
  論文  参考訳（メタデータ） (2021-07-01T09:26:13Z)
• Few-Cost Salient Object Detection with Adversarial-Paced Learning [95.0220555274653]
  本稿では,少数のトレーニング画像にのみ手動アノテーションを応用して,効果的なサルエント物体検出モデルを学習することを提案する。 我々は,このタスクを,少額の有能な物体検出とみなし,少数のコストの学習シナリオを促進するために,APL(Adversarialpaced Learning)ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-05T14:15:49Z)
• Learning to Count in the Crowd from Limited Labeled Data [109.2954525909007]
  我々は,限られた数のラベル付きサンプルから参加者を数えることを学ぶことで,アノテーションの努力を減らすことに重点を置いている。 具体的には,未ラベルデータに対する擬似地下真理推定を含むガウス過程に基づく反復学習機構を提案する。
  論文  参考訳（メタデータ） (2020-07-07T04:17:01Z)
• Omni-supervised Facial Expression Recognition via Distilled Data [120.11782405714234]
  ネットワークトレーニングにおいて,信頼度の高いサンプルを多量のラベルのないデータで活用するためのオムニ教師付き学習を提案する。 我々は,新しいデータセットが学習したFERモデルの能力を大幅に向上させることができることを実験的に検証した。 そこで本研究では,生成したデータセットを複数のクラスワイド画像に圧縮するために,データセット蒸留戦略を適用することを提案する。
  論文  参考訳（メタデータ） (2020-05-18T09:36:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。