論文の概要: Effective Guidance for Model Attention with Simple Yes-no Annotations

• arxiv url: http://arxiv.org/abs/2410.22312v2
• Date: Fri, 15 Nov 2024 22:53:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:30:13.846035
• Title: Effective Guidance for Model Attention with Simple Yes-no Annotations
• Title（参考訳）: 簡単なye-noアノテーションを用いたモデル注意のための効果的なガイダンス
• Authors: Seongmin Lee, Ali Payani, Duen Horng Chau,
• Abstract要約: CRAYONは最先端のパフォーマンスを実現し、3つのベンチマークデータセットで12メソッドを上回っている。 我々はCRAYON(Correcting Reasoning with s of Yes Or No)を紹介し、モデルの注意を正すための効果的でスケーラブルで実用的なソリューションを提供する。
• 参考スコア（独自算出の注目度）: 22.186065674971083
• License:
• Abstract: Modern deep learning models often make predictions by focusing on irrelevant areas, leading to biased performance and limited generalization. Existing methods aimed at rectifying model attention require explicit labels for irrelevant areas or complex pixel-wise ground truth attention maps. We present CRAYON (Correcting Reasoning with Annotations of Yes Or No), offering effective, scalable, and practical solutions to rectify model attention using simple yes-no annotations. CRAYON empowers classical and modern model interpretation techniques to identify and guide model reasoning: CRAYON-ATTENTION directs classic interpretations based on saliency maps to focus on relevant image regions, while CRAYON-PRUNING removes irrelevant neurons identified by modern concept-based methods to mitigate their influence. Through extensive experiments with both quantitative and human evaluation, we showcase CRAYON's effectiveness, scalability, and practicality in refining model attention. CRAYON achieves state-of-the-art performance, outperforming 12 methods across 3 benchmark datasets, surpassing approaches that require more complex annotations.
• Abstract（参考訳）: 現代のディープラーニングモデルは、しばしば無関係な領域に注目して予測し、バイアスのある性能と限定的な一般化をもたらす。 モデル注意の修正を目的とした既存の手法では、無関係な領域や複雑なピクセル単位の地上の真理の注意マップに明示的なラベルが必要である。 我々はCRAYON(Correcting Reasoning with Annotations of Yes Or No)を提案する。 CRAYON-ATTENTIONは、唾液マップに基づいて古典的な解釈を指示し、関連する画像領域にフォーカスする一方、CRAYON-PRUNINGは、近代的な概念に基づく方法によって同定された無関係なニューロンを除去し、それらの影響を緩和する。 定量的評価と人的評価を併用した広範囲な実験を通じて,CRAYONの有効性,拡張性,実用性を示す。 CRAYONは最先端のパフォーマンスを実現し、3つのベンチマークデータセットで12のメソッドを上回り、より複雑なアノテーションを必要とするアプローチを上回っている。

関連論文リスト

• On Feature Decorrelation in Cloth-Changing Person Re-identification [32.27835236681253]
  衣服交換者再識別(CC-ReID)はコンピュータビジョンにおいて重要な課題である。 従来の方法では、複数のモダリティデータを統合するか、手動でアノテートされた衣料ラベルを使用する。 本稿では,密度比推定に基づく新しい正規化手法を提案する。
  論文  参考訳（メタデータ） (2024-10-07T22:25:37Z)
• Diffusion Model with Cross Attention as an Inductive Bias for Disentanglement [58.9768112704998]
  遠方表現学習は、観測データ内の本質的要因を抽出する試みである。 我々は新しい視点と枠組みを導入し、クロスアテンションを持つ拡散モデルが強力な帰納バイアスとなることを示す。 これは、複雑な設計を必要とせず、クロスアテンションを持つ拡散モデルの強力な解離能力を明らかにする最初の研究である。
  論文  参考訳（メタデータ） (2024-02-15T05:07:54Z)
• A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
  補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。 オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
  論文  参考訳（メタデータ） (2023-11-13T01:48:08Z)
• Studying How to Efficiently and Effectively Guide Models with Explanations [52.498055901649025]
  「モデルガイダンス」とは「正しい理由のために正しい」ことを保証するためにモデルの説明を規則化する考え方である。 PASCAL VOC 2007 および MS COCO 2014 データセット上で, 各種損失関数, 帰属方法, モデル, 誘導深度について詳細な評価を行う。 具体的には、一般的に使用されるセグメンテーションマスクよりもはるかに安価で入手可能なバウンディングボックスアノテーションを用いてモデルをガイドする。
  論文  参考訳（メタデータ） (2023-03-21T15:34:50Z)
• Entity-Conditioned Question Generation for Robust Attention Distribution in Neural Information Retrieval [51.53892300802014]
  教師付きニューラル情報検索モデルでは,通過トークンよりも疎注意パターンを学習することが困難であることを示す。 目的とする新しい合成データ生成手法を用いて、与えられた通路内の全てのエンティティに対して、より均一で堅牢な参加をニューラルIRに教える。
  論文  参考訳（メタデータ） (2022-04-24T22:36:48Z)
• Learning Self-Modulating Attention in Continuous Time Space with Applications to Sequential Recommendation [102.24108167002252]
  本稿では,複雑で非線形に進化する動的ユーザの嗜好をモデル化する,自己変調型注意ネットワークを提案する。 提案手法がトップNシーケンシャルなレコメンデーションタスクに与える影響を実証的に示すとともに,3つの大規模実世界のデータセットによる結果から,我々のモデルが最先端のパフォーマンスを達成できることを示す。
  論文  参考訳（メタデータ） (2022-03-30T03:54:11Z)
• Quadratic mutual information regularization in real-time deep CNN models [51.66271681532262]
  擬似相互情報による正規化手法を提案する。 種々の二項分類問題の実験を行い,提案モデルの有効性を示した。
  論文  参考訳（メタデータ） (2021-08-26T13:14:24Z)
• Improve the Interpretability of Attention: A Fast, Accurate, and Interpretable High-Resolution Attention Model [6.906621279967867]
  そこで本稿では,タスク関連情報を取り込むための,非線形代表非パラメトリックアテンション(BR-NPA)戦略を提案する。 提案したモデルは、分類が関与する様々な近代的な深層モデルに容易に適応できる。 また、通常のニューラルアテンションモジュールよりも正確で高速で、メモリフットプリントも小さい。
  論文  参考訳（メタデータ） (2021-06-04T15:57:37Z)
• Attention-gating for improved radio galaxy classification [0.0]
  本稿では,畳み込みニューラルネットワークを用いた電波銀河の分類技術として注目される。 注意図作成に使用される正規化と集約の方法の選択が個々のモデルの出力にどのように影響するかを示す。 得られたアテンションマップは、モデルによってなされた分類選択を解釈するために使用することができる。
  論文  参考訳（メタデータ） (2020-12-02T14:49:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。