論文の概要: Inherently Faithful Attention Maps for Vision Transformers

• arxiv url: http://arxiv.org/abs/2506.08915v1
• Date: Tue, 10 Jun 2025 15:41:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-11 15:11:42.752395
• Title: Inherently Faithful Attention Maps for Vision Transformers
• Title（参考訳）: 視覚変換器の忠実な注意マップ
• Authors: Ananthu Aniraj, Cassio F. Dantas, Dino Ienco, Diego Marcos,
• Abstract要約: 本稿では,学習した2値注意マスクを用いて,画像領域のみが予測に影響を与えることを保証するアテンションベース手法を提案する。 多様なベンチマークによる実験により、我々のアプローチは、突発的な相関やアウト・オブ・ディストリビューションの背景に対して著しく改善されることが示された。
• 参考スコア（独自算出の注目度）: 7.4774909520731425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce an attention-based method that uses learned binary attention masks to ensure that only attended image regions influence the prediction. Context can strongly affect object perception, sometimes leading to biased representations, particularly when objects appear in out-of-distribution backgrounds. At the same time, many image-level object-centric tasks require identifying relevant regions, often requiring context. To address this conundrum, we propose a two-stage framework: stage 1 processes the full image to discover object parts and identify task-relevant regions, while stage 2 leverages input attention masking to restrict its receptive field to these regions, enabling a focused analysis while filtering out potentially spurious information. Both stages are trained jointly, allowing stage 2 to refine stage 1. Extensive experiments across diverse benchmarks demonstrate that our approach significantly improves robustness against spurious correlations and out-of-distribution backgrounds.
• Abstract（参考訳）: 本稿では,学習した2値注意マスクを用いて,画像領域のみが予測に影響を与えることを保証するアテンションベース手法を提案する。 コンテキストは、オブジェクトの知覚に強く影響し、時にはバイアスのある表現につながる。 同時に、多くのイメージレベルのオブジェクト中心のタスクは、しばしばコンテキストを必要とする、関連する領域を特定する必要がある。 ステージ1は対象部分を発見しタスク関連領域を特定するために全画像を処理し、ステージ2は入力注意マスキングを利用して受容領域をこれらの領域に制限し、潜在的に刺激的な情報をフィルタリングしながら集中分析を可能にする。 両方のステージは共同で訓練され、ステージ2はステージ1を洗練できる。 多様なベンチマークによる大規模な実験により、我々のアプローチは、突発的な相関やアウト・オブ・ディストリビューションの背景に対するロバスト性を大幅に改善することを示した。

関連論文リスト

• Region-aware Distribution Contrast: A Novel Approach to Multi-Task Partially Supervised Learning [50.88504784466931]
  マルチタスク密度予測にはセマンティックセグメンテーション、深さ推定、表面正規推定が含まれる。 既存のソリューションは通常、グローバルなクロスタスク画像マッチングのためのグローバルなイメージ表現の学習に依存している。 本提案では,ガウス分布を用いた地域表現をモデル化する。
  論文  参考訳（メタデータ） (2024-03-15T12:41:30Z)
• Learning to search for and detect objects in foveal images using deep learning [3.655021726150368]
  本研究では,画像中のクラスを探索する人間の客観的な注意をエミュレートする固定予測モデルを用いる。 そして、各固定点のフェーブされた画像を分類して、シーンにターゲットが存在するか否かを判定する。 本稿では,2つのタスク間の知識伝達を可能とし,修正予測と検出を同時に行うことができる新しいデュアルタスクモデルを提案する。
  論文  参考訳（メタデータ） (2023-04-12T09:50:25Z)
• Progressively Dual Prior Guided Few-shot Semantic Segmentation [57.37506990980975]
  Few-shotのセマンティックセマンティックセマンティクスタスクは、いくつかのアノテーション付きサポートサンプルを使用して、クエリイメージのセマンティクスを実行することを目的としている。 本稿では,先進的に2重にガイドされた数発のセマンティックセマンティックセグメンテーションネットワークを提案する。
  論文  参考訳（メタデータ） (2022-11-20T16:19:47Z)
• Point-Level Region Contrast for Object Detection Pre-Training [147.47349344401806]
  本稿では,物体検出作業のための自己教師付き事前学習手法である点レベル領域コントラストを提案する。 提案手法は,異なる領域から個々の点対を直接抽出することにより,コントラスト学習を行う。 領域ごとの集約表現と比較すると,入力領域の品質の変化に対して,我々のアプローチはより堅牢である。
  論文  参考訳（メタデータ） (2022-02-09T18:56:41Z)
• Leveraging in-domain supervision for unsupervised image-to-image translation tasks via multi-stream generators [4.726777092009554]
  本稿では、翻訳品質の利点を活かすために、このドメイン内の貴重な事前知識を組み込むための2つの手法を紹介する。 本稿では,入力データをセマンティックマスクに従って分割し,画像の異なる領域の異なる動作にネットワークを明示的に導くことを提案する。 さらに,翻訳作業とともにセマンティックセグメンテーションネットワークを訓練し,この出力をロバスト性を向上させる損失項として活用することを提案する。
  論文  参考訳（メタデータ） (2021-12-30T15:29:36Z)
• Detect and Locate: A Face Anti-Manipulation Approach with Semantic and Noise-level Supervision [67.73180660609844]
  本稿では,画像中の偽造顔を効率的に検出する,概念的にシンプルだが効果的な方法を提案する。 提案手法は,画像に関する意味の高い意味情報を提供するセグメンテーションマップに依存する。 提案モデルでは,最先端検出精度と顕著なローカライゼーション性能を実現する。
  論文  参考訳（メタデータ） (2021-07-13T02:59:31Z)
• Instance-aware Remote Sensing Image Captioning with Cross-hierarchy Attention [11.23821696220285]
  空間的注意は、リモートセンシング画像キャプションのパフォーマンスを高めるための簡単なアプローチです。 インスタンス認識と階層横断に注目したリモートセンシング画像キャプションジェネレータを提案する。
  論文  参考訳（メタデータ） (2021-05-11T12:59:07Z)
• Self-supervised Segmentation via Background Inpainting [96.10971980098196]
  移動可能なカメラで撮影された単一の画像で、自己教師付き検出とセグメンテーションのアプローチを導入する。 我々は、提案に基づくセグメンテーションネットワークのトレーニングに利用する自己教師付き損失関数を利用する。 本手法は,標準ベンチマークから視覚的に切り離された画像の人間の検出とセグメント化に応用し,既存の自己監督手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-11-11T08:34:40Z)
• Rethinking of the Image Salient Object Detection: Object-level Semantic Saliency Re-ranking First, Pixel-wise Saliency Refinement Latter [62.26677215668959]
  本稿では,意味的に有意な領域を粗い位置で特定する,軽量で教師付きの深層ネットワークを提案する。 次に,これらセマンティック・サリエント領域の深層モデルを画素ワイド・サリエンシ改善として融合する。 提案手法は単純だが有効であり,本手法は主眼をオブジェクトレベルのセマンティック・リグレード問題とみなすための最初の試みである。
  論文  参考訳（メタデータ） (2020-08-10T07:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。