論文の概要: CAR-MIL: Counterfactual Attention Regularization for Multiple Instance Learning

• arxiv url: http://arxiv.org/abs/2609.08419v1
• Date: Tue, 08 Sep 2026 08:27:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 16:34:28.595933
• Title: CAR-MIL: Counterfactual Attention Regularization for Multiple Instance Learning
• Title（参考訳）: CAR-MIL:マルチインスタンス学習のための非現実的注意規則化
• Abstract要約: 多重インスタンス学習(MIL)は、弱い教師付き学習、特にデジタル病理学において広く用いられている。 CAR-MIL(CAR-MIL)を提案する。 本手法は,注目行動の制御解析を可能にする実例レベル基底真理を用いた合成MILベンチマークにおいて評価する。
• 参考スコア（独自算出の注目度）: 5.747181110840034
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multiple Instance Learning (MIL) is widely used for weakly supervised learning, particularly in digital pathology, where fine-grained annotations are costly. Most MIL methods aggregate instance features via attention mechanisms. However, attention weights do not always faithfully reflect instance importance and may focus on spuriously correlated regions. In this work, we propose CAR-MIL, a framework that explicitly guides attention learning through a counterfactual attention regularization objective inspired by counterfactual explanations. Built on a standard attention-based MIL architecture, our approach introduces a lightweight counterfactual attention branch trained to produce an alternative prediction while remaining close to the factual attention distribution. This encourages prediction changes to arise from minimal, structured redistributions of attention, leading to more informative evidence allocation. The resulting factual and counterfactual attention maps capture complementary evidence: the former highlights regions supporting the prediction, while the latter reveals regions whose reweighting would challenge it. We evaluate our method on synthetic MIL benchmarks with instance-level ground truth enabling controlled analysis of attention behavior and on five digital pathology datasets across four tasks. CAR-MIL maintains competitive classification performance, with the largest gains observed on more challenging tasks, while improving attention reliability, demonstrating the benefits of integrating counterfactual explainability reasoning into attention learning. Code is available at: https://github.com/ImaneCR/CAR-MIL/.
• Abstract（参考訳）: 多重インスタンス学習(MIL)は、特に微粒なアノテーションがコストがかかるデジタル病理学において、弱い教師付き学習に広く用いられている。 ほとんどのMILメソッドは、アテンションメカニズムを介してインスタンスの特徴を集約する。 しかし、注意重みは必ずしもインスタンスの重要性を忠実に反映するわけではなく、急激な相関のある領域に焦点を当てる可能性がある。 本研究では,CAR-MIL(CAR-MIL)を提案する。 本手法は,標準的な注意に基づくMILアーキテクチャに基づいて構築され,実際の注意分布に近づきながら,代替予測を生成するために訓練された軽量な対実的注意分岐を導入する。 このことは、最小限に構造化された注意の再分配から予測の変更を奨励し、より有意義な証拠割り当てをもたらす。 前者は予測を支持する地域を強調し、後者は再重み付けに挑戦する地域を明らかにする。 本手法は,4つのタスクにまたがる5つのデジタル病理データセットにおいて,注意行動の制御が可能な実例レベルの基底真理を用いた総合的MILベンチマークで評価する。 CAR-MILは競争的な分類性能を維持しており、より困難なタスクにおいて最も大きな成果が見られ、注意力の信頼性が向上し、注意力学習に反現実的説明可能性推論を組み込むことの利点が示される。 コードは、https://github.com/ImaneCR/CAR-MIL/で入手できる。

関連論文リスト

• CAMAL: Improving Attention Alignment and Faithfulness with Segmentation Masks [20.876949110882325]
  視覚モデルにおける注意のアライメントと忠実度を改善するために,クラス活性化マップ注意学習(CAMAL)を提案する。 CAMALはトレーニング中の各画像に対するモデルの注意を抽出し、対応するセグメンテーションマスクから得られる地道判別領域と比較する。 CAMALは補助正則化剤として機能し、地道な差別地域に合わせて注意を喚起し、他の場所での注意を抑える。
  論文  参考訳（メタデータ） (2026-05-08T16:51:52Z)
• Deeper Thought, Weaker Aim: Understanding and Mitigating Perceptual Impairment during Reasoning in Multimodal Large Language Models [15.851502442699]
  MLLM(Multimodal large language model)はしばしば、拡張推論モードの下で知覚障害に悩まされる。 多段階の推論において、モデルの視覚的注意が散らばり、疑問関連領域から遠ざかって、視覚的入力に効果的に焦点をあてる。 本研究では,エントロピー・フォーカス基準に基づいて視覚的頭部を選択する学習自由な視覚領域誘導注意(VRGA)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-15T02:21:05Z)
• ASMIL: Attention-Stabilized Multiple Instance Learning for Whole Slide Imaging [95.36377714370325]
  注意に基づく複数インスタンス学習手法は、不安定な注意力学という新しい障害モードを示す。 本稿では,新しい統合フレームワークであるASMIL(At attention-stabilized multiple instance learning)を紹介する。 ASMILはアンカーモデルを用いて注意を安定させ、ソフトマックスをアンカー内の正規化シグモイド関数に置き換えて過集中を防ぐ。
  論文  参考訳（メタデータ） (2026-03-01T18:31:13Z)
• Do MLLMs Really See It: Reinforcing Visual Attention in Multimodal LLMs [55.61018839017648]
  CoT(Chain-of- Thought)推論は、複雑な推論タスクにおいて、MLLM(Multimodal large language model)を大幅に改善した。 既存のアプローチは、主に長いテキスト推論軌道に依存し、安定した視覚的注意ポリシーを学ぶための限られたメカニズムを提供する。 地域レベルの視覚的注意に基づく報酬を導入する強化学習フレームワークを用いて訓練された視覚的推論モデルであるSAYOを提案する。
  論文  参考訳（メタデータ） (2026-02-09T03:33:23Z)
• A Statistical Theory of Gated Attention through the Lens of Hierarchical Mixture of Experts [80.98474052840929]
  ゲーテッドアテンションは、標準アテンションにおける低ランクマッピングの表現性を高めることを実証的に実証されている。 有向注意行列や多頭部自己注意行列の各項目は、専門家の階層的な混合として記述できることを示す。
  論文  参考訳（メタデータ） (2026-02-01T22:22:13Z)
• Attention Reallocation: Towards Zero-cost and Controllable Hallucination Mitigation of MLLMs [62.9348974370985]
  約ゼロの余剰コストで幻覚を緩和するための注意再配置(AttnReal)を提案する。 我々のアプローチは,MLLMの注意分布が,歴史的出力トークンによって特徴が支配されるという重要な観測によって動機付けられている。 この観測に基づいて、AttnRealは出力トークンからの過剰な注意をリサイクルし、それを視覚トークンに再配置することで、MLLMの言語優先への依存を軽減します。
  論文  参考訳（メタデータ） (2025-03-11T11:52:37Z)
• Position: From Correlation to Causation: Max-Pooling-Based Multi-Instance Learning Leads to More Robust Whole Slide Image Classification [51.95824566163554]
  我々は、十分に訓練された最大プーリングに基づくMILモデルが因果関係に基づく予測を行い、素早い相関に頼らずにすむことを論じる。 提案手法は,2つのデータセットにおいて,既存の注目度に基づく手法よりも優れている。
  論文  参考訳（メタデータ） (2024-08-18T12:15:22Z)
• Unveiling and Harnessing Hidden Attention Sinks: Enhancing Large Language Models without Training through Attention Calibration [15.36841874118801]
  我々は,大規模言語モデル(LLM)における注意シンクの存在をより深く理解することを目的としている。 本研究では,入力適応方式で推論中のハエの注意分布を自動的に最適化する訓練自由注意法(ACT)を提案する。 ACTは、Llama-30Bに適用した場合、異なるデータセット間で平均7.30%の精度向上を達成する。
  論文  参考訳（メタデータ） (2024-06-22T07:00:43Z)
• Attention-Challenging Multiple Instance Learning for Whole Slide Image Classification [12.424186320807888]
  ACMIL(Attention-Challenging MIL)を提案する。 ACMILは、注意値集中のための別個の分析に基づく2つの手法を組み合わせる。 本稿では,ACMILが注目値の集中を抑え,過度に適合する課題を克服する上で有効であることを示す。
  論文  参考訳（メタデータ） (2023-11-13T07:34:53Z)
• Alignment Attention by Matching Key and Query Distributions [48.93793773929006]
  本稿では,各ヘッダ内のキーとクエリの分布を一致させる自己注意を促すアライメントアテンションアテンションアテンションアテンションアテンションを導入している。 事前学習したモデルを含む自己注意のモデルはすべて、提案したアライメントアテンションアテンションアテンションに変換することが簡単である。 様々な言語理解タスクにおいて, 精度, 不確実性推定, ドメイン間の一般化, 敵攻撃に対する堅牢性などの手法の有効性を示す。
  論文  参考訳（メタデータ） (2021-10-25T00:54:57Z)
• More Than Just Attention: Learning Cross-Modal Attentions with Contrastive Constraints [63.08768589044052]
  本稿では,コントラストコンテンツリソーシング (CCR) とコントラストコンテンツスワッピング (CCS) の制約を提案する。 CCRとCCSの制約は、明示的な注意アノテーションを必要とせず、対照的な学習方法で注意モデルのトレーニングを監督する。 Flickr30kとMS-COCOのデータセットの実験は、これらの注意制約を2つの最先端の注意ベースモデルに統合することで、モデルのパフォーマンスが向上することを示した。
  論文  参考訳（メタデータ） (2021-05-20T08:48:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。