論文の概要: CARE: Constrained Attention Refinement for Fine-Grained Visual Classification via Teacher-Student Distillation
- arxiv url: http://arxiv.org/abs/2610.11153v1
- Date: Thu, 08 Oct 2026 03:15:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.75915
- Title: CARE: Constrained Attention Refinement for Fine-Grained Visual Classification via Teacher-Student Distillation
- Title(参考訳): CARE:教師-学生蒸留による細粒度視覚分類のための拘束的注意保持
- Abstract要約: 本稿では,教師・学生の蒸留による微粒化認識のための制約付き注意改善フレームワークであるCAREを提案する。
CAREは、クラス固有の留学生に最終予測と説明を保持しながら、トレーニング専用の補助質問教師を導入している。
CUB、Oxford-IIIT Pet、Stanford Dogs、Stanford Carsの実験では、CAREは解釈可能なフリーズバックボーン設定の下で強力な分類性能を達成している。
- 参考スコア(独自算出の注目度): 7.525764054805841
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Fine-grained visual classification requires models to recognize subtle local traits while exposing the visual evidence behind their predictions. Class-specific attention pathways provide a natural basis for interpretable recognition, but their constrained prediction structure limits discriminative capacity and underuses intermediate representations from strong pretrained backbones. To address this problem, we propose CARE, a constrained attention refinement framework for interpretable fine-grained recognition via teacher-student distillation. CARE keeps the final prediction and explanation within a class-specific attention student, while introducing a training-only auxiliary query teacher that reads selected intermediate DINOv2 layers with learnable queries. The teacher fuses multi-level representations and transfers logit-standardized class-discriminative knowledge to the student. To further refine the explanation pathway, we design diversity and sparsity terms to regularize student attention heads, reducing redundancy and encouraging compact trait localization. Experiments on CUB, Oxford-IIIT Pet, Stanford Dogs, and Stanford Cars show that CARE achieves strong classification performance under an interpretable frozen-backbone setting, reaching 78.5% Top-1 accuracy on CUB. Faithfulness analysis with insertion and deletion metrics further indicates that the top-ranked attention regions retain class-relevant evidence for explanation.
- Abstract(参考訳): きめ細かい視覚分類では、モデルが微妙な局所的な特徴を認識しながら、予測の背後にある視覚的証拠を明らかにする必要がある。
クラス固有の注意経路は、解釈可能な認識の自然な基盤を提供するが、それらの制約された予測構造は、識別能力を制限し、強い事前訓練されたバックボーンから中間表現をアンダーユースする。
この問題に対処するために,教師-学生蒸留による微粒化認識のための制約付き注意改善フレームワークであるCAREを提案する。
CAREは最終予測と説明をクラス固有の留学生に保持し、学習可能なクエリで選択された中間DINOv2層を読み込むトレーニング専用補助クエリ教師を導入する。
教師はマルチレベル表現を融合させ、ログ標準化されたクラス識別知識を学生に伝達する。
説明経路をさらに洗練するために,学生の注意を規則化し,冗長性を低減し,特性の局所化を促進するために,多様性と疎度項を設計する。
CUB、オックスフォード-IIIT ペット、スタンフォード・ドッグス、スタンフォード・カーズの実験では、CAREは解釈可能な冷凍バックボーン設定で強力な分類性能を示し、CUBでは78.5%の精度でトップ1に到達した。
挿入・削除指標による忠実度分析は、トップランクの注意領域が、説明のためのクラス関連証拠を保有していることをさらに示唆している。
関連論文リスト
- TeacherGRPO: Closing the Capacity Gap in Reasoning Distillation via Teacher Alignment [70.40748464576045]
強力な教師モデルから小さな学生への蒸留はギャップカースに面している。
教師がより高度に成長するにつれて、複雑な分布は生徒が近似できるものから多様化し、パフォーマンスが低下する。
本研究では,教師がデータを捨てたり,推論品質を劣化させたりすることなく,直接生徒の分布に適応する教師アライメントを提案する。
論文 参考訳(メタデータ) (2026-09-27T10:13:54Z) - Learning to Track from Privileged Target Appearances [67.80976117600649]
ボトルネックを、現在のターゲット作物を正確に供給する、デプロイ不可能なオラクルと定量化する。
我々は,これらの特権的外観をデプロイ可能なトラッカーに転送する教師学生向けトレーニングフレームワークであるPrivileged Appearance Transfer for Tracking (PATT)を紹介した。
PATTは、長期追跡プロトコルと短期追跡プロトコルの両方で一貫した利得を達成する。
論文 参考訳(メタデータ) (2026-09-02T11:43:43Z) - Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。
その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
論文 参考訳(メタデータ) (2026-06-17T17:54:04Z) - Unlocking Patch-Level Features for CLIP-Based Class-Incremental Learning [13.950318836859731]
CLIのためのSPA(Semantic-Guided Patch-level Alignment)を提案する。
各クラスに対して、まず代表的で多様な視覚サンプルを作成し、それらをGPT-5に供給する。
これらの記述は、識別的パッチレベルの視覚的特徴の選択を導くために使用される。
論文 参考訳(メタデータ) (2026-05-13T17:56:23Z) - Learn to Rank: Visual Attribution by Learning Importance Ranking [58.69028273772474]
コンピュータビジョンモデルのための視覚属性マップを生成する新しい手法を提案する。
提案手法は, 任意の数段階の勾配補正を施した1つの前方通過において, 密度の高い画素レベルの属性を生成する。
我々の実験は、一貫した定量的改善と、よりシャープで境界に沿った説明を示す。
論文 参考訳(メタデータ) (2026-04-07T12:53:22Z) - CLIP-Lung: Textual Knowledge-Guided Lung Nodule Malignancy Prediction [34.35547775426628]
肺結節の予測は、高度なディープラーニング技術と効果的なトリックによって強化されている。
現在の手法は主に1ホットカテゴリーラベルを用いたクロスエントロピー損失で訓練されている。
肺悪性度予測のためのテキスト知識誘導フレームワークであるCLIP-Lungを提案する。
論文 参考訳(メタデータ) (2023-04-17T06:29:14Z) - Fine-Grained Visual Classification using Self Assessment Classifier [12.596520707449027]
識別的特徴の抽出は、きめ細かい視覚的分類タスクにおいて重要な役割を担っている。
本稿では,画像とトップkの予測クラスを同時に活用する自己評価手法を提案する。
本手法は,CUB200-2011,Stanford Dog,FGVC Aircraft のデータセットに対して,最新の結果が得られることを示す。
論文 参考訳(メタデータ) (2022-05-21T07:41:27Z) - Semi-Supervised Semantic Segmentation of Vessel Images using Leaking
Perturbations [1.5791732557395552]
Leaking GANは、網膜血管セグメンテーションのためのGANベースの半教師付きアーキテクチャである。
私たちのキーとなるアイデアは、ジェネレータから情報を漏らすことで識別器を汚染することです。
これにより、より穏健な世代がGANのトレーニングに役立ちます。
論文 参考訳(メタデータ) (2021-10-22T18:25:08Z) - Class-Balanced Distillation for Long-Tailed Visual Recognition [100.10293372607222]
実世界のイメージはしばしばクラスごとの画像数の著しい不均衡によって特徴づけられ、ロングテール分布に繋がる。
本研究では、インスタンスサンプリングで学習した特徴表現が長尾設定では最適とは程遠いという重要な観察を行うことで、新しいフレームワークを提案する。
我々の主な貢献は、知識蒸留を利用して特徴表現を強化する新しい訓練方法である。
論文 参考訳(メタデータ) (2021-04-12T08:21:03Z) - A Teacher-Student Framework for Semi-supervised Medical Image
Segmentation From Mixed Supervision [62.4773770041279]
そこで我々は,臓器と病変のセグメンテーションのための教師と学生のスタイルに基づくセミ教師付き学習フレームワークを開発した。
我々は,本モデルがバウンディングボックスの品質に対して堅牢であることを示し,フル教師付き学習手法と比較した性能を実現する。
論文 参考訳(メタデータ) (2020-10-23T07:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。