論文の概要: Align Once to Explain: Feature Alignment for Scalable B-cosification of Foundational Vision Transformers

• arxiv url: http://arxiv.org/abs/2611.03438v1
• Date: Mon, 02 Nov 2026 16:53:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 04:33:41.974189
• Title: Align Once to Explain: Feature Alignment for Scalable B-cosification of Foundational Vision Transformers
• Title（参考訳）: Align Once to Explain: 基礎的な視覚変換器のスケーラブルなBコシフィケーションのための機能アライメント
• Abstract要約: ALOEは、基礎的な視覚モデルを本質的に解釈可能なB-cos変種に効率的に変換する、1回限りのラベルなし特徴アライメントアプローチである。 事前学習パラダイム(教師付き、自己教師型、視覚言語)にまたがって堅牢であり、教師レベルの一般化をスクラッチからのトレーニングよりも桁違いに少ないデータで維持することができる。 また、密集予測に有用な空間的構造的特徴を保ちつつ、設計によって高度に局所化され、高度に人間的に解釈可能な説明を与える。
• 参考スコア（独自算出の注目度）: 48.45570559722204
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Foundational vision models have become the de facto standard for many vision tasks due to their strong performance. However, they are notoriously opaque and remain hard to interpret. We present ALOE (ALign Once to Explain), a one-time, label-free feature alignment approach that efficiently converts foundational vision models into inherently interpretable B-cos variants. Once aligned, the B-cos backbone is used as a drop-in replacement across several downstream tasks-amortizing the cost of interpretability. ALOE is robust across pre-training paradigms (supervised, self-supervised, vision-language) and can preserve teacher-level generalization with orders of magnitude less data than training from scratch. On classification, it strongly outperforms vanilla B-cosification (e.g., +10.5 p.p. top-1 on ImageNet for DINOv3 ViT-B/16), retains strong linear probing, k-NN, and zero-shot transfer competitive with foundational backbones (DINOv3, SigLIP2) across diverse downstream datasets. It also preserves spatially structured features useful for dense prediction, while yielding well-localized and highly human-interpretable explanations by design.
• Abstract（参考訳）: 基礎的な視覚モデルは多くの視覚タスクのデファクトスタンダードとなっている。 しかし、それらは不透明なことで知られており、解釈が難しいままである。 ALOE(Align Once to Explain)は,基礎的視覚モデルを本質的に解釈可能なB-cos変種に効率的に変換する,1回限りのラベルなし特徴アライメントアプローチである。 一度アライメントが完了すると、B-cosのバックボーンは、いくつかの下流タスクにまたがるドロップイン代替として使用され、解釈可能性のコストを調整します。 ALOEは事前学習パラダイム(教師付き、自己教師型、視覚言語)にまたがって堅牢であり、教師レベルの一般化をスクラッチからのトレーニングよりも桁違いに少ないデータで維持することができる。 分類上は、Vanilla B-cosification(例えば、DINOv3 ViT-B/16のImageNetでは+10.5 p.p.top-1)を強く上回り、強力な線形プローブ、k-NN、ゼロショット転送を持ち、基礎的なバックボーン(DINOv3、SigLIP2)と様々な下流データセットで競合する。 また、密集予測に有用な空間的構造的特徴を保ちつつ、設計によって高度に局所化され、高度に人間的に解釈可能な説明を与える。

関連論文リスト

• GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution [5.770893169582546]
  この研究は、属性をサブセットレベルの反事実的ユーティリティ予測として再定義する。 相互作用を意識したサロゲートであるGRASPを紹介する。 それは、既存のスケーラブルなベースラインを決定的に上回る。
  論文  参考訳（メタデータ） (2026-06-05T04:17:50Z)
• Interpretability Without Tradeoffs: Disentangling Polysemanticity At Equal Predictive Performance [58.49623467782041]
  ELUDeはディープニューラルネットワークの解釈可能性を改善する方法である。 潜在表現を、解釈可能な機能のように振る舞う透明で検査可能なサブユニットに分解する。 明示的なトレーニングもラベルも必要とせず、事前訓練されたモデルにも適用できる。
  論文  参考訳（メタデータ） (2026-05-29T13:39:09Z)
• OTFusion: Bridging Vision-only and Vision-Language Models via Optimal Transport for Transductive Zero-Shot Learning [5.818420448447699]
  OTFusionは、視覚情報と意味情報を整合した共有確率表現を学ぶことを目的としている。 OTFusionはオリジナルのCLIPモデルよりも一貫して優れており、平均精度は10%近く向上している。
  論文  参考訳（メタデータ） (2025-06-16T17:27:47Z)
• B-cosification: Transforming Deep Neural Networks to be Inherently Interpretable [53.848005910548565]
  B-コシフィケーション(B-cosification)は、既存の訓練済みモデルを本質的に解釈可能なものにするための新しいアプローチである。 B-コシフィケーションは、解釈可能性の観点から、スクラッチから訓練されたB-コシフィケーションモデルに匹敵するモデルが得られる。
  論文  参考訳（メタデータ） (2024-11-01T16:28:11Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• B-cos Networks: Alignment is All We Need for Interpretability [136.27303006772294]
  本稿では,深層ニューラルネットワーク(DNN)の学習における重み付けの促進による解釈可能性の向上に向けた新たな方向性を提案する。 B-コス変換は、完全なモデル計算を忠実に要約する単一の線形変換を誘導する。 VGGs、ResNets、InceptionNets、DenseNetsといった一般的なモデルに簡単に統合できることを示します。
  論文  参考訳（メタデータ） (2022-05-20T16:03:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。