論文の概要: Sparse Autoencoders for Scientifically Rigorous Interpretation of Vision Models

• arxiv url: http://arxiv.org/abs/2502.06755v1
• Date: Mon, 10 Feb 2025 18:32:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 14:31:25.755801
• Title: Sparse Autoencoders for Scientifically Rigorous Interpretation of Vision Models
• Title（参考訳）: 科学的に厳密な視覚モデル解釈のためのスパースオートエンコーダ
• Authors: Samuel Stevens, Wei-Lun Chao, Tanya Berger-Wolf, Yu Su,
• Abstract要約: 本稿では、スパースオートエンコーダ(SAE)を用いて、人間の解釈可能な視覚的特徴を発見する統一的なフレームワークを提案する。 そこで本研究では,SAEがモデル再学習を行なわずに,解釈可能な視覚特徴を確実に識別・操作できることを示す。
• 参考スコア（独自算出の注目度）: 27.806966289284528
• License:
• Abstract: To truly understand vision models, we must not only interpret their learned features but also validate these interpretations through controlled experiments. Current approaches either provide interpretable features without the ability to test their causal influence, or enable model editing without interpretable controls. We present a unified framework using sparse autoencoders (SAEs) that bridges this gap, allowing us to discover human-interpretable visual features and precisely manipulate them to test hypotheses about model behavior. By applying our method to state-of-the-art vision models, we reveal key differences in the semantic abstractions learned by models with different pre-training objectives. We then demonstrate the practical usage of our framework through controlled interventions across multiple vision tasks. We show that SAEs can reliably identify and manipulate interpretable visual features without model re-training, providing a powerful tool for understanding and controlling vision model behavior. We provide code, demos and models on our project website: https://osu-nlp-group.github.io/SAE-V.
• Abstract（参考訳）: 視覚モデルを真に理解するためには、学習した特徴を解釈するだけでなく、制御された実験を通してこれらの解釈を検証する必要がある。 現在のアプローチでは、因果関係をテストせずに解釈可能な機能を提供するか、あるいは、解釈可能なコントロールなしでモデル編集を可能にする。 本稿では,このギャップを埋めるスパースオートエンコーダ(SAE)を用いた統一的なフレームワークを提案する。 本手法を最先端の視覚モデルに適用することにより,事前学習対象の異なるモデルで学習した意味的抽象化における重要な違いを明らかにする。 次に、複数の視覚タスク間で制御された介入を通して、我々のフレームワークの実践的利用を実演する。 我々は,SAEがモデル再訓練をすることなく,解釈可能な視覚的特徴を確実に識別し,操作できることを示し,視覚モデル行動の理解と制御のための強力なツールを提供する。 プロジェクトのWebサイトでは、コード、デモ、モデルを提供しています。

関連論文リスト

• Fill in the blanks: Rethinking Interpretability in vision [0.0]
  我々は、新しい視点から視覚モデルの説明可能性を再考し、トレーニング中にモデルが学習した一般的な入力構造を探索する。 標準的なビジョンデータセットと事前トレーニングされたモデルの実験は、一貫性のあるパターンを明らかにし、追加のモデルに依存しない説明可能性ツールとして解釈できる。
  論文  参考訳（メタデータ） (2024-11-15T15:31:06Z)
• A Vision Check-up for Language Models [61.852026871772914]
  テキストのモデルを用いて、予備的な視覚表現学習システムをどのように訓練するかを示す。 自己教師付き視覚表現学習の実験は、自然画像のセマンティックアセスメントを行うことができる視覚モデルを訓練する可能性を強調している。
  論文  参考訳（メタデータ） (2024-01-03T18:09:33Z)
• Interpreting and Controlling Vision Foundation Models via Text Explanations [45.30541722925515]
  本稿では,視覚変換器の潜在トークンを自然言語で解釈するフレームワークを提案する。 我々のアプローチは、追加のモデルトレーニングやデータ収集を必要とせずに、モデルの視覚的推論手順の理解を可能にする。
  論文  参考訳（メタデータ） (2023-10-16T17:12:06Z)
• Visual Affordance Prediction for Guiding Robot Exploration [56.17795036091848]
  我々は,ロボット探索を導くための視覚能力の学習手法を開発した。 VQ-VAEの潜伏埋め込み空間における条件分布の学習にはTransformerベースのモデルを用いる。 本稿では,ロボット操作における視覚的目標条件付きポリシー学習において,目標サンプリング分布として機能することで探索を導くために,トレーニングされた余裕モデルをどのように利用できるかを示す。
  論文  参考訳（メタデータ） (2023-05-28T17:53:09Z)
• InDL: A New Dataset and Benchmark for In-Diagram Logic Interpretation based on Visual Illusion [1.7980584146314789]
  本稿では,深層学習モデルの論理解釈能力を評価するための新しい手法を提案する。 これらのモデルを厳格にテストし、ベンチマークするために設計された、ユニークなデータセットであるInDLを構築します。 我々は、6つの古典的な幾何学的錯視を利用して、人間と機械の視覚知覚の比較フレームワークを構築した。
  論文  参考訳（メタデータ） (2023-05-28T13:01:32Z)
• Localization vs. Semantics: Visual Representations in Unimodal and Multimodal Models [57.08925810659545]
  既存の視覚・言語モデルと視覚のみのモデルにおける視覚表現の比較分析を行う。 我々の経験的観察は、視覚・言語モデルがラベル予測タスクに優れていることを示唆している。 我々の研究は、視覚学習における言語の役割に光を当て、様々な事前学習モデルの実証的なガイドとして機能することを願っている。
  論文  参考訳（メタデータ） (2022-12-01T05:00:18Z)
• Masked World Models for Visual Control [90.13638482124567]
  視覚表現学習と動的学習を分離する視覚モデルに基づくRLフレームワークを提案する。 提案手法は,様々な視覚ロボット作業における最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-06-28T18:42:27Z)
• UViM: A Unified Modeling Approach for Vision with Learned Guiding Codes [91.24112204588353]
  我々は、幅広いコンピュータビジョンタスクをモデル化できる統一的なアプローチであるUViMを紹介する。 以前のモデルとは対照的に、UViMは全てのタスクに対して同じ機能を持つ。 多様な3つの視覚課題に対するUViMの有効性を実証する。
  論文  参考訳（メタデータ） (2022-05-20T17:47:59Z)
• 3D Neural Scene Representations for Visuomotor Control [78.79583457239836]
  我々は2次元視覚観測から動的3次元シーンのモデルを純粋に学習する。 学習した表現空間上に構築された動的モデルにより,操作課題に対するビジュモータ制御が可能となる。
  論文  参考訳（メタデータ） (2021-07-08T17:49:37Z)
• Model-Based Inverse Reinforcement Learning from Visual Demonstrations [20.23223474119314]
  本稿では,視覚的人間の実演のみを与えられた場合のコスト関数を学習する,勾配に基づく逆強化学習フレームワークを提案する。 学習したコスト関数は、視覚モデル予測制御によって実証された振る舞いを再現するために使用される。 2つの基本的なオブジェクト操作タスクでハードウェアのフレームワークを評価する。
  論文  参考訳（メタデータ） (2020-10-18T17:07:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。