論文の概要: Structuring Sparsity: Block-Sparse Featurizers Capture Visual Concept Manifolds
- arxiv url: http://arxiv.org/abs/2606.25234v1
- Date: Tue, 23 Jun 2026 23:28:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.166489
- Title: Structuring Sparsity: Block-Sparse Featurizers Capture Visual Concept Manifolds
- Title（参考訳）: 空間を構造化する: 視覚概念のマニフォールドをキャプチャするブロックスパース機能
- Authors: Thomas Fel, Matthew Kowal, Mozes Jacobs, Dron Hazra, Usha Bhalla, Lee Sharkey, Lucius Bushnaq, Satchel Grant, Tal Haklay, Thomas Icard, Can Rager, Michael Pearce, Daniel Wurgaft, Aiden Swann, Fenil Doshi, Siddharth Boppana, Curt Tigges, Nick Cammarata, Thomas Serre, Vasudev Shyam, Owen Lewis, Thomas McGrath, Jack Merullo, Ekdeep Singh Lubana, Atticus Geiger,
- Abstract要約: 活性化空間の低次元領域における幾何学的構造としてしばしば実現される。
ブロックスパースプロデューサ (BSF) の3つの変種を実装し, 最小記述長解析により, いずれも方向に基づくプロデューサよりもコンパクトにアクティベーションを記述することを示す。
- 参考スコア（独自算出の注目度）: 40.072358858272445
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: What is the geometry of a visual percept? The most widely used protocols for decomposing neural network representations into interpretable parts treat concepts as isolated directions, yet recent work shows that concepts are often realized as geometric structures in low dimensional regions of activation space. We turn to the literature of Structured sparsity to close this gap, and show that block sparsity, which groups directions into blocks, is the prior matched to a generative model in which a representation is a sparse sum of low-dimensional manifolds: the modern, learned form of a classical idea in visual neuroscience, where a visual feature is carried by a coordinated group of neurons rather than a single tuned one. We implement three variants of block-sparse featurizers (BSFs) and, through a minimum-description-length analysis, show that all three describe activations more compactly than direction-based featurizers, with the recovered concepts typically two- to four-dimensional. We then use BSFs to (i) recontextualize prior work, showing that curve detectors in InceptionV1 actually read from a single continuous curve manifold, (ii) discover novel manifolds including shadows and lighting in DINOv3, and (iii) support interpretable control of image generation in diffusion models (SDXL) via manifold steering.
- Abstract（参考訳）: 視覚的知覚の幾何学とは何か?
ニューラルネットワーク表現を解釈可能な部分に分解するための最も広く用いられるプロトコルは、概念を孤立した方向として扱うが、最近の研究は、概念が活性化空間の低次元領域における幾何学的構造としてしばしば実現されていることを示している。
このギャップを塞ぐために構造化された空間の文献に目を向けると、ブロックの間隔は、表現が低次元多様体のスパース和である生成モデルと一致している。
ブロックスパースプロデューサ (BSF) の3つの変種を実装し, 最小記述長解析により, 3つとも方向に基づくプロデューサよりもコンパクトに活性化を記述し, 典型的には2次元から4次元に復元される。
次に BSF を使います
i) InceptionV1 の曲線検出器が1つの連続曲線多様体から実際に読み取ることを示す。
(二)DINOv3における影や照明を含む新しい多様体を発見して
3) 多様体ステアリングによる拡散モデル(SDXL)における画像生成の解釈制御を支援する。
関連論文リスト
- Learning 3D Representations for Spatial Intelligence from Unposed Multi-View Images [81.94999489820974]
UniSplat (UniSplat) は、未提示のマルチビュー画像から3D表現を学習するためのフィードフォワードフレームワークである。
エンコーダにおける幾何誘導を強化するデュアルマスキング戦略を導入する。
第2に,外見のセマンティックな矛盾を解消する粗大なガウス的スプレイティング戦略を開発する。
第3に、予測された3次元点と意味マップを画像平面に相互に関連付ける、ポーズ条件の補正機構を導入する。
論文 参考訳（メタデータ） (2026-04-12T10:36:18Z) - FF3R: Feedforward Feature 3D Reconstruction from Unconstrained views [34.14517479047999]
本稿では,制約のないマルチビュー画像シーケンスから幾何学的および意味論的推論を統一する,完全なアノテーションのないフィードフォワードフレームワークであるFF3Rを紹介する。
従来の方法とは異なり、FF3Rはカメラのポーズや深度マップ、セマンティックラベルを必要としない。
i) 意味的文脈で意味的文脈で幾何学的トークンを豊かにするToken-wise Fusion Moduleと(ii) 局所コヒーレンスのための意味的認識ボクセル化とグローバル一貫性のための幾何学的特徴ワープを組み合わせたセマンティック・ジオメトリ相互ブースティング機構である。
論文 参考訳（メタデータ） (2026-04-10T19:45:24Z) - O3N: Omnidirectional Open-Vocabulary Occupancy Prediction [31.91030387170798]
O3N(Omnidirectional Omnidirectional Open-vocabulary Occupancy predictioN framework)について述べる。
O3Nは全方位のボクセルを極性-スピラルトポロジーに埋め込み、連続的な空間表現と長距離コンテキストモデリングを可能にする。
提案手法は,QuadOccおよびHuman360Occベンチマーク上での最先端性能を実現する。
論文 参考訳（メタデータ） (2026-03-12T16:45:42Z) - CVP: Central-Peripheral Vision-Inspired Multimodal Model for Spatial Reasoning [48.36177110428022]
空間的推論のための中央周辺視覚誘発フレームワーク(CVP)を提案する。
CVPは、中心視と周辺視という2種類の人間の視野からインスピレーションを得ている。
実験の結果,CVPは様々な3Dシーン理解ベンチマークで最先端のパフォーマンスを達成することがわかった。
論文 参考訳（メタデータ） (2025-12-09T00:21:13Z) - Into the Rabbit Hull: From Task-Relevant Concepts in DINO to Minkowski Geometry [31.26429968473424]
DINOv2は、オブジェクト、シーン、アクションを認識するために定期的にデプロイされるが、何を認識するのかは分かっていない。
作業ベースラインとして,線形表現仮説(LRH)を採用し,SAEを用いて運用する。
我々は32,000単位の辞書を作成し、この辞書は我々の研究の解釈可能性のバックボーンとして機能する。
論文 参考訳（メタデータ） (2025-10-08T22:42:20Z) - Cross-Layer Discrete Concept Discovery for Interpreting Language Models [13.842670153893977]
クロス層VQ-VAEは、ベクトル量子化を使用して層間の表現をマッピングするフレームワークである。
本手法は,量子化中のトップk温度に基づくサンプリングとEMAコードブック更新を一意に組み合わせる。
論文 参考訳（メタデータ） (2025-06-24T22:43:36Z) - Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。
神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。
私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
論文 参考訳（メタデータ） (2025-05-16T13:49:43Z) - GOV-NeSF: Generalizable Open-Vocabulary Neural Semantic Fields [50.68719394443926]
Generalizable Open-Vocabulary Neural Semantic Fields (GOV-NeSF)は、オープン語彙意味論による3Dシーンの一般化可能な暗黙的表現を提供する新しいアプローチである。
GOV-NeSFは2次元および3次元のオープン語彙セマンティックセマンティックセグメンテーションにおいて最先端のパフォーマンスを示す。
論文 参考訳（メタデータ） (2024-04-01T05:19:50Z) - A Self-supervised Mixed-curvature Graph Neural Network [76.3790248465522]
自己教師型混合曲率グラフニューラルネットワーク(SelfMGNN)を提案する。
我々は、SelfMGNNが現実の複雑なグラフ構造をキャプチャし、最先端のベースラインを上回っていることを示す。
論文 参考訳（メタデータ） (2021-12-10T08:56:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。