論文の概要: Task-Induced Riemannian Metrics for Vision Transformer Feature Spaces

• arxiv url: http://arxiv.org/abs/2609.27988v1
• Date: Wed, 23 Sep 2026 12:17:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:18.013067
• Title: Task-Induced Riemannian Metrics for Vision Transformer Feature Spaces
• Title（参考訳）: 視覚変換器特徴空間に対するタスク誘起リーマン計量
• Abstract要約: 特徴空間のタスク感受性幾何はプルバック計量 $g(F) = J(F)top J(F)$ で与えられる。 この測定値の低ランク近似がモデルデコーダ対に依存するかどうかを示す。 トラクタブルペアに対しては、ランダム化電力の繰り返しから低ランクバージョンを学習するSpectral Pullback Network (SPN) を開発する。
• 参考スコア（独自算出の注目度）: 31.35492487383976
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Methods operating on Vision Transformer (ViT) feature spaces typically rely on Euclidean distance or cosine similarity. This assumes that every direction is equally meaningful, but there is no reason to believe the true task geometry has this property. The task-sensitive geometry of the feature space is given by the pullback metric $g(F) = J(F)^\top J(F)$, where $J$ is the Jacobian of the decoder's output fed to a task-specific distance, with respect to the features. Storing the full $g$ is infeasible at modern scales, and for dense outputs such as depth maps even forming $J$ is impractical. We show that whether a low-rank approximation of this metric can be learned depends on the model-decoder pair, and we characterize this with a matrix-free diagnostic $κ_{cap}(r)$ computable with a low number of Jacobian-vector products. For tractable pairs, we develop the Spectral Pullback Network (SPN), which learns a low-rank version of the metric from randomized power iteration, and we distill it into a $310$K-parameter importance head that predicts token importance directly from the features. When the Jacobian spectrum is too spread out for a low-rank approximation, passing the decoder's input features through a VAE bottleneck can restore tractability. Across DPT, DINOv2, CLIP, and VGGT backbones, $κ_{cap}(r)$ predicts which learned-metric architectures are viable. The importance head reaches Spearman $ρ= 0.998$ on DINOv2 CLS, and our geometric token pruning reduces the additional depth error of ToMe-based token selection by $25\%$ on DPT depth at prune ratio $0.5$, without fine-tuning the ViT. Project page: https://cyberiada.github.io/TaskInducedViTs/
• Abstract（参考訳）: Vision Transformer (ViT) の機能空間を操作する方法は通常ユークリッド距離やコサイン類似性に依存する。 これはすべての方向が等しく有意であると仮定するが、真のタスク幾何学がこの性質を持つと考える理由はない。 特徴空間のタスク依存幾何学は、プルバック計量 $g(F) = J(F)^\top J(F)$ で与えられる。 近代的なスケールでは、フル$g$は実現不可能であり、深さマップのような高密度な出力に対して、$J$を形成することは現実的ではない。 この計量の低ランク近似がモデル-デコーダ対に依存しているかどうかを示し、これを行列のない診断法$κ_{cap}(r)$計算可能で、ヤコビアン-ベクトル積の少ない値で特徴づける。 トラクタブルペアに対しては、ランダム化電力繰り返しから基準値の低ランクバージョンを学習するSpectral Pullback Network (SPN) を開発し、特徴量から直接トークンの重要度を予測する310ドルKパラメータ重要ヘッドに蒸留する。 低ランク近似のためにジャコビアンスペクトルが広がりすぎると、VAEボトルネックを介してデコーダの入力特徴を渡すと、トラクタビリティが回復する。 DPT、DINOv2、CLIP、VGGTのバックボーン全体、$κ_{cap}(r)$予測は、どの学習されたアーキテクチャが実行可能なのかを予測する。 DINOv2 CLS上でのSpearman $ρ=0.998$に到達し、幾何学的トークンプルーニングにより、VTを微調整することなく、DPT深度でのToMeベースのトークン選択の付加深度誤差を$25\%削減する。 プロジェクトページ: https://cyberiada.github.io/TaskinducedViTs/

関連論文リスト

• Exact Limits of Random Projections for Preserving Geometry: Distance Recovery, Nearest-Neighbor Rankings, and Covariance Shape in Gaussian Models [0.0]
  Johnson-Lindenstrauss lemma は、$n$点のランダム射影が$m=O(varepsilon-2log n)$次元であることを保証する。 しかし、高次元では、距離はベースラインの周りに集中し、鍵となる幾何学的情報ははるかに小さなゆらぎにある。 したがって、JL 境界は残留幾何に対して非形式的であることを示す。
  論文  参考訳（メタデータ） (2026-09-02T06:12:34Z)
• Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
  高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。 本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。 実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
  論文  参考訳（メタデータ） (2026-06-04T16:04:31Z)
• Scaling Attention via Feature Sparsity [50.64995497733461]
  超長期のコンテキストにトランスフォーマーをスケールすることは、自己注意のコスト$O(n2 d)$コストによってボトルネックとなる。 本稿では,高次元表現性を維持するために,クエリとキーを$k$sparseコードとして表現するスパース特徴注意法を提案する。 GPT-2とQwen3の事前トレーニングで、SFAは密度の高いベースラインにマッチし、最高2.5タイムのスピードを向上し、FLOPとKVキャッシュを50%近く削減した。
  論文  参考訳（メタデータ） (2026-03-17T08:41:50Z)
• Learning Networks from Wide-Sense Stationary Stochastic Processes [7.59499154221528]
  ここでの重要な推論問題は、ノード出力(ポテンシャル)からエッジ接続を学習することである。 我々はWhittleの最大可能性推定器(MLE)を用いて時間相関サンプルから$Last$のサポートを学習する。 MLE問題は厳密な凸であり、ユニークな解であることを示す。
  論文  参考訳（メタデータ） (2024-12-04T23:14:00Z)
• Effective Minkowski Dimension of Deep Nonparametric Regression: Function Approximation and Statistical Theories [70.90012822736988]
  ディープ非パラメトリック回帰に関する既存の理論は、入力データが低次元多様体上にある場合、ディープニューラルネットワークは本質的なデータ構造に適応できることを示した。 本稿では,$mathcalS$で表される$mathbbRd$のサブセットに入力データが集中するという緩和された仮定を導入する。
  論文  参考訳（メタデータ） (2023-06-26T17:13:31Z)
• Optimal Approximation Rates for Deep ReLU Neural Networks on Sobolev and Besov Spaces [2.7195102129095003]
  ReLU活性化関数を持つディープニューラルネットワークは、ソボレフ空間$Ws(L_q(Omega))$とBesov空間$Bs_r(L_q(Omega))$の関数を近似することができる。 この問題は、様々な分野におけるニューラルネットワークの適用を研究する際に重要である。
  論文  参考訳（メタデータ） (2022-11-25T23:32:26Z)
• Approximate Function Evaluation via Multi-Armed Bandits [51.146684847667125]
  既知の滑らかな関数 $f$ の値を未知の点 $boldsymbolmu in mathbbRn$ で推定する問題について検討する。 我々は、各座標の重要性に応じてサンプルを学習するインスタンス適応アルゴリズムを設計し、少なくとも1-delta$の確率で$epsilon$の正確な推定値である$f(boldsymbolmu)$を返す。
  論文  参考訳（メタデータ） (2022-03-18T18:50:52Z)
• Reward-Free Model-Based Reinforcement Learning with Linear Function Approximation [92.99933928528797]
  エピソードマルコフ決定過程(MDP)に対する線形関数近似を用いたモデルに基づく無報酬強化学習について検討する。 計画段階では、特定の報酬関数が与えられ、探索フェーズから収集したサンプルを使用して良い政策を学ぶ。 任意の報酬関数に対して$epsilon$-optimal Policyを得るには,最大$tilde O(H4d(H + d)epsilon-2)$ episodesをサンプリングする必要がある。
  論文  参考訳（メタデータ） (2021-10-12T23:03:58Z)
• A deep network construction that adapts to intrinsic dimensionality beyond the domain [79.23797234241471]
  本稿では,ReLUを活性化したディープネットワークを用いて,2層合成の近似を$f(x) = g(phi(x))$で検討する。 例えば、低次元埋め込み部分多様体への射影と、低次元集合の集合への距離である。
  論文  参考訳（メタデータ） (2020-08-06T09:50:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。