Fugu-MT 論文翻訳(概要): Learning Spatial Decay for Vision Transformers

論文の概要: Learning Spatial Decay for Vision Transformers

arxiv url: http://arxiv.org/abs/2508.09525v1
Date: Wed, 13 Aug 2025 06:18:32 GMT
ステータス: 翻訳完了
システム内更新日: 2025-08-14 20:42:00.777917
Title: Learning Spatial Decay for Vision Transformers
Title（参考訳）: 視覚変換器における空間劣化の学習
Abstract要約: 視覚変換器(ViT)はコンピュータビジョンに革命をもたらしたが、その自己認識機構には明らかに空間誘導バイアスがない。既存のアプローチでは、固定距離メトリクスに基づくデータ非依存の空間減衰が導入されている。データ依存型空間減衰の2次元視覚変換器への適応が最初に成功した例を示す。
参考スコア（独自算出の注目度）: 50.63391799053993
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Vision Transformers (ViTs) have revolutionized computer vision, yet their self-attention mechanism lacks explicit spatial inductive biases, leading to suboptimal performance on spatially-structured tasks. Existing approaches introduce data-independent spatial decay based on fixed distance metrics, applying uniform attention weighting regardless of image content and limiting adaptability to diverse visual scenarios. Inspired by recent advances in large language models where content-aware gating mechanisms (e.g., GLA, HGRN2, FOX) significantly outperform static alternatives, we present the first successful adaptation of data-dependent spatial decay to 2D vision transformers. We introduce \textbf{Spatial Decay Transformer (SDT)}, featuring a novel Context-Aware Gating (CAG) mechanism that generates dynamic, data-dependent decay for patch interactions. Our approach learns to modulate spatial attention based on both content relevance and spatial proximity. We address the fundamental challenge of 1D-to-2D adaptation through a unified spatial-content fusion framework that integrates manhattan distance-based spatial priors with learned content representations. Extensive experiments on ImageNet-1K classification and generation tasks demonstrate consistent improvements over strong baselines. Our work establishes data-dependent spatial decay as a new paradigm for enhancing spatial attention in vision transformers.
Abstract（参考訳）: 視覚変換器(ViT)はコンピュータビジョンに革命をもたらしたが、その自己認識機構は明らかに空間的帰納バイアスを欠き、空間的に構造化されたタスクに対する準最適性能をもたらす。既存のアプローチでは、固定距離の測定値に基づくデータ非依存の空間減衰を導入し、画像の内容に関わらず均一な注意重み付けを適用し、多様な視覚シナリオへの適応性を制限している。コンテンツ認識ゲーティング機構(例えば、GLA、HGRN2、FOX)が静的な代替よりも優れる大規模言語モデルの最近の進歩に触発され、2次元視覚変換器へのデータ依存空間減衰の適応が最初に成功した。本稿では,パッチ間相互作用に対して動的にデータ依存の減衰を生成する新しいコンテキスト認識ゲーティング(CAG)機構を特徴とする,SDT(textbf{Spatial Decay Transformer)を導入する。提案手法は,コンテンツ関連性と空間的近接性の両方に基づいて空間的注意を変調することを学ぶ。本研究では,マンハッタン距離に基づく空間先行情報と学習内容表現を統合した空間コンテンツ融合フレームワークによる1次元から2次元への適応の基本的な課題に対処する。 ImageNet-1K分類と生成タスクに関する大規模な実験は、強いベースラインよりも一貫した改善を示している。我々の研究は、視覚変換器における空間的注意を高めるための新しいパラダイムとして、データ依存空間減衰を確立している。

関連論文リスト

DyG$^2$T: Modeling Object Dynamics with 3D Gaussian Temporal-Spatial Particle Graph Transformer [86.4618122245946]
DyG$2$Tは動的モデリングフレームワークで、キーポイント表現を空間的に完了し、時間的に識別することでオブジェクトの運動軌跡を推定する。合成データセットと実世界のデータセットの両方の実験は、DyG$2$Tが正確な動的モデリングと推論を実現することを示した。
論文参考訳（メタデータ） (2026-08-19T03:44:28Z)
SpaceEra++: A Unified Framework Towards 3D Spatial Reasoning in Video [88.79625979053873]
事前学習型視覚言語モデル(VLM)のための新しいフレームワークSpaceEraを提案する。データ構築、モデル設計、トレーニング最適化、推論の促進にまたがる、SpaceEra++と呼ばれる、オリジナルのフレームワークを包括的なシステムに拡張します。さらに,空間的推論を強化するために,絶対座標と相対空間関係を協調的に利用することにより,対物制約を強制するSpaceAlignを開発した。
論文参考訳（メタデータ） (2026-07-02T06:56:29Z)
VEGA: Visual Encoder Grounding Alignment for Spatially-Aware Vision-Language-Action Models [55.12929235609365]
現在の視覚言語アクション(VLA)モデルの視覚バックボーンは、主に3次元幾何学的監督を伴わない2次元画像データに事前訓練されている。既存の暗黙の接地法は、VLA特徴を3D認識基盤モデルと整合させることによって、この問題に部分的に対処する。 DINOv2-FiT3D の空間認識機能と VLA の視覚エンコーダの出力を直接一致させるフレームワーク VEGA を提案する。
論文参考訳（メタデータ） (2026-05-11T12:44:26Z)
Advancing Vision Transformer with Enhanced Spatial Priors [45.601974887796864]
Vision Transformer (ViT) はコンピュータビジョンコミュニティにおいて大きな注目を集めている。我々は、一般的な目的のために、空間的先行性を明確にした頑健な視覚バックボーンであるRTTを提案する。 RMTの強みを生かしたEuclidean enhanced Vision Transformer (EVT)は、いくつかの重要な改善を取り入れた拡張版である。
論文参考訳（メタデータ） (2026-04-20T17:41:00Z)
Autoregressive Image Generation with Linear Complexity: A Spatial-Aware Decay Perspective [47.87649021414188]
本稿では,線形複雑性を伴う空間コンテキストに選択的に注目する自己回帰画像生成装置LASADGenを提案する。 ImageNetの実験では、LASADGenは最先端の画像生成性能と計算効率を達成する。
論文参考訳（メタデータ） (2025-07-02T12:27:06Z)
Transformers Meet Hyperspectral Imaging: A Comprehensive Study of Models, Challenges and Open Problems [0.0]
2025年までの300以上の論文をレビューし、TransformerベースのHSI分類を専門とする初のエンドツーエンド調査を行った。この研究は、典型的なパイプライン前処理、パッチまたはピクセルトークン化、位置符号化、空間スペクトル特徴抽出、マルチヘッド自己注意変種、接続のスキップ、損失設計の各段階を分類する。我々は、貴重な公開データセットの優先順位付け、軽量なオンエッジモデル、照明とセンサーシフト、本質的に解釈可能なアテンションメカニズムについて概説する。
論文参考訳（メタデータ） (2025-06-10T09:04:30Z)
SEM: Enhancing Spatial Understanding for Robust Robot Manipulation [13.620151960111764]
SEM(Spatial Enhanced Manipulation model)は,2つの相補的視点から空間的理解を高める拡散型政策フレームワークである。空間エンハンサーは3次元幾何学的文脈で視覚表現を増強する一方、ロボット状態エンコーダは、グラフベースの関節依存のモデリングにより、エンボディメント認識構造をキャプチャする。
論文参考訳（メタデータ） (2025-05-22T04:00:12Z)
Ground-level Viewpoint Vision-and-Language Navigation in Continuous Environments [10.953629652228024]
VLN(Vision-and-Language Navigation)エージェントは、時系列の視覚観察とそれに対応する指示を関連付け、意思決定を行う。本稿では,人間中心の指示と低地視野の四足歩行ロボットとのミスマッチに対処する。この問題を軽減するために,地上レベルの視点ナビゲーション(GVNav)手法を提案する。
論文参考訳（メタデータ） (2025-02-26T10:30:40Z)
EnerVerse: Envisioning Embodied Future Space for Robotics Manipulation [55.26713167507132]
本稿では,エンボディ空間の構築と解釈を行う生成ロボティクス基礎モデルを提案する。 EnerVerseは、自己回帰的ビデオ拡散フレームワークを使用して、命令から将来のエンボディドスペースを予測する。本稿では,生成モデルと4次元ガウススプラッティングを組み合わせたデータエンジンパイプラインであるEnerVerse-Dについて述べる。
論文参考訳（メタデータ） (2025-01-03T17:00:33Z)
Efficient High-Resolution Visual Representation Learning with State Space Model for Human Pose Estimation [60.80423207808076]
高解像度の視覚表現を維持しながら長距離依存関係をキャプチャすることは、人間のポーズ推定のような密集した予測タスクに不可欠である。マルチスケールの畳み込み操作で視覚状態空間モデルを拡張する動的ビジュアル状態空間(DVSS)ブロックを提案する。 HRVMambaは効率的な高分解能表現学習のための新しいモデルである。
論文参考訳（メタデータ） (2024-10-04T06:19:29Z)
Enhancing Video-Language Representations with Structural Spatio-Temporal Alignment [130.15775113897553]
フィンスタは微細な構造的時間的アライメント学習法である。既存の13の強化されたビデオ言語モデルも一貫して改善されている。
論文参考訳（メタデータ） (2024-06-27T15:23:36Z)
Dual Aggregation Transformer for Image Super-Resolution [92.41781921611646]
画像SRのための新しいトランスモデルDual Aggregation Transformerを提案する。 DATは、ブロック間およびブロック内二重方式で、空間次元とチャネル次元にまたがる特徴を集約する。我々のDATは現在の手法を超越している。
論文参考訳（メタデータ） (2023-08-07T07:39:39Z)
2-D SSM: A General Spatial Layer for Visual Transformers [79.4957965474334]
コンピュータビジョンの中心的な目的は、適切な2次元帰納バイアスを持つモデルを設計することである。多次元状態空間モデルの表現的変動を利用する。本稿では,効率的なパラメータ化,高速化計算,適切な正規化方式を提案する。
論文参考訳（メタデータ） (2023-06-11T09:41:37Z)
Ripple Attention for Visual Perception with Sub-quadratic Complexity [7.425337104538644]
トランスフォーマーアーキテクチャは現在、自然言語処理タスクのモデリングの中心となっている。視覚知覚のためのサブクワッドアテンション機構であるリップルアテンションを提案する。 ripple attentionでは、クエリに対する異なるトークンのコントリビューションは、2次元空間における相対空間距離に対して重み付けされる。
論文参考訳（メタデータ） (2021-10-06T02:00:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。