論文の概要: Remember Me: Bridging the Long-Range Gap in LVLMs with Three-Step Inference-Only Decay Resilience Strategies

• arxiv url: http://arxiv.org/abs/2511.09868v1
• Date: Fri, 14 Nov 2025 01:14:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-14 22:53:22.537339
• Title: Remember Me: Bridging the Long-Range Gap in LVLMs with Three-Step Inference-Only Decay Resilience Strategies
• Title（参考訳）: LVLMのロングランジギャップを3段階の推論で補う
• Abstract要約: LVLM(Large Vision-Language Models)は、様々なタスクにおいて優れたパフォーマンスを実現している。 ロータリー位置決定(Rotary Positional Decay)の使用下では、長距離依存関係をモデル化する上で、依然として重要な課題に直面している。 この問題を軽減するため,T-DRS(Three-step Decay Resilience Strategies)を提案する。
• 参考スコア（独自算出の注目度）: 11.330811445575677
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Vision-Language Models (LVLMs) have achieved impressive performance across a wide range of multimodal tasks. However, they still face critical challenges in modeling long-range dependencies under the usage of Rotary Positional Encoding (ROPE). Although it can facilitate precise modeling of token positions, it induces progressive attention decay as token distance increases, especially with progressive attention decay over distant token pairs, which severely impairs the model's ability to remember global context. To alleviate this issue, we propose inference-only Three-step Decay Resilience Strategies (T-DRS), comprising (1) Semantic-Driven DRS (SD-DRS), amplifying semantically meaningful but distant signals via content-aware residuals, (2) Distance-aware Control DRS (DC-DRS), which can purify attention by smoothly modulating weights based on positional distances, suppressing noise while preserving locality, and (3) re-Reinforce Distant DRS (reRD-DRS), consolidating the remaining informative remote dependencies to maintain global coherence. Together, the T-DRS recover suppressed long-range token pairs without harming local inductive biases. Extensive experiments on Vision Question Answering (VQA) benchmarks demonstrate that T-DRS can consistently improve performance in a training-free manner. The code can be accessed in https://github.com/labixiaoq-qq/Remember-me
• Abstract（参考訳）: LVLM(Large Vision-Language Models)は、様々なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 しかし、ROPE(Rotary Positional Encoding)の使用下では、長距離依存関係のモデリングにおいて重要な課題に直面している。 トークン位置の正確なモデリングを容易にすることができるが、特に遠くのトークン対に対する進行的な注目の減衰によって、トークン距離が増加するにつれて進行的な注意の減衰を誘導し、このモデルがグローバルな文脈を記憶する能力を著しく損なう。 この問題を軽減するため,(1)意味駆動型DRS(SD-DRS)、(2)コンテンツ認識残差による意味論的に有意だが遠方的な信号の増幅,(2)位置距離に基づいて重みを円滑に調整し,局所性を維持しながら雑音を抑えることによる注意を浄化可能な距離認識制御DRS(DC-DRS)、(3)再強化距離DRS(reRD-DRS)、および、残りの情報的リモート依存を統合化してグローバルコヒーレンスを維持することを含む,推論のみの3段階ディシリエンス戦略(T-DRS)を提案する。 共に、T-DRSは局所誘導バイアスを損なうことなく長距離トークンペアを抑制した。 VQA(Vision Question Answering)ベンチマークの大規模な実験は、T-DRSがトレーニング不要な方法で継続的にパフォーマンスを向上させることを実証している。 コードはhttps://github.com/labixiaoq-qq/Remember-meでアクセスすることができる。

関連論文リスト

• Active Adversarial Perturbation-driven Associative Memory Retrieval for RGB-Event Visual Object Tracking [58.338848435042536]
  RGB-Eventトラッキングは、イベントセンサからRGB外観テクスチャと高密度時間運動キューを融合することにより、ローカライズを改善する。 現実世界のシーンは、従来のマルチモーダル融合を妨げる多様な構造的な信号劣化に悩まされる。 本稿では,RGBイベント追跡に適した階層的摂動・検索フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-24T23:34:06Z)
• Reinforcing Dual-Path Reasoning in Spatial Vision Language Models [113.86271063627782]
  本稿では,空間的VLMにLOR(Language-Only Reasoning)とDTR(Detect-Then-Reason)の2つの相補的推論経路を持つ統一的なフレームワークを提案する。 様々な空間ベンチマークにおいて、SR-REALは空間的VLMベースラインを著しく上回る。
  論文  参考訳（メタデータ） (2026-06-16T05:32:39Z)
• Robust Dreamer: Deviation-Aware Latent Gaussian Memory for Action-Controlled AR Video Generation [89.70897512515477]
  アクション制御された画像対ビデオ生成は、インタラクティブな世界シミュレーションにおいて有望なパラダイムであり、各制御信号が即時視覚応答を誘発する。 長時間の自己回帰的なロールアウトに対する視覚的忠実さと3D一貫性を維持することは依然として難しい。 既存の3D認識手法は、textitLatent--RGB Cyclingからの情報損失と、textiterror-free仮説によって引き起こされるトレーニング-推論ギャップという2つの障害により、破滅的なドリフトに悩まされることが多い。 textbfRobust Dreamerという,メモリ拡張フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-05-29T05:21:33Z)
• Improving Multi-turn Dialogue Consistency with Self-Recall Thinking [13.308970592702602]
  大規模言語モデル(LLM)ベースのマルチターン対話システムは、非隣接のターン間の依存関係を追跡するのに苦労することが多い。 本稿では,長期的コンテキスト依存と疎結合な情報信号に対処するフレームワークであるセルフリコール思考(SRT)を提案する。 複数のデータセットの実験では、SRTはF1スコアを4.7%改善し、エンドツーエンドのレイテンシを14.7%削減している。
  論文  参考訳（メタデータ） (2026-05-14T17:20:14Z)
• VCR: Learning Valid Contextual Representation for Incomplete Wearable Signals [26.890638722471902]
  本稿では,モダリティの欠如に頑健な有効な表現を抽出する自己教師型フレームワークであるVCRを提案する。 VCRは、フル、シングルミス、マルチミスモード設定におけるパフォーマンスとロバスト性を一貫して改善する。
  論文  参考訳（メタデータ） (2026-05-13T03:11:39Z)
• RS-HyRe-R1: A Hybrid Reward Mechanism to Overcome Perceptual Inertia for Remote Sensing Images Understanding [22.712555479018203]
  リモートセンシング理解のためのハイブリッド報酬フレームワークRS-HyRe-R1を提案する。 RS-HyRe-R1は「知覚慣性」を効果的に緩和し、より深く、より多様な推論を促進する。
  論文  参考訳（メタデータ） (2026-04-19T15:50:33Z)
• Breaking Block Boundaries: Anchor-based History-stable Decoding for Diffusion Large Language Models [54.468024377748]
  本稿では,Anchor-based History-stable Decoding (AHD) を提案する。 AHDは動的アンカーを通してトークンの安定性トレンドをリアルタイムで監視する。 当社のアプローチでは、デコーディングのステップを80%削減し、パフォーマンスを3.67%向上させています。
  論文  参考訳（メタデータ） (2026-04-10T05:08:39Z)
• Steering Away from Memorization: Reachability-Constrained Reinforcement Learning for Text-to-Image Diffusion [44.47036589940717]
  現在の緩和戦略は、通常、暗記を減らすために画像の品質を犠牲にするか、迅速にアライメントする。 本稿では,生成の忠実さを保ちながら記憶を防止する推論時フレームワークであるReachability-Aware Diffusion Steering (RADS)を提案する。 RADSは拡散復調過程を力学系としてモデル化し、到達可能性解析の概念を適用して「後方到達管」を近似する。
  論文  参考訳（メタデータ） (2026-02-24T09:07:08Z)
• Enhancing Foundation VLM Robustness to Missing Modality: Scalable Diffusion for Bi-directional Feature Restoration [40.720288165545476]
  本研究では,機能不足を効果的に回復するために,拡張拡散モデルをプラグ可能な中段階トレーニングモジュールとして導入する。 I)動的モダリティゲーティング(動的モダリティゲーティング)は、条件付き特徴を適応的に活用し、セマンティック一貫性のある特徴の生成を制御し、(II)双方向アライメントを実現するためにデュアルエンコーダのセマンティック空間をブリッジするクロスモーダル相互学習機構である。
  論文  参考訳（メタデータ） (2026-02-03T06:06:35Z)
• RSGround-R1: Rethinking Remote Sensing Visual Grounding through Spatial Reasoning [61.84363374647606]
  リモートセンシングビジュアルグラウンドディング(RSVG)は、自然言語記述に基づく大規模空中画像における対象物体のローカライズを目的としている。 これらの記述はしばしば位置的手がかりに大きく依存しており、空間的推論においてMLLM(Multimodal Large Language Models)に固有の課題を提起している。 空間理解の高度化を図るために,textbfRSGround-R1 と呼ばれる推論誘導型位置認識後学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-29T12:35:57Z)
• FeedbackSTS-Det: Sparse Frames-Based Spatio-Temporal Semantic Feedback Network for Infrared Small Target Detection [7.648318265124807]
  複雑な背景下での赤外線小検出目標(ISTD)は依然として困難な課題である。 既存の手法はまだ非効率な長距離依存性モデリングに苦慮している。 本稿では,スパースなセマンティック・テンポラル・フィードバック・ネットワークによるISTD検出手法を提案する。
  論文  参考訳（メタデータ） (2026-01-21T06:06:36Z)
• Adaptive Residual-Update Steering for Low-Overhead Hallucination Mitigation in Large Vision Language Models [13.32858759983739]
  LVLM(Large Vision-Language Models)は、しばしばオブジェクト幻覚に悩まされ、視覚入力と矛盾するテキストを生成する。 この問題を緩和するための既存の推論時間の介入は、難しいトレードオフをもたらします。 本稿では,LVLMを視覚的に生成するフレームワークであるResidual-Update Directed Decoding Regulation(RUDDER)を提案する。
  論文  参考訳（メタデータ） (2025-11-13T13:29:38Z)
• SparseD: Sparse Attention for Diffusion Language Models [98.05780626106555]
  拡散言語モデル(DLM)は自己回帰モデル(AR)に代わる有望な代替手段を提供する 既存のオープンソースDLMは、高い推論遅延に悩まされている。 DLMのための新しいスパースアテンション手法であるスパースDを提案する。
  論文  参考訳（メタデータ） (2025-09-28T18:10:10Z)
• Unsupervised Online 3D Instance Segmentation with Synthetic Sequences and Dynamic Loss [52.28880405119483]
  教師なしのオンライン3Dインスタンスのセグメンテーションは、基本的だが難しい課題だ。 UNITのような既存の手法はこの方向に進んできたが、訓練の多様性が制限されているままである。 本稿では,合成点雲列生成によるトレーニング分布の強化を目的とした新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-27T08:53:27Z)
• Exploring Efficient Open-Vocabulary Segmentation in the Remote Sensing [55.291219073365546]
  Open-Vocabulary Remote Sensing Image (OVRSIS)は、OVS(Open-Vocabulary)をリモートセンシング(RS)ドメインに適応させる新しいタスクである。 textbfRSKT-Segは、リモートセンシングに適した新しいオープン語彙セグメンテーションフレームワークである。 RSKT-Segは高いOVSベースラインを+3.8 mIoUと+5.9 mACCで上回り、効率的なアグリゲーションによって2倍高速な推論を実現している。
  論文  参考訳（メタデータ） (2025-09-15T15:24:49Z)
• Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
  視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。 本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
  論文  参考訳（メタデータ） (2025-08-06T09:03:10Z)
• R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
  CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。 CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。 トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
  論文  参考訳（メタデータ） (2025-07-23T08:14:36Z)
• Beyond 'Aha!': Toward Systematic Meta-Abilities Alignment in Large Reasoning Models [86.88657425848547]
  大型推論モデル(LRMs)はすでに長い連鎖推論のための潜在能力を持っている。 我々は、自動生成の自己検証タスクを使用して、モデルに推論、帰納、誘拐の3つのメタ能力を持たせることを明確にした。 我々の3つのステージ・パイプラインの個別アライメント、パラメータ空間のマージ、ドメイン固有の強化学習は、命令調整ベースラインと比較して10%以上のパフォーマンス向上を実現します。
  論文  参考訳（メタデータ） (2025-05-15T17:58:33Z)
• VISTA: Unsupervised 2D Temporal Dependency Representations for Time Series Anomaly Detection [42.694234312755285]
  時系列異常検出(TSAD)は、ラベルのない時系列データの中で稀で潜在的に有害な事象を明らかにするのに不可欠である。 本稿では,これらの課題を克服するために,トレーニング不要で教師なしのTSADアルゴリズムであるVISTAを紹介する。
  論文  参考訳（メタデータ） (2025-04-03T11:20:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。