論文の概要: Dynamic Context Adapters: Efficiently Infusing History into Vision-and-Language Models

• arxiv url: http://arxiv.org/abs/2608.10525v1
• Date: Tue, 11 Aug 2026 06:05:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:45.922837
• Title: Dynamic Context Adapters: Efficiently Infusing History into Vision-and-Language Models
• Title（参考訳）: 動的文脈適応器:視覚・言語モデルに履歴を効率よく注入する
• Abstract要約: 事前学習型視覚言語モデル(VLM)のための新しい文脈注入手法である動的文脈適応器(DCA)を導入する。 本手法では,フレーム結合を伴わずに歴史的意味を保存するために,固定サイズの動的圧縮メモリを用いる。 DCAは、FLOPの注目度を25%以上削減し、13%のメモリ節約を実現し、ロングホライゾンタスクのパフォーマンスを改善している。
• 参考スコア（独自算出の注目度）: 19.861339694649256
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Historical context integration presents a fundamental challenge for Vision-Language Models (VLMs) in sequential decision-making tasks. Current VLMs process visual inputs independently, which creates critical limitations for downstream applications that require temporal understanding. Direct incorporation of historical frames into Transformer inputs produces quadratic attention complexity and excessive memory consumption. Existing approaches suffer from significant drawbacks: computational inflation or substantial information loss through temporal compression. To address these challenges, we introduce Dynamic Context Adapter (DCA), a novel context injection approach for pretrained VLMs. Our method employs fixed-size, dynamically compressed memory to preserve historical semantics without frame concatenation. DCA bridges static VLMs and recurrent policies and enables memory capabilities in pretrained models while maintaining computational efficiency. DCA achieves over $25\%$ reduction in attention FLOPs and $13\%$ memory savings while improving performance on long-horizon tasks.
• Abstract（参考訳）: 歴史的文脈統合は、逐次意思決定タスクにおける視覚言語モデル(VLM)の根本的な課題である。 現在のVLMは視覚入力を独立に処理し、時間的理解を必要とする下流アプリケーションに限界を生じさせる。 過去のフレームを直接Transformer入力に組み込むと、二次的な注意の複雑さと過剰なメモリ消費が発生する。 既存のアプローチは、計算的インフレーションや時間的圧縮による実質的な情報損失といった大きな欠点に悩まされている。 これらの課題に対処するために、事前に訓練されたVLMのための新しいコンテキスト注入手法であるDynamic Context Adapter (DCA)を導入する。 本手法では,フレーム結合を伴わずに歴史的意味を保存するために,固定サイズの動的圧縮メモリを用いる。 DCAは静的なVLMとリカレントポリシーをブリッジし、計算効率を維持しながら事前訓練されたモデルのメモリ機能を実現する。 DCA は FLOP の注目度を 25 % 以上削減し,13 % のメモリ節約を実現している。

関連論文リスト

• MemoryWAM: Efficient World Action Modeling with Persistent Memory [80.90899269062128]
  本稿では,効率的な永続メモリを持つ世界アクションモデルであるMemoryWAMを紹介する。 調整された注意機構は、詳細な短期コンテキストと圧縮された長期コンテキストの両方の検索を可能にする。 MemoryWAMは、シミュレーションと実世界の両方において、強力な視覚言語アクション(VLA)とWAMベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-06-18T17:59:51Z)
• EventVLA: Event-Driven Visual Evidence Memory for Long-Horizon Vision-Language-Action Policies [68.812675280427]
  EventVLAは、疎視的エビデンスメモリの概念に基づいて開発されたエンドツーエンドフレームワークである。 KEMは、VLAの潜伏した埋め込みから将来の確率を直接予測し、スパースでタスククリティカルな視覚イベントを自律的にキャプチャして保存する。 対話型視覚的エビデンスで非マルコフ操作タスクを評価するための診断ベンチマークであるRoboTwin-MeMを提案する。
  論文  参考訳（メタデータ） (2026-06-18T11:11:37Z)
• FLARE: Diffusion for Hybrid Language Model [72.60770374799634]
  FLAREは、ハイブリッドアテンションな大規模言語モデルのための体系的な変換フレームワークである。 トークン平等なAR/拡散目標、ハードウェア対応カーネル、統一推論を組み合わせることで、ひとつのチェックポイントがARスタイルの検証された復号化と拡散スタイルの並列復号化の両方をサポートすることができる。 この結果から,実際のdLLMは復号化アルゴリズムだけでなく,データ品質や現在のブロック拡散目標のトレーニング非効率によって制限されていることが示唆された。
  論文  参考訳（メタデータ） (2026-06-01T06:58:15Z)
• Uni-MDTrack: Learning Decoupled Memory and Dynamic States for Parameter-Efficient Visual Tracking in All Modality [44.07279162081132]
  メモリ・アウェア圧縮プロンプト(MCP)モジュールと動的状態融合(DSF)モジュールの2つのコアコンポーネントからなるUni-MDTrackを提案する。 MCPは、豊富なメモリ機能をメモリ対応プロンプトトークンに効果的に圧縮し、バックボーン全体の入力と深く相互作用する。 DSFはまた、浅い層から深い層へと更新された動的状態機能を導入し、高い効率を保っている。
  論文  参考訳（メタデータ） (2026-03-15T15:56:41Z)
• Beyond Short-Horizon: VQ-Memory for Robust Long-Horizon Manipulation in Non-Markovian Simulation Benchmarks [96.60530830276281]
  RuleSafeは、スケーラブルなLLM支援シミュレーションフレームワーク上に構築された、新しいオペレーティングベンチマークである。 VQ-Memoryはベクトル量子化変分オートエンコーダを用いたコンパクトで構造化された時間表現である。
  論文  参考訳（メタデータ） (2026-03-10T11:13:54Z)
• Memo: Training Memory-Efficient Embodied Agents with Reinforcement Learning [53.72709564555407]
  Memoは、強化学習のためのトランスフォーマーベースのアーキテクチャとトレーニングのレシピである。 トレーニング中のモデルの入力と周期的な要約トークンをインターリーブすることで、メモリの生成と検索を組み込む。 グリッドワールドメタRLベンチマークとマルチオブジェクトナビゲーションタスクにおけるMemoの有効性を,フォトリアリスティック屋内環境で実証する。
  論文  参考訳（メタデータ） (2025-10-22T16:24:47Z)
• DAF: An Efficient End-to-End Dynamic Activation Framework for on-Device DNN Training [41.09085549544767]
  システムレベルの最適化を通じて、スケーラブルで効率的なデバイス上でのトレーニングを可能にする動的アクティベーションフレームワーク(DAF)を導入する。 DAFは、主要なシステムのボトルネックに対処することで、メモリと時間効率の動的量子化トレーニングを実現する。 組み込みプラットフォームとモバイルプラットフォームにわたるさまざまなディープラーニングモデルの評価によると、メモリ使用量の削減に22.9倍、スピードアップに32倍の3.2倍となる。
  論文  参考訳（メタデータ） (2025-07-09T08:59:30Z)
• Make It Efficient: Dynamic Sparse Attention for Autoregressive Image Generation [8.624395048491275]
  適応動的スパース注意(adaptive Dynamic Sparse Attention, ADSA)と呼ばれる新しい学習自由コンテキスト最適化手法を提案する。 ADSAは、局所的なテクスチャの整合性を維持するのに欠かせない歴史的トークンと、グローバルなセマンティック・コヒーレンスを確保するのに欠かせないトークンを特定し、効率的に注意を合理化する。 また、ADSAに適した動的KV-cache更新機構を導入し、推論中のGPUメモリ消費量を約50%削減する。
  論文  参考訳（メタデータ） (2025-06-23T01:27:06Z)
• Shifting AI Efficiency From Model-Centric to Data-Centric Compression [67.45087283924732]
  AI研究の焦点は、モデル中心の圧縮からデータ中心の圧縮へとシフトしている、と私たちは主張する。 データ中心圧縮は、モデルトレーニングや推論中に処理されたデータのボリュームを直接圧縮することで、AI効率を向上させる。 我々の研究は、AIの効率性に関する新たな視点を提供し、既存の取り組みを合成し、コンテキスト長の増大によって引き起こされる課題に対処するためにイノベーションを触媒することを目的としています。
  論文  参考訳（メタデータ） (2025-05-25T13:51:17Z)
• Dynamic-LLaVA: Efficient Multimodal Large Language Models via Dynamic Vision-language Context Sparsification [27.84464349480918]
  動的視覚言語コンテキストスペーシフィケーションフレームワークDynamic-LLaVAを提案する。 これは、プリフィルステージにおける視覚コンテキストの冗長性を動的に減少させる。 これはデコード中に生成された言語コンテキストのメモリと計算オーバーヘッドを減少させる。
  論文  参考訳（メタデータ） (2024-12-01T16:32:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。