論文の概要: Time-Frequency Geometric Cross-Attention for Chunked Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2609.09925v1
• Date: Wed, 09 Sep 2026 09:16:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.964942
• Title: Time-Frequency Geometric Cross-Attention for Chunked Vision-Language-Action Models
• Title（参考訳）: チャンクドビジョン・ランゲージ・アクションモデルのための時間周波数幾何学的クロスアテンション
• Abstract要約: ビジョンアクション(VLA)政策における2つの盲点の修復方法を示す。 プリトレーニング済みのVLAを微調整するために、ドロップインモジュールを使用します。 TFGCA が LIBERO を平均で1.5、OOD LIBERO-Plus を+6.3、RoboTwin ドメインのランダム化で+28.5、AgiBot A2 のタスクで+11.67 のタスクで全体の成功率を示す。
• 参考スコア（独自算出の注目度）: 10.591519354017803
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Modern vision-language-action (VLA) policies predict a whole chunk of actions: one to two seconds of coordinated motion emitted in a single forward pass. Yet an action chunk is essentially a short multivariate trajectory, but inside these models it is a sequence of generic per-timestep hidden tokens decoded by a linear head. This under-serves two motion structures. First, frequency: a chunk superimposes a smooth global trend and fine corrective motion across time scales, and a single token entangles them. Second, cross-phase geometry: motions of different phases (reach, contact, grasp adjustment, settling) unfold along very different, near-orthogonal directions in representation space, yet are tightly related for the task and arise across the time axis. Dot-product attention scores alignment by an inner product, so it favors aligned tokens and is least sensitive near orthogonality, leaving such relationships for the network to recover through a detour. We introduce Time-Frequency Geometric Cross-Attention (TFGCA), a drop-in module repairing both blind spots. TFGCA uses a per-dimension learnable stationary wavelet transform to decompose the action chunk into time-frequency tokens, and each time token retrieves information from them via a cross-attention that fuses the dot product (similarity) with the wedge-product magnitude (sensitive to near-orthogonality) through a learnable weight. A zero-initialized residual reproduces the base behavior at initialization, so it can be dropped onto a pretrained VLA and fine-tuned jointly. Relative to the same-source base, TFGCA improves in-distribution LIBERO by +1.5 on average, the OOD LIBERO-Plus by +6.3, the randomized average under RoboTwin domain randomization by +28.5, and the overall success rate on three real-robot AgiBot A2 tasks by +11.67 points, with larger gains out of distribution.
• Abstract（参考訳）: 現代の視覚-言語-アクション(VLA)ポリシーは、1つの前方通過で放射される1秒から2秒の協調運動を予測している。 しかし、アクションチャンクは本質的には短い多変量軌道であるが、これらのモデルの中では、線形ヘッドによってデコードされる一般的な時間ステップ毎の隠れトークンの列である。 この構造は2つの構造を持つ。 まず、周波数:チャンクは、時間スケールにわたってスムーズなグローバルトレンドと微妙な補正運動を重畳し、1つのトークンがそれらを絡み合わせる。 第二に、異相幾何学:異なる位相(リーチ、接触、グリップ調整、沈み込み)の運動は、表現空間において非常に異なる、ほぼ直交する方向に沿って展開するが、タスクに密接な関係を持ち、時間軸を越えて発生する。 Dot-product attention は内部積によるアライメントをスコアするので、整列トークンを好んでおり、直交に近い感度が低いため、ネットワークは方向転換によって回復する。 両盲点を修復するドロップインモジュールであるTFGCA(Time-Frequency Geometric Cross-Attention)を導入する。 TFGCAは1次元の学習可能な定常ウェーブレット変換を用いて、アクションチャンクを時間周波数のトークンに分解し、各タイムトークンは、ドット生成物(類似性)を学習可能な重みによってウェッジ生成量(ほぼ直交性に敏感)で融合させるクロスアテンションを介して情報を取得する。 ゼロ初期化残余は初期化時に基底挙動を再現するので、事前訓練されたVLAに落とし、微調整された共同で調整することができる。 TFGCAは、同じソースベースに対して、平均で流通中のLIBEROを+1.5、OOD LIBERO-Plusを+6.3、RoboTwinドメインのランダム化によるランダム化平均を+28.5、そして、3つの実ロボットAgiBot A2タスクの全体的な成功率を+11.67ポイント改善し、分布が拡大する。

関連論文リスト

• A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM [40.07171947823021]
  CoT(Chain-of-Thought)は、LLM(Large Language Models)の推論能力を改善するが、かなりの計算とコンテキストコストを発生させる。 A*-Thought-V2 は LLM ガイドフレームワークの幾何学的ダイナミクスであり,COT を隠れ状態軌道としてモデル化し,ハード削除を明示的かつ単純でインターリーブな潜在アーキテクチャに置き換える。
  論文  参考訳（メタデータ） (2026-09-07T17:56:20Z)
• The Quantum Shortcut: Complex Phase-State Dynamics Reduce the Optimization Steps of Sequence Models [0.0]
  シーケンスモデルは、位置をまたいで情報をルーティングするメカニズムであるバックボーンによって区別される。 本論文は、バックボーンに先立って、ほぼ全ての現行モデルで共有される選択を異にする。 量子論の数学から引き出された複素値の代替法について検討し、そこでは状態の位相によって情報を伝達する。
  論文  参考訳（メタデータ） (2026-08-07T15:12:36Z)
• TIE: Time Interval Encoding for Video Generation over Events [50.66585165263848]
  ディレクタースタイルのプロンプト、ロボットアクション予測、インタラクティブなビデオエージェントは、同時イベントに対する時間的根拠を要求する。 現代のビデオジェネレータは、ポイントワイドな位置エンコーディングを通して、タイムを離散的なポイントとして表現する。 Time Interval TIEは、プラグイン・アンド・プレイ・インターバル・アウェアの一般化である。
  論文  参考訳（メタデータ） (2026-05-11T13:23:14Z)
• MoCapAnything V2: End-to-End Motion Capture for Arbitrary Skeletons [56.68975315643491]
  本稿では,ビデオ・ツー・ローテーションとビデオ・ツー・ローテーションを共同で学習し,最適化する,最初のエンドツーエンドフレームワークを提案する。 本手法は, メッシュベースパイプラインの20倍の速度で, 回転誤差を17度から10度, 見えない骨格では6.54度に低減する。
  論文  参考訳（メタデータ） (2026-04-30T17:16:38Z)
• CAWN: Continuous Acoustic Wave Networks for Autoregressive Language Modeling [46.16066322190728]
  完全連続配列混合アーキテクチャであるCAWN(Continuous Acoustic Wave Network)を導入する。 CAWNは離散行列ベースの注意を代わりに、多面体複素ドメインファサーに隠された状態を計画している。 超長コンテキスト上での信号劣化を防止するため,デュアルゲート選択位相共振機構を導入する。
  論文  参考訳（メタデータ） (2026-04-05T20:13:22Z)
• OmniSAT: Compact Action Token, Faster Auto Regression [70.70037017501357]
  我々は、コンパクトで転送可能なアクション表現を学ぶOmni Swift Action Tokenizerを紹介する。 その結果、離散トークン化はトレーニングシーケンスを6.8$times$に短縮し、ターゲットエントロピーを低下させる。
  論文  参考訳（メタデータ） (2025-10-08T03:55:24Z)
• Leveraging 2D Information for Long-term Time Series Forecasting with Vanilla Transformers [55.475142494272724]
  時系列予測は、様々な領域における複雑な力学の理解と予測に不可欠である。 GridTSTは、革新的な多方向性の注意を用いた2つのアプローチの利点を組み合わせたモデルである。 このモデルは、さまざまな現実世界のデータセットに対して、常に最先端のパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2024-05-22T16:41:21Z)
• Coordinate Transformer: Achieving Single-stage Multi-person Mesh Recovery from Videos [91.44553585470688]
  ビデオから複数人の3Dメッシュを回収することは、バーチャルリアリティーや理学療法などにおけるグループ行動の自動認識に向けた重要な第一歩である。 本稿では,複数人物の時空間関係を直接モデル化し,同時にエンドツーエンドでマルチ・メッシュ・リカバリを行うコーディネート・トランスフォーマーを提案する。 3DPWデータセットの実験では、CoordFormerが最先端の精度を大幅に向上し、MPJPE、PAMPJPE、PVEの計測値でそれぞれ4.2%、8.8%、そして4.7%を上回った。
  論文  参考訳（メタデータ） (2023-08-20T18:23:07Z)
• Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
  STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。 市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。 結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
  論文  参考訳（メタデータ） (2023-08-08T19:38:15Z)
• Low-Rank Autoregressive Tensor Completion for Multivariate Time Series Forecasting [15.927264813606637]
  センサーネットワークから収集された時系列は、しばしば大規模なものであり、かなりの腐敗と欠落した値で不完全である。 多変量時系列データをモデル化するための低ランク自己回帰テンソル補完(LATC)フレームワークを提案する。 実世界の3つのデータセットに関する数値実験により,LATCにおけるグローバル・ローカル・トレンドの統合の優位性を示した。
  論文  参考訳（メタデータ） (2020-06-18T11:31:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。