論文の概要: LS-AR: Future-Predictive Latent Steering in Autoregressive LLMs

• arxiv url: http://arxiv.org/abs/2610.03093v1
• Date: Fri, 02 Oct 2026 10:13:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.321643
• Title: LS-AR: Future-Predictive Latent Steering in Autoregressive LLMs
• Title（参考訳）: LS-AR: 自己回帰型LLMにおける将来予測型遅延ステアリング
• Abstract要約: 本稿では,FiLMコンディショニングによる離散トークンデコーディングから連続目標ステアリングを分離するデュアルチャネルアーキテクチャであるLatent-Steered Autoregressive (LS-AR)を紹介する。 LS-AR(Dynamic)は、パラメータマッチングベースラインが崩壊(0%)するターゲットリコールを100%達成し、スループットを35%向上し、ピークVRAMを52.8%削減する。
• 参考スコア（独自算出の注目度）: 7.222627017959652
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Standard autoregressive (AR) models process high-level task instructions, state history, and transient tokens within a single shared sequence of tokens. Consequently, they lack the architectural mechanisms needed to isolate macro-objectives from context noise. To overcome this single-channel limitation, we introduce Latent-Steered Autoregressive (LS-AR), a dual-channel architecture that decouples continuous goal steering from discrete token decoding via FiLM conditioning. We evaluate a Static Goal Encoder (P_0) for persistent macro-objective retention across long rollouts and a Dynamic State Tracker (P_t) for recurrent latent updates during generation. On long-horizon retrieval past context limits (H=1024, W=500), LS-AR (Static) achieves 100% target recall where parameter-matched baselines collapse (0%), while increasing throughput by ~35% and cutting peak VRAM by 52.8%. In Blocksworld planning under forced perturbations (k=1), LS-AR (Dynamic) sustains an 89.0% completion rate vs. 71.0% for the baseline, though zero-shot entity scaling (N -> N+1) exposes single-vector capacity limits (0%). Finally, dual-channel authority analysis shows that text goal dropout establishes latent-dominant control, offering structural defence against text prompt injection while introducing a latent vector attack surface.
• Abstract（参考訳）: 標準自己回帰(AR)モデルは、トークンの単一の共有シーケンス内で、ハイレベルなタスク命令、状態履歴、一時的なトークンを処理する。 その結果、コンテキストノイズからマクロオブジェクトを分離するために必要なアーキテクチャメカニズムが欠如している。 この単一チャネル制限を克服するために,FiLMコンディショニングによる離散トークンデコーディングから連続目標ステアリングを分離するデュアルチャネルアーキテクチャであるLatent-Steered Autoregressive (LS-AR)を導入する。 本研究では,長期にわたるマクロオブジェクト保持を継続するための静的ゴールエンコーダ(P_0)と,世代間更新を繰り返す動的状態追跡器(P_t)を評価する。 H=1024, W=500の長期検索では、LS-AR(Static)はパラメータマッチングベースラインが崩壊する(0%)100%のターゲットリコールを実現し、スループットは35%向上し、ピークVRAMは52.8%向上した。 強制摂動(k=1)下のBlocksworldのプランニングでは、LS-AR(Dynamic)は89.0%の完成率とベースラインの71.0%を維持できるが、ゼロショットエンティティスケーリング(N ->N+1)は単一ベクトル容量制限(0%)を露呈する。 最後に、デュアルチャネルオーソリティ分析により、テキストゴールドロップアウトが遅延優先制御を確立し、遅延ベクトル攻撃面を導入しながら、テキストプロンプトインジェクションに対する構造的防御を提供することを示す。

関連論文リスト

• Modality-Decoupled Federated Learning for Privacy-Preserving Embodied Intelligence in 6G [90.42669277637026]
  第6世代(6G)無線ネットワークは、大規模なインボディードインテリジェンスのための重要な基盤を提供すると期待されている。 本稿では、6Gネットワークにおけるプライバシー保護型インテリジェンスのためのモダリティ分離FLフレームワークであるFedMVLAを提案する。
  論文  参考訳（メタデータ） (2026-09-09T01:36:44Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• Advancing Omnimodal Embodied Agents from Isolated Skills to Everyday Physical Autonomy [79.09714980186278]
  非構造化環境で永続的なエンボディエージェントを構築するには、異種ツールの統一的なオーケストレーションが必要である。 我々は,多モーダルなセマンティックプランナを統合したフレームワークであるOmniActを紹介した。 すべての複雑性レベルにわたって、エンドツーエンドの成功において一貫した改善が達成されます。
  論文  参考訳（メタデータ） (2026-06-25T16:36:35Z)
• CAWN: Continuous Acoustic Wave Networks for Autoregressive Language Modeling [46.16066322190728]
  完全連続配列混合アーキテクチャであるCAWN(Continuous Acoustic Wave Network)を導入する。 CAWNは離散行列ベースの注意を代わりに、多面体複素ドメインファサーに隠された状態を計画している。 超長コンテキスト上での信号劣化を防止するため,デュアルゲート選択位相共振機構を導入する。
  論文  参考訳（メタデータ） (2026-04-05T20:13:22Z)
• From Passive Observer to Active Critic: Reinforcement Learning Elicits Process Reasoning for Robotic Manipulation [32.41847293364159]
  PRIMO R1はビデオMLLMをアクティブな「批判」に変換する7Bフレームワーク 我々は、結果に基づく強化学習を活用して、進捗推定のための明示的な連鎖生成をインセンティブ化する。 67.0%の精度でRoboFailベンチマークの最先端のパフォーマンスを確立し、OpenAI o1のようなクローズドソースモデルを6.2%上回った。
  論文  参考訳（メタデータ） (2026-03-16T17:53:28Z)
• Alternating Gradient Flow Utility: A Unified Metric for Structural Pruning and Dynamic Routing in Deep Networks [52.153950303594684]
  交互勾配流(Alternating Gradient Flow, AGF)に着想を得た非結合型運動パラダイムを提案する。 AGFはネットワークの構造的「運動ユーティリティ」を正確にキャプチャする 我々は、AGFに誘導されるオフライン構造探索を、ゼロコストの物理プリミティブを介してオンライン実行から切り離すハイブリッドルーティングフレームワークを設計する。
  論文  参考訳（メタデータ） (2026-03-12T18:19:21Z)
• Beyond Short-Horizon: VQ-Memory for Robust Long-Horizon Manipulation in Non-Markovian Simulation Benchmarks [96.60530830276281]
  RuleSafeは、スケーラブルなLLM支援シミュレーションフレームワーク上に構築された、新しいオペレーティングベンチマークである。 VQ-Memoryはベクトル量子化変分オートエンコーダを用いたコンパクトで構造化された時間表現である。
  論文  参考訳（メタデータ） (2026-03-10T11:13:54Z)
• StreamVLA: Breaking the Reason-Act Cycle via Completion-State Gating [8.031311182554981]
  長距離ロボット操作は、高レベルの計画と低レベルの制御のギャップを埋める必要がある。 現在のVision-Language-Actionモデルは、しばしばこれらのプロセスを絡めて、各ステップで冗長なマルチモーダル推論を実行する。 本稿では、テキストタスクの分解、視覚目標の想像力、連続的なアクション生成を単一のパラメータ効率のバックボーン内で統合するデュアルシステムアーキテクチャStreamVLAを提案する。
  論文  参考訳（メタデータ） (2026-02-01T08:51:17Z)
• QCL-IDS: Quantum Continual Learning for Intrusion Detection with Fidelity-Anchored Stability and Generative Replay [7.4107299737728445]
  継続的な侵入検知は、厳密な運用上の制約の下でレガシー検出能力を保ちながら、新たに出現する攻撃段階を吸収しなければならない。 NISQパイプラインの安定性とプライバシを優先したリハーサルを共設計する量子中心型連続学習フレームワークであるQCL-IDSを提案する。
  論文  参考訳（メタデータ） (2026-01-29T06:27:05Z)
• Stabilizing autoregressive forecasts in chaotic systems via multi-rate latent recurrence [0.24554686192257422]
  階層型暗黙予測器であるMSR-HINEを導入し、異なる時間スケールで動作させるマルチレート繰り返しモジュールを用いて、マルチスケールの潜伏先行を増大させる。 2つの標準ベンチマークで、MSR-HINEはU-Netの自己回帰ベースラインよりも大幅に向上する。
  論文  参考訳（メタデータ） (2026-01-20T21:16:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。