論文の概要: Non-Commutative State Tracking with Input-Dependent Low-Rank Updates in Mamba-3

• arxiv url: http://arxiv.org/abs/2609.28273v2
• Date: Sat, 26 Sep 2026 13:15:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.736367
• Title: Non-Commutative State Tracking with Input-Dependent Low-Rank Updates in Mamba-3
• Title（参考訳）: Mamba-3における入力依存型低ランク更新による非可換状態追跡
• Abstract要約: 我々は、非可換状態追跡をサポートするために、入力依存の低ランク反射項でMamba-3の対角遷移を拡張する。 ランクワン更新は入力依存方向に沿って状態座標を結合し、単一のMamba-3ブロック内で非対角状態遷移を可能にする。
• 参考スコア（独自算出の注目度）: 0.5156484100374058
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: State tracking from sequential observations can require both retaining information and updating it by composing observed operations. We extend Mamba-3's diagonal transition with an input-dependent low-rank reflection term to support noncommutative state tracking, in which the order of operations matters. The rank-one update couples state coordinates along an input-dependent direction, enabling non-diagonal state transitions within a single Mamba-3 block. The extension preserves Mamba-3's exponential-trapezoidal discretization, rotary embeddings (RoPE), and readout. For training, we adapt chunkwise computation to parallelize the proposed recurrence within each chunk. Experiments cover group word problems with discrete inputs and a shell game with continuous observations, in which a policy is trained by behavioral cloning. Among the models selected for their strong performance under fixed timing, the proposed model maintains higher tracking success on longer swap sequences in the shell game with continuous observations and timing jitter. These experiments show that the proposed method achieves high accuracy on the evaluated non-commutative tracking tasks, improving on standard Mamba-3. The extension thus offers a Mamba-3-based approach to non-commutative state tracking.
• Abstract（参考訳）: シーケンシャルな観測からの状態追跡を行うには、情報を保持し、観察された操作を構成することによって更新する必要がある。 我々は,操作順序が重要な非可換状態追跡をサポートするために,入力依存の低ランク反射項を用いて,Mamba-3の対角遷移を拡張した。 ランクワン更新は入力依存方向に沿って状態座標を結合し、単一のMamba-3ブロック内で非対角状態遷移を可能にする。 この拡張は、Mamba-3の指数トラペゾイドの離散化、回転埋め込み(RoPE)、読み出しを保存している。 トレーニングでは,各チャンク内で提案された繰り返しを並列化するためにチャンクワイズ計算を適用する。 実験では、離散的な入力を伴うグループワード問題と、行動クローンによってポリシーが訓練される連続的な観察を伴うシェルゲームをカバーする。 一定のタイミング下での強い性能で選択されたモデルのうち、提案モデルは、連続的な観測とタイミングジッタを持つシェルゲームにおける長いスワップシーケンスにおいて、より高いトラッキング成功を維持している。 これらの実験により,提案手法は評価された非可換性追跡タスクに対して高い精度を達成し,標準のMamba-3を改善した。 この拡張は、非可換状態追跡に対するMamba-3ベースのアプローチを提供する。

関連論文リスト

• MambaADv2: Evolving Duality-enhanced State Space Model for Unsupervised Anomaly Detection [108.36437360254605]
  本稿では,マルチクラス非教師付き異常検出に適したフレームワークであるMambaADv2を提案する。 MambaADv2は、事前訓練されたエンコーダと、複数のスケールにわたるDuality-enhanced State Space (DSS)モジュールを備えたMambaインスパイアされたデコーダで構成される。 HSS(Hybrid State Space)ブロックの構造は、SSDベースのMambaラインに従って調整され、Mamba3スタイルの位置認識状態空間モデリングが組み込まれている。
  論文  参考訳（メタデータ） (2026-06-22T10:14:06Z)
• Mamba-3: Improved Sequence Modeling using State Space Principles [74.41028882099846]
  線形モデルの状態空間モデル(SSM)の視点に触発された3つの中核的方法論的改善を紹介する。 アーキテクチャの改良とともに、Mamba-3モデルは、検索、状態追跡、下流言語モデリングタスク間で大きな進歩を遂げます。
  論文  参考訳（メタデータ） (2026-03-16T17:30:08Z)
• Spectral Informed Mamba for Robust Point Cloud Processing [17.74824534094739]
  本稿では,ポイントクラウドデータにMambaとMasked Autoencoderネットワークを利用する新しい手法を提案する。 複雑なクラウド構造を処理する上で,Mambaの能力を高めるために,3つの重要なコントリビューションを提案する。
  論文  参考訳（メタデータ） (2025-03-06T20:32:59Z)
• Continual Low-Rank Scaled Dot-product Attention [67.11704350478475]
  我々は,連続的推論に適したNystr"om近似に基づくスケールド・プロダクツ・アテンションの新しい定式化を導入する。 オンライン音声分類およびオンライン行動検出タスクの実験において、提案した連続的スケールド・プロダクト・アテンションは、最大3桁の操作数を削減できる。
  論文  参考訳（メタデータ） (2024-12-04T11:05:01Z)
• Sequential Order-Robust Mamba for Time Series Forecasting [5.265578815577529]
  MambaはTransformersに代わる有望な選択肢として登場し、シーケンシャルデータの処理において、ほぼ直線的な複雑さを提供する。 本稿では,データから生成された2つの埋め込みベクトルと逆チャネル順序との差を最小限に抑えるため,正規化戦略を取り入れたTS予測手法であるSOR-Mambaを提案する。 また,CDを捕捉する能力を高めるために,データ空間から潜在空間までのチャネル間の相関関係の保存を目的とした事前学習タスクであるチャネル相関モデリング(CCM)を導入する。
  論文  参考訳（メタデータ） (2024-10-30T18:05:22Z)
• SIGMA: Selective Gated Mamba for Sequential Recommendation [56.85338055215429]
  最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。 SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。 以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
  論文  参考訳（メタデータ） (2024-08-21T09:12:59Z)
• Trajectory Forecasting through Low-Rank Adaptation of Discrete Latent Codes [36.12653178844828]
  トラジェクトリ予測は、一連のエージェントの将来の動きを予測できるため、ビデオ監視分析に不可欠である。 本稿では,離散潜在空間を用いたベクトル量子変分オートエンコーダ(VQ-VAEs)を導入し,後方崩壊問題に対処する。 このような2段階のフレームワークは、インスタンスレベルの離散化によって強化され、正確で多様な予測につながることを示す。
  論文  参考訳（メタデータ） (2024-05-31T10:13:17Z)
• Unsupervised Learning of Accurate Siamese Tracking [68.58171095173056]
  分類枝と回帰枝の両方で時間対応を学習できる新しい教師なし追跡フレームワークを提案する。 トラッカーは、トラッカーネットやLaSOTのような大規模データセット上で、教師なしの手法と同等の性能を発揮する。
  論文  参考訳（メタデータ） (2022-04-04T13:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。