論文の概要: Residual Streams Read, Recurrent States Remember: The Global Workspace in Mamba Models

• arxiv url: http://arxiv.org/abs/2609.32102v1
• Date: Sat, 26 Sep 2026 00:18:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 03:10:57.18235
• Title: Residual Streams Read, Recurrent States Remember: The Global Workspace in Mamba Models
• Title（参考訳）: 残留ストリームの読み取りとリカレントステート:マンバモデルにおけるグローバルワークスペース
• Abstract要約: ヤコビアンレンズをマンバ語モデルの残差ストリームと再発状態に適合させる。 ジョイント残留状態読み出しは、残留レンズ上の既知の中間概念の回復を改善する。 また,座標交換よりも目標トップ5の成功率を向上させるシグネチャガードステアリングを提案する。
• 参考スコア（独自算出の注目度）: 10.230437172157474
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Can the global-workspace account of transformer representations extend to state-space language models? We fit Jacobian lenses to the residual streams and recurrent states of Mamba-1, Mamba-2 and Mamba-3, using the original 1000-prompt recipe. Joint residual--state readouts improve recovery of known intermediate concepts over the residual lens on at least five of six task families in every tested Mamba checkpoint. On Mamba-2, state alone exceeds residual and logit lenses on all six families; a normalised joint readout improves on both components on five. Temporal maps and word-list experiments show earlier content remaining state-readable as residual visibility changes. We also propose sign-guarded steering, which improves target top-five success over coordinate exchange on matched verbal-report trials in five models. Recurrent state alone supports this verbal access. These gains do not extend consistently to relational answers: guarded edits often output the edited concept itself, and Mamba-3's joint edits can disrupt successful state-only redirection. Recurrent state thus provides a complementary carrier of workspace content, whose recovery, persistence and causal uses require separate measurements.
• Abstract（参考訳）: トランスフォーマー表現のグローバルワークスペースは、状態空間言語モデルに拡張できるのか? ジャコビアンレンズを元の1000プロンプトのレシピを用いて,Mamba-1,Mamba-2,Mamba-3の残留ストリームと繰り返し状態に適合させる。 共同残像読み出しは、テストされたマンバチェックポイント毎に少なくとも6つのタスクファミリのうち5つの残像レンズ上の既知の中間概念の回復を改善する。 Mamba-2では、状態のみが6つのファミリーの残光レンズとロジットレンズを上回り、正常化関節読み出しは5つのコンポーネントで改善される。 時間地図と単語リストの実験は、残余の可視性の変化として、初期コンテンツが状態可読であることを示している。 また, 5つのモデルにおいて, 一致した言語報告試行において, 座標交換よりも目標トップ5の成功率を向上させる手動ステアリングを提案する。 リカレントステートは、この言語アクセスをサポートする。 保護された編集は、しばしば編集された概念を出力し、Mamba-3の共同編集は、成功した状態のみのリダイレクトを妨害する。 したがって、リカレントステートはワークスペースコンテンツの補完的なキャリアを提供する。

関連論文リスト

• MNIST-PRO: MNIST is Back as a Partially Observable World for AI Agents [74.83535434786145]
  MNIST-PRO (MNIST-PRO) は、MNISTの桁認識を、ルックバック制約付きシーケンシャルな視線に基づく検索タスクに変換することで、エージェント認識を分離するベンチマークである。 生の視覚履歴、テキスト状態、構造化されたメートル法グリッドマップ、統合された視覚キャンバスを含む4つの記憶表現の10つのマルチモーダルモデルを評価する。
  論文  参考訳（メタデータ） (2026-08-31T16:05:39Z)
• Spatial-Aware Reduction Framework: Towards Efficient and Faithful Visual State Space Models [71.59431204970339]
  STORMは空間対応のトークン還元フレームワークである。 空間単位上の構造演算に還元を再構成する。 様々なビジョンのMambaバックボーンにまたがって最先端のプルーニング精度を実現する。
  論文  参考訳（メタデータ） (2026-06-18T08:31:11Z)
• SO-Mamba: State-Ownership Mamba for Unrolled MRI Reconstruction [5.184343938084102]
  SO-Mambaは国家所有のMambaレギュレータであり、各Mambaステージ内の復元証拠を、常駐、状態インターフェースアクセス、および非状態出力補正に割り当てる。 実験の結果,SO-Mamba は CNN-, Transformer-, Mamba ベースのベースラインを競合計算効率で一貫的に改善することがわかった。
  論文  参考訳（メタデータ） (2026-05-21T06:00:35Z)
• RNN as Linear Transformer: A Closer Investigation into Representational Potentials of Visual Mamba Models [8.049668552887505]
  Mambaは最近、視覚タスクの効果的なバックボーンとして注目を集めている。 マンバの表現性を調べるために3つの主要な貢献をする。 我々のモデルは、ImageNet上で78.5%の線形探索精度を達成し、その強い性能を裏付ける。
  論文  参考訳（メタデータ） (2025-11-23T09:57:27Z)
• Understanding Input Selectivity in Mamba: Impact on Approximation Power, Memorization, and Associative Recall Capacity [5.116777508056307]
  State-Space Models (SSM) は Transformer に代わる有望な代替手段として最近登場した。 MambaはSSM層に入力選択性を導入し(S6)、畳み込みとゲーティングをブロック定義に組み込む。 我々は,マンバにおける入力選択性の役割を軽視し,機能近似能力,長期記憶,連想記憶能力に与える影響を考察した。
  論文  参考訳（メタデータ） (2025-06-13T15:38:41Z)
• Mamba-CL: Optimizing Selective State Space Model in Null Space for Continual Learning [54.19222454702032]
  継続的学習は、AIモデルに時間とともに一連のタスクを学習する能力を持たせることを目的としている。 ステートスペースモデル(SSM)はコンピュータビジョンにおいて顕著な成功を収めた。 大規模マンバ基礎モデルのコアSSMを連続的に微調整するフレームワークであるMamba-CLを紹介する。
  論文  参考訳（メタデータ） (2024-11-23T06:36:16Z)
• Mimetic Initialization Helps State Space Models Learn to Recall [81.43140985343358]
  最近の研究で、Mambaのような状態空間モデルは、リコールベースのタスクではTransformerよりもかなり悪いことが示されている。 本研究は, 基本容量制約よりもトレーニングの難しさが原因で, コピー・リコール性能が低下する可能性について検討する。
  論文  参考訳（メタデータ） (2024-10-14T23:17:46Z)
• An Investigation of Incorporating Mamba for Speech Enhancement [64.59903328820624]
  本研究の目的は、最近提案された、注意のないスケーラブルな状態空間モデル(SSM)であるMambaを用いて、音声強調(SE)タスクを実現することである。 私たちはMambaを使って,基本,先進,因果,非因果といった,さまざまな構成のレグレッションベースのSEモデル(SEMamba)をデプロイしています。 SEMambaはVoiceBank-DEMANDデータセットで3.55のPESQを獲得し、高度な非因果構成を持つ。
  論文  参考訳（メタデータ） (2024-05-10T16:18:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。