論文の概要: State Propagation Also Satisfies: A Complex-Valued State-Space Model for Deterministic State Tracking

• arxiv url: http://arxiv.org/abs/2608.03425v2
• Date: Sat, 08 Aug 2026 05:50:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 13:55:18.478925
• Title: State Propagation Also Satisfies: A Complex-Valued State-Space Model for Deterministic State Tracking
• Title（参考訳）: 状態伝搬も満足する:決定論的状態追跡のための複素値状態空間モデル
• Abstract要約: トランスフォーマーベースのアーキテクチャは、主に注意機構の表現力によって、シーケンスモデリングを支配している。 本稿では,textbfstateの伝播だけで十分であることを示す。 中間ステップで出力プロジェクションなしで層全体に隠された状態を伝播する最小限のリカレントアーキテクチャであるtextbf State Propagator (CSP) を提案する。
• 参考スコア（独自算出の注目度）: 8.15785119761963
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer-based architectures have dominated sequence modeling, largely due to the expressive power of attention mechanisms. However, for a class of deterministic state tracking tasks---such as parity checking, modular counting, and parenthesis matching---attention may be overkill. In this paper, we show that \textbf{state propagation alone is sufficient}. We propose the \textbf{Complex State Propagator (CSP)}, a minimalistic recurrent architecture that \textbf{only propagates hidden states} across layers without output projections at intermediate steps. The state is represented as a complex-valued vector, updated via input-dependent rotations in the complex domain. To enable deep propagation without gradient vanishing or degradation, we introduce a \textbf{block-level skip connection} alongside element-wise complex normalization and SiLU activation at sequence boundaries. Applied with Focal Loss, CSP achieves \textbf{100\% accuracy} with perfect F1 scores across canonical tasks.
• Abstract（参考訳）: トランスフォーマーベースのアーキテクチャは、主に注意機構の表現力によって、シーケンスモデリングを支配している。 しかし、決定論的状態追跡タスクのクラス -- パリティチェック、モジュールカウント、括弧マッチングなど -- では、注意が過大評価される可能性がある。 本稿では,textbf{state propagation だけで十分であることを示す。 本稿では,中間段階における出力プロジェクションを伴わない層をまたいだ隠れ状態の伝播を行う最小限の繰り返しアーキテクチャである,‘textbf{complex State Propagator(CSP)’を提案する。 状態は複素値ベクトルとして表現され、複素領域の入力依存回転によって更新される。 勾配の消失や劣化を伴わずに深部伝播を可能にするため、要素ワイド複素正規化とシーケンス境界でのSiLUアクティベーションを併用した「textbf{block-level skip connection」を導入する。 Focal Lossを応用すると、CSPは標準タスク間で完全なF1スコアで \textbf{100\% の精度を達成する。

関連論文リスト

• A Compositional Theory of Causally Masked Transformers [50.88598486616582]
  モデルが実装した力学から直接表現性を導出する形式化を開発する。 各アテンションヘッドは、レイヤ内で独立して自身の状態を更新する。 修正されたソフトアテンションは、不可逆なチェックリストのような状態をサポートする。
  論文  参考訳（メタデータ） (2026-07-29T14:47:19Z)
• OmniContact: Chaining Meta-Skills via Contact Flow for Generalizable Humanoid Loco-Manipulation [66.98820543497212]
  鍵体軌道と時系列二値接触信号からなるコンパクトな表現であるtextbfcontact Flow (CF) を中心にした階層型フレームワークを提案する。 また,Humanoid loco-manipulationのためのMOCapベースのHOIコーパスであるOmniContactデータセットを収集した。 これにより、堅牢な実行、自律的な障害回復、長期タスクのための柔軟なメタスキルの構成が可能になる。
  論文  参考訳（メタデータ） (2026-06-24T16:28:23Z)
• Trajectory Forcing: Structure-First Generation with Controllable Semantic Trajectories [62.54876287800644]
  拡散およびフローベース生成モデルは強い画像を生成するが、制御性はエンドポイント中心のままである。 最近の手法では、生成順序とプロセスの分解を利用してサンプルの品質を向上し始めているが、それでも中間状態は相互作用のオブジェクトではなく内部計算として扱われている。 本稿では、生成経路を明示的、意味的、編集可能にするトラジェクトリ中心のフレームワークであるトラジェクトリ・フォース(TF)を提案する。
  論文  参考訳（メタデータ） (2026-06-21T14:25:50Z)
• Interdomain Attention: Beyond Token-Level Key-Value Memory [15.708551010135407]
  本稿では,カーネルメソッドを通じてSSMをアテンションモジュールに統合するインタードメインアテンションを提案する。 注意カーネルは有限特徴写像によって近似され、結果として得られる主要な特徴と値は、基底関数の共有集合に投影される。 それぞれのクエリは、自身の特徴マップを通じて圧縮された係数に対応し、固定サイズの状態上でクエリ条件付き注意を回復する。
  論文  参考訳（メタデータ） (2026-05-23T01:18:00Z)
• Circuit Complexity of Hierarchical Knowledge Tracing and Implications for Log-Precision Transformers [2.688207424884465]
  経験的に、再帰不変木で訓練されたトランスフォーマーエンコーダは、置換不変ショートカットに収束する。 これらの知見は, 階層構造に基づく事前知識追跡のための構造認識的目的と反復的メカニズムを動機付けている。
  論文  参考訳（メタデータ） (2026-03-25T01:10:42Z)
• Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
  マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。 分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。 本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
  論文  参考訳（メタデータ） (2026-02-06T16:39:10Z)
• Spectral-Window Hybrid (SWH) [0.0]
  極端な文脈へのシーケンスモデリングのスケーリングには、計算効率と表現表現率のバランスが必要である。 シーケンスモデリングを2つのテキスト並列ストリームに分離するアーキテクチャである textbfSpectral-Window Hybrid (SWH) を提案する。 SWHは、拡張シーケンスに対する効率的な線形スケーリングを実現しつつ、短いコンテキストで標準変換器のパープレキシティと一致することを示した。
  論文  参考訳（メタデータ） (2026-01-04T00:31:36Z)
• Dynamic Subspace Composition: Efficient Adaptation via Contractive Basis Expansion [0.0]
  エキスパートの混合(MoE)モデルはキャパシティをスケールするが、しばしば表現の崩壊と勾配の不安定性に悩まされる。 本研究では,共有ベースバンクの状態依存的,スパース展開を通じてコンテキスト依存重みを近似するフレームワークである動的部分空間合成(DSC)を提案する。
  論文  参考訳（メタデータ） (2025-12-29T13:11:01Z)
• When Bayesian Tensor Completion Meets Multioutput Gaussian Processes: Functional Universality and Rank Learning [53.17227599983122]
  関数テンソル分解は実数値インデックスを用いて多次元データを解析することができる。 そこで本研究では,Right-Revealing Functional Low-rank tensor completion (RR-F)法を提案する。 連続多次元信号に対するモデルの普遍近似特性を確立する。
  論文  参考訳（メタデータ） (2025-12-25T03:15:52Z)
• Correlation-Aware Feature Attribution Based Explainable AI [4.457502798302293]
  emphExCIRは、軽量転送プロトコルを備えた相関対応属性スコアである。 textscBlockCIRは、コリニアクラスタの二重カウントを緩和する。 emphscalable説明責任は、現実のデプロイメントにおいて、emphscalable説明責任を計算的に効率的、emphscalent、emphscalable説明責任を提供する。
  論文  参考訳（メタデータ） (2025-11-20T15:51:00Z)
• A general optimization framework for mapping local transition-state networks [0.0]
  局所遷移状態ネットワークは、観測された振る舞いを説明する障壁アーキテクチャを明らかにする。 本稿では,多目的エクスプローラーと二層最小モードカーネルを結合することにより,局所的カバレッジを体系的に拡張する汎用最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-30T13:54:10Z)
• Spatial Semantic Recurrent Mining for Referring Image Segmentation [63.34997546393106]
  高品質なクロスモーダリティ融合を実現するために,Stextsuperscript2RMを提案する。 これは、言語特徴の分散、空間的意味的再帰的分離、パーセマンティック・セマンティック・バランシングという三部作の作業戦略に従う。 提案手法は他の最先端アルゴリズムに対して好適に機能する。
  論文  参考訳（メタデータ） (2024-05-15T00:17:48Z)
• Coupling Global Context and Local Contents for Weakly-Supervised Semantic Segmentation [54.419401869108846]
  Weakly Supervised Semantic (WSSS)モデルを提案する。 グローバルなオブジェクトコンテキストを異なる粒度空間でキャプチャするために,フレキシブルなコンテキストアグリゲーションモジュールを提案する。 局所的な細粒度を集約するために、ボトムアップパラメータ学習可能な方法で意味的に一貫した特徴融合モジュールを提案する。
  論文  参考訳（メタデータ） (2023-04-18T15:29:23Z)
• Embed to Control Partially Observed Systems: Representation Learning with Provable Sample Efficiency [105.17746223041954]
  部分的に観察されたマルコフ決定過程(POMDP)における強化学習は2つの課題に直面している。 しばしば、未来を予測するのに完全な歴史を要し、地平線と指数関数的にスケールするサンプルの複雑さを誘導する。 本稿では,2段階の表現を最適化しながら学習するETC(Embed to Control)という強化学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-05-26T16:34:46Z)
• Combiner: Full Attention Transformer with Sparse Computation Cost [142.10203598824964]
  計算の複雑さを低く保ちつつ、各注目ヘッドにフルアテンション機能を提供するコンバインダを提案する。 既存のスパース変圧器で使用されるスパースアテンションパターンのほとんどは、そのような分解設計をフルアテンションに刺激することができることを示す。 自己回帰的タスクと双方向シーケンスタスクの両方に関する実験的評価は、このアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2021-07-12T22:43:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。