論文の概要: Arcee: Differentiable Recurrent State Chain for Generative Vision Modeling with Mamba SSMs
- arxiv url: http://arxiv.org/abs/2511.11243v2
- Date: Mon, 17 Nov 2025 18:00:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-18 18:52:09.572067
- Title: Arcee: Differentiable Recurrent State Chain for Generative Vision Modeling with Mamba SSMs
- Title(参考訳): Arcee: Mamba SSMを用いた生成的ビジョンモデリングのための微分型リカレントステートチェーン
- Abstract要約: 状態空間モデル(SSM)は、長文シーケンスモデリングにますます採用されている。
最近の"Mamba-for-vision"変種は、非順序信号に対する厳密な因果関係を緩和するために、主に複数のスキャン順序を探索している。
Arceeはブロック間のリカレントステートチェーンであり、各ブロックの端末状態空間表現を再利用する。
- 参考スコア(独自算出の注目度): 3.5590835022089813
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State-space models (SSMs), Mamba in particular, are increasingly adopted for long-context sequence modeling, providing linear-time aggregation via an input-dependent, causal selective-scan operation. Along this line, recent "Mamba-for-vision" variants largely explore multiple scan orders to relax strict causality for non-sequential signals (e.g., images). Rather than preserving cross-block memory, the conventional formulation of the selective-scan operation in Mamba reinitializes each block's state-space dynamics from zero, discarding the terminal state-space representation (SSR) from the previous block. Arcee, a cross-block recurrent state chain, reuses each block's terminal state-space representation as the initial condition for the next block. Handoff across blocks is constructed as a differentiable boundary map whose Jacobian enables end-to-end gradient flow across terminal boundaries. Key to practicality, Arcee is compatible with all prior "vision-mamba" variants, parameter-free, and incurs constant, negligible cost. As a modeling perspective, we view terminal SSR as a mild directional prior induced by a causal pass over the input, rather than an estimator of the non-sequential signal itself. To quantify the impact, for unconditional generation on CelebA-HQ (256$\times$256) with Flow Matching, Arcee reduces FID$\downarrow$ from $82.81$ to $15.33$ ($5.4\times$ lower) on a single scan-order Zigzag Mamba baseline. Efficient CUDA kernels and training code will be released to support rigorous and reproducible research.
- Abstract(参考訳): 状態空間モデル(SSM)、特にMambaは、入力依存の因果選択的スキャン操作を通じて線形時間アグリゲーションを提供する長文シーケンスモデリングにますます採用されている。
この線に沿って、最近の"Mamba-for-vision"変種は、連続しない信号(例えば画像)の厳密な因果関係を緩和するために、主に複数のスキャン順序を探索している。
クロスブロックメモリを保存する代わりに、従来のマンバにおける選択的スキャン操作の定式化は、各ブロックの状態空間のダイナミクスをゼロから再初期化し、端末状態空間表現(SSR)を以前のブロックから破棄する。
クロスブロックリカレントステートチェーンであるArceeは、各ブロックの端末状態空間表現を次のブロックの初期条件として再利用する。
ブロック間のハンドオフは、ジャコビアンが終端境界を越えてエンドツーエンドの勾配流を可能にする微分可能な境界写像として構成される。
実用性の鍵となるのは、以前の "vision-mamba" 変種と互換性があり、パラメータフリーで、定数で無視可能なコストがかかることである。
モデリングの観点からは、終端SSRは、非逐次信号自体の推定器ではなく、入力の因果パスによって引き起こされる軽度の方向優先であると見なす。
影響を定量化するために、フローマッチングによるCelebA-HQ(256$\times$256)の非条件生成のために、Arceeは単一のスキャンオーダーのZigzag MambaベースラインでFID$\downarrow$を$82.81$から$15.33$$$5.4\times$ lowerに下げる。
効率的なCUDAカーネルとトレーニングコードがリリースされ、厳密で再現可能な研究をサポートする。
関連論文リスト
- SketchMamba: A Lightweight State-Space Model for Joint Progressive Sketch Classification and Stroke Auto-Completion [0.0]
既存のベクトルスケッチモデルは、認識と生成を別のタスクとして扱う。
スケッチマンバ(SketchMamba)は、任意の部分的な接頭辞からスケッチを連続的に分類し、その継続を同時に生成する単一因果配列モデルである。
論文 参考訳(メタデータ) (2026-07-26T10:05:23Z) - $γ$-Bridge: A Look-Parametric Diffusion Bridge [1.6583003147024213]
多重ガンマノイズはコヒーレントイメージングにおける信号依存性の劣化である。
我々は、$L(t)$のスケジュールを持つルックパラメトリックブリッジである$-Bridgeを紹介し、$L_obs$のノイズ観測を正確な乗法的ガンマ限界を通してクリーン限界に接続する。
論文 参考訳(メタデータ) (2026-07-21T18:45:58Z) - AdaSurvMamba: Dynamic Fusion and Semantic Scanning for Multimodal Survival Analysis [57.942670844512016]
我々はAdaSurvMambaをマルチモーダルサバイバル分析の新しい適応フレームワークとして紹介する。
このフレームワークは、クロスモーダル相互作用強度を動的に変調するDual-Scale Importance-Aware Reconstruction (DSIR)モジュールを備えている。
5つのTCGAコホートに対する実験は、既存の方法よりも一貫した利得を示している。
論文 参考訳(メタデータ) (2026-06-28T11:36:31Z) - MambaADv2: Evolving Duality-enhanced State Space Model for Unsupervised Anomaly Detection [108.36437360254605]
本稿では,マルチクラス非教師付き異常検出に適したフレームワークであるMambaADv2を提案する。
MambaADv2は、事前訓練されたエンコーダと、複数のスケールにわたるDuality-enhanced State Space (DSS)モジュールを備えたMambaインスパイアされたデコーダで構成される。
HSS(Hybrid State Space)ブロックの構造は、SSDベースのMambaラインに従って調整され、Mamba3スタイルの位置認識状態空間モデリングが組み込まれている。
論文 参考訳(メタデータ) (2026-06-22T10:14:06Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - Prefix-Adaptive Block Diffusion for Efficient Document Recognition [52.15352911463151]
ブロック拡散モデル(BDM)は並列生成、フレキシブルな出力、KVキャッシュをサポートし、効率的な文書解析を約束する。
本稿では,前置詞から接尾辞への因果表記に代えて,ブロック内双方向化を代替するPrefix-Block Diffusion Model (PA-BDM)を提案する。
実験の結果、3B PA-BDMはいくつかのベンチマークで高い認識スコアを達成し、2.5B MinerU-Diffusionに対して推論スループットを71.6%向上した。
論文 参考訳(メタデータ) (2026-05-16T07:50:13Z) - Hierarchical Transformer Preconditioning for Interactive Physics Simulation [28.137076331332413]
階層型トランスフォーマープレコンディショナー(Hierarchical Transformer Preconditioner)は、弱い許容率のH行列分割に固定されたニューラルプレコンディショナーである。
ネットワークは低ランクの遠距離因子を通して逆をモデル化する。
高速道路の接続を利用して、奥行きを隔ててコンテキストを伝播する。
論文 参考訳(メタデータ) (2026-05-13T11:02:27Z) - CAWN: Continuous Acoustic Wave Networks for Autoregressive Language Modeling [46.16066322190728]
完全連続配列混合アーキテクチャであるCAWN(Continuous Acoustic Wave Network)を導入する。
CAWNは離散行列ベースの注意を代わりに、多面体複素ドメインファサーに隠された状態を計画している。
超長コンテキスト上での信号劣化を防止するため,デュアルゲート選択位相共振機構を導入する。
論文 参考訳(メタデータ) (2026-04-05T20:13:22Z) - SfMamba: Efficient Source-Free Domain Adaptation via Selective Scan Modeling [60.860172819390954]
ソースフリードメイン適応(SFDA)は、未ラベルのターゲットドメインにソースプレトレーニングされたモデルを適用するという課題に取り組む。
我々はSfMambaというフレームワークを提案し、ソースフリーモデル転送における安定した依存性について検討する。
論文 参考訳(メタデータ) (2026-01-13T14:53:47Z) - Quantifying Memory Use in Reinforcement Learning with Temporal Range [51.98491034847041]
時間的範囲(Temporal Range)は、時間的影響プロファイルとして、時間的ウィンドウから入力シーケンスへの複数のベクトル出力の1次感度を扱うモデルに依存しない計量である。
また、タスクレベルメモリのプロキシ読み出しとして、タスク上で訓練されたコンパクトなLong Expressive Memory(LEM)ポリシーについて、テンポラルレンジを報告する。
論文 参考訳(メタデータ) (2025-12-05T22:58:09Z) - Coupled Data and Measurement Space Dynamics for Enhanced Diffusion Posterior Sampling [27.146380722473932]
ノイズや不完全な測定から未知の信号を回復することが目的の逆問題であり、医療画像、リモートセンシング、計算生物学の中心である。
本稿では,空間拡散後サンプリング(C-DPS)と呼ばれる新しいフレームワークを提案する。
C-DPSは、複数の逆問題ベンチマークにおいて、定性的かつ定量的に、既存のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2025-10-08T18:59:16Z) - Gather-Scatter Mamba: Accelerating Propagation with Efficient State Space Model [15.551773379039675]
ステート・スペース・モデル(SSM)は歴史的にシーケンシャル・モデリングにおいて中心的な役割を果たしてきた。
Mambaのような選択型SSMの最近の進歩は、魅力的な代替手段を提供する。
本研究では,空間的コンテキストアグリゲーションのためのシフトウィンドウ自己アテンションと,効率的な時間的伝搬のためのマンバ型選択走査を組み合わせたハイブリッドアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-10-01T13:11:13Z) - Mamba Modulation: On the Length Generalization of Mamba [34.91142589654215]
Mambaはステートスペース言語モデルの主要なアーキテクチャである。
プレトレーニング中に見られたものよりも長時間のコンテキストに適用した場合,マンバの性能は著しく低下することがわかった。
本稿では,スペクトルスケーリングを事前学習したMambaモデルに適用して,堅牢な長期コンテキスト一般化を実現する手法を提案する。
論文 参考訳(メタデータ) (2025-09-23T22:46:19Z) - Trajectory-aware Shifted State Space Models for Online Video Super-Resolution [57.87099307245989]
本稿では、トラジェクトリ対応シフトSSM(TS-Mamba)に基づく新しいオンラインVSR手法を提案する。
TS-Mambaは、最初にビデオ内の軌跡を構築し、以前のフレームから最もよく似たトークンを選択する。
私たちのTS-Mambaは、ほとんどのケースで最先端のパフォーマンスを実現し、22.7%以上の削減複雑性(MAC)を実現しています。
論文 参考訳(メタデータ) (2025-08-14T08:42:15Z) - Polar Hierarchical Mamba: Towards Streaming LiDAR Object Detection with Point Clouds as Egocentric Sequences [12.420075828114326]
リアルタイム物体検出は、リアルタイム認識が低レイテンシと高スループットを必要とする自動運転車にとって不可欠である。
最近のMambaベースの状態空間モデル(SSM)は、LiDARの認識を約束しているが、フルスキャン環境でのみである。
我々は、極座標ストリーミングLiDAR用に設計された新しいSSMアーキテクチャであるPolar Hierarchical Mambaを提案する。
論文 参考訳(メタデータ) (2025-06-07T22:53:50Z) - Scaling Up Liquid-Resistance Liquid-Capacitance Networks for Efficient Sequence Modeling [50.994194925685434]
LrcSSMは$textitnon-linear$リカレントモデルで、現在の線形状態空間層と同じくらい高速に長いシーケンスを処理する。
ヤコビ行列を対角線に強制することにより、全列を並列に解くことができる。
LrcSSMは、Liquid-S4のような他の入力変化系が提供しないことを保証する形式的な勾配安定性を提供する。
論文 参考訳(メタデータ) (2025-05-27T20:02:59Z) - Vector Copula Variational Inference and Dependent Block Posterior Approximations [5.442153262282512]
VI の鍵となるのは、ベイズ後部を近似するトラクタブル密度の選択である。
本稿では,ブロック間の依存性を同期的に捉えるためにベクトルコプラを用いた手法を提案する。
論文 参考訳(メタデータ) (2025-03-03T00:24:54Z) - Spatial-Mamba: Effective Visual State Space Models via Structure-aware State Fusion [46.82975707531064]
SSM(Selective State Space Model)は、1Dシーケンシャルデータにおける長距離依存関係のキャプチャに優れる。
本研究では,地域間直接接続を実現する新しいアプローチであるSpatial-Mambaを提案する。
画像分類,検出,セグメンテーションにおいて,空間マンバは,単一のスキャンであっても,最先端のSSMベースのモデルを達成したり,超えたりしていることを示す。
論文 参考訳(メタデータ) (2024-10-19T12:56:58Z) - SIGMA: Selective Gated Mamba for Sequential Recommendation [56.85338055215429]
最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。
SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。
以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
論文 参考訳(メタデータ) (2024-08-21T09:12:59Z) - Multistep Inverse Is Not All You Need [87.62730694973696]
実世界の制御環境では、観測空間は不要に高次元であり、時間関連ノイズにさらされることが多い。
したがって、観測空間を制御関連変数のより単純な空間にマッピングするエンコーダを学ぶことが望ましい。
本稿では,多段階逆予測と遅延フォワードモデルを組み合わせた新しいアルゴリズムACDFを提案する。
論文 参考訳(メタデータ) (2024-03-18T16:36:01Z) - FOVEA: Foveated Image Magnification for Autonomous Navigation [53.69803081925454]
入力キャンバスを小さく保ちながら、ある領域を弾性的に拡大する注意的アプローチを提案する。
提案手法は,高速R-CNNより高速かつ微調整の少ない検出APを高速化する。
Argoverse-HD と BDD100K の自律走行データセットでは,提案手法が標準の高速 R-CNN を超越した検出APを微調整なしで促進することを示す。
論文 参考訳(メタデータ) (2021-08-27T03:07:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。