論文の概要: TensorSSM: Memorizing Spatial Position in Dynamic State Space for Tensor Core Generation
- arxiv url: http://arxiv.org/abs/2610.40871v1
- Date: Thu, 29 Oct 2026 18:48:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.473604
- Title: TensorSSM: Memorizing Spatial Position in Dynamic State Space for Tensor Core Generation
- Title(参考訳): テンソルSSM:テンソルコア生成のための動的状態空間における空間位置の記憶
- Abstract要約: 高次元テンソルは実世界のアプリケーションではユビキタスだが、大量のストレージオーバーヘッドを引き起こす。機能テンソル分解は、ニューラルネットワークを用いて要素座標をテンソルコアにマッピングすることでこの問題に対処する。
既存の関数法は通常、1次元列に高次テンソルを平らにする。
この折り畳み操作は高度に重なり合う局所座標を引き起こし、シーケンスは複雑なモード間の空間依存を捉えるのに苦労する。
動的状態空間モデル内の空間位置を記憶する機能的分解のためのインプリシト表現(INR)を提案する。
- 参考スコア(独自算出の注目度): 20.993185002154345
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-dimensional tensors are ubiquitous in real-world applications but lead to massive storage overhead. Functional tensor decomposition addresses this by employing neural networks to map element coordinates to tensor cores, significantly reducing the parameters for data compression. However, existing functional methods typically flatten high-order tensors into 1D sequences. This folding operation causes highly overlapping local coordinate sequences and struggles to capture complex cross-mode spatial dependencies, severely limiting their expressiveness on diverse datasets. To tackle these challenges, we propose TensorSSM, a novel Implicit Neural Representation (INR) for functional decomposition method that memorizes spatial positions within a dynamic State Space Model (SSM). Specifically, TensorSSM first decomposes mode-wise coordinates into sequences spit by K-ary rule, encoding spatial tokens from coarse to fine, which effectively captures spatial variations. Furthermore, we extend the SSM's state space to explicitly map cross-mode spatial dependencies, allowing inter-mode interactions to enhance the updates of each mode. By integrating cross-mode information from previous hidden states into the current state transitions, TensorSSM effectively expands tensor representation along two dimensions: the sequence dimension for coarse-to-fine spatial tokens, and the state dimension for cross-mode memorization. This design effectively integrates spatial information into the state space and the tensor core, substantially advancing the state adaptability and enhancing the expressiveness of the data compression. Extensive experiments demonstrate that TensorSSM achieves significantly high reconstruction accuracy and storage efficiency, exhibiting robust expressiveness across diverse tensor datasets without relying on strict spatial assumptions.
- Abstract(参考訳): 高次元テンソルは現実世界のアプリケーションではユビキタスであるが、大量のストレージオーバーヘッドを引き起こす。
関数テンソル分解は、ニューラルネットワークを用いて要素座標をテンソルコアにマッピングすることでこの問題に対処し、データ圧縮のパラメータを著しく削減する。
しかし、既存の関数法は典型的には高次テンソルを1次元列に平らにする。
この折り畳み操作は、高度に重なり合う局所座標列を引き起こし、複雑なモード空間依存を捉えるのに苦労し、多様なデータセットに対する表現性を著しく制限する。
これらの課題に対処するために、動的状態空間モデル(SSM)内の空間位置を記憶する機能的分解法として、新しいインプリシティニューラルネットワーク表現(INR)であるTensorSSMを提案する。
具体的には、TensorSSMはまず、モードワイズ座標をK-ary則によってスパイトされたシーケンスに分解し、粗いトークンから細かなトークンを符号化し、空間変動を効果的に捉える。
さらに,SSMの状態空間を拡張して空間依存性を明示的にマップし,モード間相互作用によって各モードの更新を向上する。
従来の隠れ状態からのクロスモード情報を現在の状態遷移に統合することにより、テンソルSSMは、粗い空間トークンのシーケンス次元と、クロスモード記憶のための状態次元の2次元に沿ってテンソル表現を効果的に拡張する。
この設計は、空間情報を状態空間とテンソルコアに効果的に統合し、状態適応性を大幅に向上させ、データ圧縮の表現性を高める。
広範囲な実験により、TensorSSMは、厳密な空間仮定に頼ることなく、様々なテンソルデータセット間で堅牢な表現性を示す、非常に高い再構成精度と保存効率を達成することが示されている。
関連論文リスト
- Physics-Aware Complex-Valued State Space Model with Scattering-Prior Feature Modulation for PolSAR Image Classification [5.148573890943571]
本稿では,PolSAR画像分類のための複素数値状態空間ネットワークCV-SSMNetを提案する。
CV-SSMNetは、マルチスケールの複雑な畳み込み、ブランチワイドCV-SSMエンコーディング、事前誘導リカバリ、軽量グローバルコンテキストアグリゲーションを統合している。
3つのLバンドベンチマークデータセットと追加のPバンドBIOMASS評価実験により、CV-SSMNetは競争精度、地域整合性の改善、境界保存の改善を実現している。
論文 参考訳(メタデータ) (2026-07-22T06:10:53Z) - SP-MoMamba: Superpixel-driven Mixture of State Space Experts for Efficient Image Super-Resolution [99.56535031145211]
状態空間モデル(SSM)は、効率的な単一画像超解像(SR)のための強力なパラダイムとして登場した。
我々は、コンテント対応SRのための状態空間の専門家による超ピクセル駆動の混合である textbfSP-MoMamba を提案する。
私たちの中核となる考え方は、従来の剛性スキャンを、スーパーピクセルを基本単位として扱うことによって、テキストのセマンティックなレベルのインタラクションに変換することです。
論文 参考訳(メタデータ) (2026-05-25T14:19:59Z) - OCTOPUS: Enhancing the Spatial-Awareness of Vision SSMs with Multi-Dimensional Scans and Traversal Selection [20.717476762904038]
我々は,大域的コンテキストと画像内の局所空間構造の両方を保存する新しいアーキテクチャであるOCTOPUSを紹介する。
OCTOPUSは8つの主方向に沿って個別に再起し、水平方向、垂直方向、対角方向を前方または後方に進む。
分類とセグメンテーションのベンチマークでは、OCTOPUSは境界保存と領域の整合性において顕著な改善を示した。
論文 参考訳(メタデータ) (2026-01-31T21:12:59Z) - Dynamic Memory-enhanced Transformer for Hyperspectral Image Classification [3.5093938502961763]
ハイパースペクトル画像(HSI)分類は、複雑な空間スペクトル相関のため、依然として困難な課題である。
既存のトランスモデルは、長距離依存を捉えるのに優れているが、情報冗長性と注意力の非効率さに悩まされることが多い。
MemFormerは、動的メモリモジュールを反復的に洗練するメモリ強化型マルチヘッドアテンションメカニズムを導入している。
動的メモリ富化戦略は、複雑な空間的およびスペクトル的依存関係を段階的にキャプチャし、より表現力のある特徴表現をもたらす。
論文 参考訳(メタデータ) (2025-04-17T17:43:34Z) - Parallel Sequence Modeling via Generalized Spatial Propagation Network [80.66202109995726]
Generalized Spatial Propagation Network (GSPN)は、2次元空間構造を本質的にキャプチャする最適化された視覚タスクのための新しいアテンションメカニズムである。
GSPNは、空間的コヒーレントな画像データを直接操作し、ラインスキャンアプローチを通じて高密度なペアワイズ接続を形成することにより、制限を克服する。
GSPNは、ImageNet分類、クラス誘導画像生成、テキスト・ツー・イメージ生成などの視覚タスクにおいて、より優れた空間忠実性と最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2025-01-21T18:56:19Z) - TensorGRaD: Tensor Gradient Robust Decomposition for Memory-Efficient Neural Operator Training [91.8932638236073]
textbfTensorGRaDは,重み付けに伴うメモリ問題に直接対処する新しい手法である。
SparseGRaD は総メモリ使用量を 50% 以上削減し,同時に精度も向上することを示した。
論文 参考訳(メタデータ) (2025-01-04T20:51:51Z) - Efficient High-Resolution Visual Representation Learning with State Space Model for Human Pose Estimation [60.80423207808076]
高解像度の視覚表現を維持しながら長距離依存関係をキャプチャすることは、人間のポーズ推定のような密集した予測タスクに不可欠である。
マルチスケールの畳み込み操作で視覚状態空間モデルを拡張する動的ビジュアル状態空間(DVSS)ブロックを提案する。
HRVMambaは効率的な高分解能表現学習のための新しいモデルである。
論文 参考訳(メタデータ) (2024-10-04T06:19:29Z) - Cross-Scan Mamba with Masked Training for Robust Spectral Imaging [51.557804095896174]
本研究では,空間スペクトルSSMを用いたクロススキャンマンバ(CS-Mamba)を提案する。
実験の結果, CS-Mambaは最先端の性能を達成し, マスク付きトレーニング手法によりスムーズな特徴を再構築し, 視覚的品質を向上させることができた。
論文 参考訳(メタデータ) (2024-08-01T15:14:10Z) - Dynamic Kernel-Based Adaptive Spatial Aggregation for Learned Image
Compression [63.56922682378755]
本稿では,空間アグリゲーション機能の拡張に焦点をあて,動的カーネルベースの変換符号化を提案する。
提案したアダプティブアグリゲーションはカーネルオフセットを生成し、コンテント条件付き範囲の有効な情報をキャプチャして変換を支援する。
実験により,本手法は,最先端の学習手法と比較して,3つのベンチマークにおいて高い速度歪み性能が得られることを示した。
論文 参考訳(メタデータ) (2023-08-17T01:34:51Z) - Multi-Scale Spatial Temporal Graph Convolutional Network for
Skeleton-Based Action Recognition [13.15374205970988]
本稿では,マルチスケール空間グラフ畳み込み (MS-GC) モジュールとマルチスケール時間グラフ畳み込み (MT-GC) モジュールを提案する。
MS-GCおよびMT-GCモジュールは対応する局所グラフ畳み込みをサブグラフ畳み込みの集合に分解し、階層的残差アーキテクチャを形成する。
本稿では,マルチスケールな時空間グラフ畳み込みネットワーク(MST-GCN)を提案する。
論文 参考訳(メタデータ) (2022-06-27T03:17:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。