論文の概要: Recurrent Neural Networks Beyond Time: Learning from Multiple Ordered Projections
- arxiv url: http://arxiv.org/abs/2608.09690v1
- Date: Mon, 10 Aug 2026 14:56:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.322304
- Title: Recurrent Neural Networks Beyond Time: Learning from Multiple Ordered Projections
- Title(参考訳): 時間を超えたリカレントニューラルネットワーク - 複数の順序付き投影から学ぶ
- Abstract要約: 順序付き構造依存仮説(英語版)(OSDH)を導入し、同じ観測の複数の許容順序が、一つの連続した組織を通してアクセスできない相補的構造依存を明らかにすることを提案する。
提案する構造進化RNN(SE-RNN)は,従来のRNNをプロジェクション固有の構造エキスパートとして使用し,その基礎となる再帰計算をそのまま保存する。
- 参考スコア(独自算出の注目度): 13.839852906168787
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recurrent neural networks (RNNs) are widely used for sequence learning, yet their application is commonly associated with temporal data, although recurrent computation fundamentally operates on ordered sequences rather than on time itself. Building on this observation, we introduce the Ordered Structural Dependency Hypothesis (OSDH), which proposes that multiple admissible orderings of the same observations may reveal complementary structural dependencies inaccessible through a single sequential organization. To operationalize this hypothesis, we propose the Independent Structural Expert Principle (ISEP), whereby projection-specific sequence models are trained independently before their learned representations are integrated through a dedicated fusion model. As a concrete realization, we present Structural Evolution RNNs (SE-RNNs), which employ conventional RNNs as projection-specific structural experts while preserving the underlying recurrent computation unchanged. Proof-of-concept experiments on three synthetic datasets with substantially different levels of structural complexity demonstrate that the proposed architecture consistently benefits from multiple ordered projections when hidden structural dependencies are present, while remaining competitive on simpler datasets. Since OSDH is independent of the underlying sequence-processing model, the proposed framework naturally extends beyond recurrent networks and may be instantiated using alternative architectures. The results suggest a general computational perspective for exploiting complementary ordered representations across diverse structured learning problems.
- Abstract(参考訳): リカレントニューラルネットワーク(Recurrent Neural Network, RNN)はシーケンシャルラーニングに広く用いられているが、その応用は時相データと一般的に関連付けられている。
この観測に基づいて, 順序付き構造依存仮説 (OSDH) を導入し, 同一観測の複数の許容順序が, 単一の逐次的組織を通してアクセスできない相補的構造依存を明らかにすることを提案する。
この仮説を運用するために、独立構造専門家原理 (ISEP) を提案し、プロジェクション固有のシーケンスモデルは、学習された表現が専用の融合モデルによって統合される前に独立して訓練される。
具体的実現として、従来のRNNを射影特異的な構造専門家として用いながら、基礎となる再帰計算をそのまま保存する構造進化RNN(SE-RNN)を提案する。
構造的複雑さのレベルが著しく異なる3つの合成データセットに関する概念実証実験は、構造的依存関係が隠された場合、提案されたアーキテクチャが一貫して複数の順序予測から恩恵を受ける一方で、単純なデータセットでは競争力を維持していることを示している。
OSDHは、基礎となるシーケンス処理モデルとは独立しているため、提案するフレームワークは、リカレントネットワークを超えて自然に拡張され、代替アーキテクチャを用いてインスタンス化される可能性がある。
その結果,様々な構造化学習問題にまたがる相補的順序表現を利用するための一般的な計算的視点が示唆された。
関連論文リスト
- NEST: Tackling Dataset-Level Distribution Shifts via Regime-Oriented Mixture-of-Experts [25.126587044094716]
NESTは、データセットを異なる運用体制のコンポジットとしてモデル化し、再構成するように設計された、特殊なフレームワークである。
NESTはまず、データセットを別の運用体制に分割することで、構造的な特殊化を促進する。
個々の専門家は、レギュラー固有のダイナミクスをキャプチャする特別なカーネルとして機能する。
論文 参考訳(メタデータ) (2026-07-07T05:36:47Z) - SPaRSe-TIME: Saliency-Projected Low-Rank Temporal Modeling for Efficient and Interpretable Time Series Prediction [0.0]
SPaRSe-TIME(サイト・英語)は、時系列を分解して3つの相補的なコンポーネント(サリエンシ、メモリ、トレンド)にモデル化するフレームワークである。
多様な実世界のデータセットの実験は、SPaRSe-TIMEが競合性能を達成することを示した。
全体として、SPaRSe-TIMEは、モノリシックシーケンスモデルの原則的な代替、ブリッジ効率、解釈可能性、パフォーマンスを提供し、時系列学習のためのスケーラブルなフレームワークを提供する。
論文 参考訳(メタデータ) (2026-04-19T09:55:28Z) - Deep Neural Networks as Iterated Function Systems and a Generalization Bound [2.7920304852537536]
2つの重要なディープアーキテクチャは、場所に依存したIFSとみなすことができるか、あるいは正統に関連付けられるかを示す。
データ分布と画像間のコラージュ型近似誤差を制御する生成モデリングのためのワッサーシュタイン境界を導出する。
論文 参考訳(メタデータ) (2026-01-27T07:32:49Z) - Learning Identifiable Structures Helps Avoid Bias in DNN-based Supervised Causal Learning [56.22841701016295]
Supervised Causal Learning (SCL)はこの分野で新興パラダイムである。
既存のディープニューラルネットワーク(DNN)ベースの手法では、"Node-Edgeアプローチ"が一般的である。
論文 参考訳(メタデータ) (2025-02-15T19:10:35Z) - Defining Neural Network Architecture through Polytope Structures of Dataset [53.512432492636236]
本稿では, ニューラルネットワーク幅の上下境界を定義し, 問題となるデータセットのポリトープ構造から情報を得る。
本研究では,データセットのポリトープ構造を学習したニューラルネットワークから推定できる逆条件を探索するアルゴリズムを開発した。
MNIST、Fashion-MNIST、CIFAR10といった一般的なデータセットは、顔の少ない2つ以上のポリトップを用いて効率的にカプセル化できることが確立されている。
論文 参考訳(メタデータ) (2024-02-04T08:57:42Z) - Disentangling Structured Components: Towards Adaptive, Interpretable and
Scalable Time Series Forecasting [52.47493322446537]
本研究では,時空間パターンの各コンポーネントを個別にモデル化する適応的,解釈可能,スケーラブルな予測フレームワークを開発する。
SCNNは、空間時間パターンの潜在構造を算術的に特徴づける、MSSの事前定義された生成プロセスで動作する。
SCNNが3つの実世界のデータセットの最先端モデルよりも優れた性能を達成できることを示すため、大規模な実験が行われた。
論文 参考訳(メタデータ) (2023-05-22T13:39:44Z) - On Neural Architecture Inductive Biases for Relational Tasks [76.18938462270503]
合成ネットワーク一般化(CoRelNet)と呼ばれる類似度分布スコアに基づく簡単なアーキテクチャを導入する。
単純なアーキテクチャの選択は、分布外一般化において既存のモデルより優れていることが分かる。
論文 参考訳(メタデータ) (2022-06-09T16:24:01Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳(メタデータ) (2021-03-17T08:28:30Z) - Supporting Optimal Phase Space Reconstructions Using Neural Network
Architecture for Time Series Modeling [68.8204255655161]
位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。
私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
論文 参考訳(メタデータ) (2020-06-19T21:04:47Z) - Structure by Architecture: Structured Representations without
Regularization [31.75200752252397]
生成モデルなどの下流タスクにオートエンコーダを用いた自己教師型表現学習の課題について検討する。
我々はアグレッシブな正規化を必要とせずに構造化表現を学習できる新しいオートエンコーダアーキテクチャを設計する。
これらのモデルが、生成、絡み合い、外挿を含む様々な下流タスクの結果を改善する表現をいかに学習するかを実証する。
論文 参考訳(メタデータ) (2020-06-14T04:37:08Z) - Semi-Structured Distributional Regression -- Extending Structured
Additive Models by Arbitrary Deep Neural Networks and Data Modalities [0.0]
本稿では、構造化回帰モデルとディープニューラルネットワークを統合ネットワークアーキテクチャに結合する一般的なフレームワークを提案する。
数値実験において,本フレームワークの有効性を実証し,ベンチマークや実世界の応用において,そのメリットを実証する。
論文 参考訳(メタデータ) (2020-02-13T21:01:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。