論文の概要: Smooth embeddings in contracting recurrent networks driven by regular dynamics: A synthesis for neural representation

• arxiv url: http://arxiv.org/abs/2601.19019v1
• Date: Mon, 26 Jan 2026 23:10:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-28 15:26:51.092517
• Title: Smooth embeddings in contracting recurrent networks driven by regular dynamics: A synthesis for neural representation
• Title（参考訳）: レギュラーダイナミクスによって駆動される収縮リカレントネットワークにおけるスムース埋め込み:ニューラル表現のための合成
• Authors: Vikas N. O'Reilly-Shah, Alessandro Maria Selvitella,
• Abstract要約: 最近の実証研究は、訓練された反復モデルにおけるトポロジー保存潜在組織を文書化している。 貯水池計算における最近の理論的結果は、同期写像が埋め込みである条件を確立する。 私たちのコントリビューションは、一般的な同期と、契約型貯水池の埋め込み保証を組み立てる統合フレームワークです。
• 参考スコア（独自算出の注目度）: 45.88028371034407
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Recurrent neural networks trained for time-series prediction often develop latent trajectories that preserve qualitative structure of the dynamical systems generating their inputs. Recent empirical work has documented topology-preserving latent organization in trained recurrent models, and recent theoretical results in reservoir computing establish conditions under which the synchronization map is an embedding. Here we synthesize these threads into a unified account of when contracting recurrent networks yield smooth, topology-preserving internal representations for a broad and biologically relevant class of inputs: regular dynamics on invariant circles and tori. Our contribution is an integrated framework that assembles (i) generalized synchronization and embedding guarantees for contracting reservoirs, (ii) regularity mechanisms ensuring differentiability of the synchronization map under mild constraints, and (iii) a base-system viewpoint in which the invariant manifold generating the input stream is treated as the driving system. In this regular setting, the conditions commonly viewed as restrictive in chaotic-attractor analyses become mild and readily satisfied by standard contractive architectures. The framework clarifies how representational content in recurrent circuits is inherently historical: the network state encodes finite windows of input history rather than instantaneous stimuli. By consolidating disparate empirical and theoretical results under common assumptions, the synthesis yields concrete, testable expectations about when prediction-trained recurrent circuits should (or should not) form smooth latent embeddings and how required state dimension scales with the intrinsic dimension of the driving dynamics.
• Abstract（参考訳）: 時系列予測のために訓練されたリカレントニューラルネットワークは、しばしば、その入力を生成する力学系の定性的構造を保存する潜在軌道を発達させる。 最近の実証研究は、訓練された反復モデルにおける位相保存潜在組織を文書化し、最近の貯水池計算の理論的結果は、同期写像が埋め込みである条件を確立する。 ここでは、これらのスレッドを、リカレントネットワークがスムーズで位相的に保存された内部表現を、広義かつ生物学的に関係のある入力のクラス、つまり不変円とトーラス上の正則力学に合成する。 私たちのコントリビューションは、組み立てる統合フレームワークです。 一 収縮貯水池の一般同期及び埋込保証 二 軽度制約下での同期写像の微分可能性を確保する正則性機構及び 三 入力ストリームを生成する不変多様体を駆動系として扱うベースシステム視点。 この規則的な設定では、カオス・アトラクタ解析で一般的に制限的と見なされる条件は軽度になり、標準の収縮的アーキテクチャによって容易に満たされる。 ネットワーク状態は、瞬時刺激ではなく、入力履歴の有限ウィンドウを符号化する。 共通の仮定の下で異なる経験的および理論的な結果を統合することにより、この合成は、予測学習された再帰回路がスムーズな潜伏埋め込みを形成するべき(あるいはそうでないこと)、および駆動力学の本質的な次元で要求される状態次元のスケールをどのように形成すべきかについて、具体的かつ実証可能な期待をもたらす。

関連論文リスト

• Constraint Breeds Generalization: Temporal Dynamics as an Inductive Bias [1.219017431258669]
  制約は、制約としてではなく、一般化を生み出す時間的帰納バイアスとして機能する。 我々は、堅牢なAI開発には、制限のスケーリングと削除だけでなく、自然に一般化を促進する時間的特性を計算的にマスターする必要があることを示す。
  論文  参考訳（メタデータ） (2025-12-30T00:34:24Z)
• Parallel BiLSTM-Transformer networks for forecasting chaotic dynamics [24.960864709838436]
  本研究では,Transformer と Bidirectional Long Short-Term Memory Network を統合した並列予測フレームワークを提案する。 提案したハイブリッドモデルはデュアルブランチアーキテクチャを採用しており、Transformerブランチは主に長距離依存関係をキャプチャする。 結果は、提案されたハイブリッドフレームワークがタスク間でシングルブランチアーキテクチャの両方より優れていることを一貫して示している。
  論文  参考訳（メタデータ） (2025-10-27T16:17:10Z)
• PowerGrow: Feasible Co-Growth of Structures and Dynamics for Power Grid Synthesis [75.14189839277928]
  本稿では,運用効率を維持しながら計算オーバーヘッドを大幅に削減する,共同生成フレームワークPowerGrowを提案する。 ベンチマーク設定による実験では、PowerGrowはフィデリティと多様性において、事前の拡散モデルよりも優れていた。 これは、運用上有効で現実的な電力グリッドシナリオを生成する能力を示している。
  論文  参考訳（メタデータ） (2025-08-29T01:47:27Z)
• Topology-Aware Conformal Prediction for Stream Networks [68.02503121089633]
  本研究では,ネットワークトポロジと時間的ダイナミクスを共形予測フレームワークに統合した新しいフレームワークであるspatio-Temporal Adaptive Conformal Inference (textttCISTA)を提案する。 この結果から,TextttCISTAは予測効率とカバレッジのバランスを効果的に保ち,既存のストリームネットワークの共形予測手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-03-06T21:21:15Z)
• Time-series Generation by Contrastive Imitation [87.51882102248395]
  モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。 推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
  論文  参考訳（メタデータ） (2023-11-02T16:45:25Z)
• Latent Event-Predictive Encodings through Counterfactual Regularization [0.9449650062296823]
  本稿では,新しい正則化方式を用いたSUGAR(Surprise-GAted Recurrent Neural Network)を提案する。 隠れたグラフ構造を交互に並べてシーケンスを生成する階層的シーケンス予測タスクでモデルをテストします。
  論文  参考訳（メタデータ） (2021-05-12T18:30:09Z)
• Supporting Optimal Phase Space Reconstructions Using Neural Network Architecture for Time Series Modeling [68.8204255655161]
  位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。 私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
  論文  参考訳（メタデータ） (2020-06-19T21:04:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。