論文の概要: Information-Theoretic Bounds and Task-Centric Learning Complexity for Real-World Dynamic Nonlinear Systems
- arxiv url: http://arxiv.org/abs/2509.06599v2
- Date: Mon, 22 Sep 2025 13:24:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 14:36:45.592794
- Title: Information-Theoretic Bounds and Task-Centric Learning Complexity for Real-World Dynamic Nonlinear Systems
- Title(参考訳): 実世界の動的非線形システムにおける情報理論境界とタスク中心学習複雑性
- Authors: Sri Satish Krishna Chaitanya Bulusu, Mikko Sillanpää,
- Abstract要約: 動的非線形系は静的および動的効果の結合による歪みを示す。
本稿では, 構造化分解, 分散解析, タスク中心の複雑性境界に基づく理論的枠組みを提案する。
- 参考スコア(独自算出の注目度): 0.6875312133832079
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dynamic nonlinear systems exhibit distortions arising from coupled static and dynamic effects. Their intertwined nature poses major challenges for data-driven modeling. This paper presents a theoretical framework grounded in structured decomposition, variance analysis, and task-centric complexity bounds. The framework employs a directional lower bound on interactions between measurable system components, extending orthogonality in inner product spaces to structurally asymmetric settings. This bound supports variance inequalities for decomposed systems. Key behavioral indicators are introduced along with a memory finiteness index. A rigorous power-based condition establishes a measurable link between finite memory in realizable systems and the First Law of Thermodynamics. This offers a more foundational perspective than classical bounds based on the Second Law. Building on this foundation, we formulate a `Behavioral Uncertainty Principle,' demonstrating that static and dynamic distortions cannot be minimized simultaneously. We identify that real-world systems seem to resist complete deterministic decomposition due to entangled static and dynamic effects. We also present two general-purpose theorems linking function variance to mean-squared Lipschitz continuity and learning complexity. This yields a model-agnostic, task-aware complexity metric, showing that lower-variance components are inherently easier to learn. These insights explain the empirical benefits of structured residual learning, including improved generalization, reduced parameter count, and lower training cost, as previously observed in power amplifier linearization experiments. The framework is broadly applicable and offers a scalable, theoretically grounded approach to modeling complex dynamic nonlinear systems.
- Abstract(参考訳): 動的非線形系は静的および動的効果の結合による歪みを示す。
相互作用した性質は、データ駆動モデリングに大きな課題をもたらす。
本稿では, 構造化分解, 分散解析, タスク中心の複雑性境界に基づく理論的枠組みを提案する。
このフレームワークは、測定可能なシステムコンポーネント間の相互作用の方向の低い境界を利用し、内部積空間の直交性を構造的に非対称な設定に拡張する。
この境界は分解された系の分散不等式をサポートする。
主要な行動指標は、メモリ有限性指数とともに導入される。
厳密なパワーベース条件は、実現可能な系における有限メモリと熱力学の第一法則の間の測定可能なリンクを確立する。
これは第二法則に基づく古典的境界よりも基礎的な視点を提供する。
この基礎に基づいて、静的および動的歪みを同時に最小化できないことを示す「行動不確実性原理」を定式化する。
実世界のシステムは、絡み合った静的および動的効果による完全な決定論的分解に抵抗しているように見える。
また、関数分散を平均二乗リプシッツ連続性と学習複雑性にリンクする2つの汎用定理を示す。
これにより、モデルに依存しないタスク対応の複雑性メトリクスが得られ、低分散コンポーネントが本質的に学習しやすいことを示す。
これらの知見は、従来パワーアンプ線形化実験で見られたように、一般化の向上、パラメータカウントの削減、トレーニングコストの低減など、構造化された残差学習の実証的な利点を説明する。
このフレームワークは広く適用でき、複雑な動的非線形システムをモデル化するためのスケーラブルで理論的に基礎的なアプローチを提供する。
関連論文リスト
- Physics as the Inductive Bias for Causal Discovery [7.9653270330458446]
因果発見は、しばしば複雑な現実世界のシステムを分析するためのデータ駆動パラダイムである。
我々は,因果グラフ構造を利用してパラメータ推定を行うスケーラブルなスペーサ性誘導型MLEアルゴリズムを開発した。
論文 参考訳(メタデータ) (2026-02-03T23:42:01Z) - Random-Matrix-Induced Simplicity Bias in Over-parameterized Variational Quantum Circuits [72.0643009153473]
本稿では,観測可能な期待値とパラメータ勾配の両方がシステムサイズに指数関数的に集中するHaar型普遍性クラスに,表現的変分アンサーゼが入ることを示す。
その結果、そのような回路によって誘導される仮説クラスは、近点関数の狭い族に高い確率で崩壊する。
テンソル-ネットワークベースおよびテンソル-ハイパーネットワークパラメータ化を含むテンソル構造VQCは、ハール型普遍性クラスの外にある。
論文 参考訳(メタデータ) (2026-01-05T08:04:33Z) - Hierarchical Physics-Embedded Learning for Spatiotemporal Dynamical Systems [12.832325257647128]
本稿では,前向きの時間予測と逆の物理法則の発見を両立させる階層型物理埋め込み学習フレームワークを提案する。
既知の物理法則は、物理整合性を保証するモデル計算グラフに直接埋め込まれる。
このフレームワークを適応型ニューラル演算子上に構築することにより,動的システムに特徴的な非局所的依存や高次演算子を効果的に捉えることができる。
論文 参考訳(メタデータ) (2025-10-29T09:18:41Z) - Interpretable neural network system identification method for two families of second-order systems based on characteristic curves [0.0]
我々は、微分方程式の数学的構造とニューラルネットワーク(NN)の柔軟性を組み合わせた統合されたデータ駆動フレームワークを提案する。
我々のアプローチの核となるのは、個々の非線形関数を表す特性曲線(CC)の概念である。
CCに基づく形式主義の汎用性を実証するために,3つの識別戦略を導入する。
論文 参考訳(メタデータ) (2025-09-12T18:32:02Z) - Loss-Complexity Landscape and Model Structure Functions [56.01537787608726]
我々はコルモゴロフ構造関数 $h_x(alpha)$ を双対化するためのフレームワークを開発する。
情報理論構造と統計力学の数学的類似性を確立する。
構造関数と自由エネルギーの間のルジャンドル・フェンシェル双対性を明確に証明する。
論文 参考訳(メタデータ) (2025-07-17T21:31:45Z) - Neural Contraction Metrics with Formal Guarantees for Discrete-Time Nonlinear Dynamical Systems [17.905596843865705]
収縮メトリクスは、様々な力学系の安定性、堅牢性、収束性を分析する強力なフレームワークを提供する。
しかしながら、複雑な非線形系に対するこれらの指標の同定は、効果的なツールが欠如しているため、未解決の課題である。
本稿では,離散的スケーラブル非線形システムに対する検証可能な収縮指標について述べる。
論文 参考訳(メタデータ) (2025-04-23T21:27:32Z) - No Equations Needed: Learning System Dynamics Without Relying on Closed-Form ODEs [56.78271181959529]
本稿では,従来の2段階モデリングプロセスから離れることで,低次元力学系をモデル化する概念シフトを提案する。
最初に閉形式方程式を発見して解析する代わりに、我々のアプローチ、直接意味モデリングは力学系の意味表現を予測する。
私たちのアプローチは、モデリングパイプラインを単純化するだけでなく、結果のモデルの透明性と柔軟性も向上します。
論文 参考訳(メタデータ) (2025-01-30T18:36:48Z) - Stability properties of gradient flow dynamics for the symmetric low-rank matrix factorization problem [22.648448759446907]
多くの学習課題において,低ランク因子化がビルディングブロックとして機能することを示す。
ダイナミクスの局所的な探索部分に関連する軌跡の形状に関する新たな知見を提供する。
論文 参考訳(メタデータ) (2024-11-24T20:05:10Z) - Learning Controlled Stochastic Differential Equations [61.82896036131116]
本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。
我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。
当社のメソッドはオープンソースPythonライブラリとして利用可能です。
論文 参考訳(メタデータ) (2024-11-04T11:09:58Z) - Towards Understanding Generalization via Decomposing Excess Risk
Dynamics [13.4379473119565]
一般化力学を解析してアルゴリズム依存境界(安定性など)を導出する。
ニューラルネットは、ノイズの嵌合時に緩やかな収束率を示すという観測から着想を得て、余剰リスクダイナミクスを分解することを提案する。
分解の枠組みの下では、新しい境界は安定性に基づく境界と一様収束境界よりも理論的および経験的証拠とよく一致している。
論文 参考訳(メタデータ) (2021-06-11T03:42:45Z) - Physics-informed Spline Learning for Nonlinear Dynamics Discovery [8.546520029145853]
非線形ダイナミクスの準同次制御方程式を発見するための物理インフォメーションスプライン学習フレームワークを提案する。
このフレームワークは、わずかにサンプリングされたノイズデータに基づいている。
提案手法の有効性と優位性は,複数の非線形力学系によって実証されている。
論文 参考訳(メタデータ) (2021-05-05T23:32:43Z) - Learning Theory for Inferring Interaction Kernels in Second-Order
Interacting Agent Systems [17.623937769189364]
推定器の強い一貫性と最適非パラメトリック min-max 収束率を確立する完全学習理論を開発する。
推定器を構築するための数値アルゴリズムは並列化可能であり、高次元問題に対してよく機能し、複雑な力学系上で実証される。
論文 参考訳(メタデータ) (2020-10-08T02:07:53Z) - Euclideanizing Flows: Diffeomorphic Reduction for Learning Stable
Dynamical Systems [74.80320120264459]
本研究では、限られた数の人間の実演からそのような動きを学ぶためのアプローチを提案する。
複素運動は安定な力学系のロールアウトとして符号化される。
このアプローチの有効性は、確立されたベンチマーク上での検証と、現実世界のロボットシステム上で収集されたデモによって実証される。
論文 参考訳(メタデータ) (2020-05-27T03:51:57Z) - On dissipative symplectic integration with applications to
gradient-based optimization [77.34726150561087]
本稿では,離散化を体系的に実現する幾何学的枠組みを提案する。
我々は、シンプレクティックな非保守的、特に散逸的なハミルトン系への一般化が、制御された誤差まで収束率を維持することができることを示す。
論文 参考訳(メタデータ) (2020-04-15T00:36:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。