論文の概要: Information-Theoretic Bounds and Task-Centric Learning Complexity for Real-World Dynamic Nonlinear Systems

• arxiv url: http://arxiv.org/abs/2509.06599v1
• Date: Mon, 08 Sep 2025 12:08:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:04.114962
• Title: Information-Theoretic Bounds and Task-Centric Learning Complexity for Real-World Dynamic Nonlinear Systems
• Title（参考訳）: 実世界の動的非線形システムにおける情報理論境界とタスク中心学習複雑性
• Authors: Sri Satish Krishna Chaitanya Bulusu, Mikko Sillanpää,
• Abstract要約: 動的非線形系は静的および動的効果の結合による歪みを示す。 本稿では, 構造化分解, 分散解析, タスク中心の複雑性境界に基づく理論的枠組みを提案する。
• 参考スコア（独自算出の注目度）: 0.6875312133832079
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dynamic nonlinear systems exhibit distortions arising from coupled static and dynamic effects. Their intertwined nature poses major challenges for data-driven modeling. This paper presents a theoretical framework grounded in structured decomposition, variance analysis, and task-centric complexity bounds. The framework employs a directional lower bound on interactions between measurable system components, extending orthogonality in inner product spaces to structurally asymmetric settings. This bound supports variance inequalities for decomposed systems. Key behavioral indicators are introduced along with a memory finiteness index. A rigorous power-based condition establishes a measurable link between finite memory in realizable systems and the First Law of Thermodynamics. This offers a more foundational perspective than classical bounds based on the Second Law. Building on this foundation, we formulate a `Behavioral Uncertainty Principle,' demonstrating that static and dynamic distortions cannot be minimized simultaneously. We identify that real-world systems seem to resist complete deterministic decomposition due to entangled static and dynamic effects. We also present two general-purpose theorems linking function variance to mean-squared Lipschitz continuity and learning complexity. This yields a model-agnostic, task-aware complexity metric, showing that lower-variance components are inherently easier to learn. These insights explain the empirical benefits of structured residual learning, including improved generalization, reduced parameter count, and lower training cost, as previously observed in power amplifier linearization experiments. The framework is broadly applicable and offers a scalable, theoretically grounded approach to modeling complex dynamic nonlinear systems.
• Abstract（参考訳）: 動的非線形系は静的および動的効果の結合による歪みを示す。 相互作用した性質は、データ駆動モデリングに大きな課題をもたらす。 本稿では, 構造化分解, 分散解析, タスク中心の複雑性境界に基づく理論的枠組みを提案する。 このフレームワークは、測定可能なシステムコンポーネント間の相互作用の方向の低い境界を利用し、内部積空間の直交性を構造的に非対称な設定に拡張する。 この境界は分解された系の分散不等式をサポートする。 主要な行動指標は、メモリ有限性指数とともに導入される。 厳密なパワーベース条件は、実現可能な系における有限メモリと熱力学の第一法則の間の測定可能なリンクを確立する。 これは第二法則に基づく古典的境界よりも基礎的な視点を提供する。 この基礎に基づいて、静的および動的歪みを同時に最小化できないことを示す「行動不確実性原理」を定式化する。 実世界のシステムは、絡み合った静的および動的効果による完全な決定論的分解に抵抗しているように見える。 また、関数分散を平均二乗リプシッツ連続性と学習複雑性にリンクする2つの汎用定理を示す。 これにより、モデルに依存しないタスク対応の複雑性メトリクスが得られ、低分散コンポーネントが本質的に学習しやすいことを示す。 これらの知見は、従来パワーアンプ線形化実験で見られたように、一般化の向上、パラメータカウントの削減、トレーニングコストの低減など、構造化された残差学習の実証的な利点を説明する。 このフレームワークは広く適用でき、複雑な動的非線形システムをモデル化するためのスケーラブルで理論的に基礎的なアプローチを提供する。

関連論文リスト

• Loss-Complexity Landscape and Model Structure Functions [56.01537787608726]
  我々はコルモゴロフ構造関数 $h_x(alpha)$ を双対化するためのフレームワークを開発する。 情報理論構造と統計力学の数学的類似性を確立する。 構造関数と自由エネルギーの間のルジャンドル・フェンシェル双対性を明確に証明する。
  論文  参考訳（メタデータ） (2025-07-17T21:31:45Z)
• Neural Contraction Metrics with Formal Guarantees for Discrete-Time Nonlinear Dynamical Systems [17.905596843865705]
  収縮メトリクスは、様々な力学系の安定性、堅牢性、収束性を分析する強力なフレームワークを提供する。 しかしながら、複雑な非線形系に対するこれらの指標の同定は、効果的なツールが欠如しているため、未解決の課題である。 本稿では,離散的スケーラブル非線形システムに対する検証可能な収縮指標について述べる。
  論文  参考訳（メタデータ） (2025-04-23T21:27:32Z)
• No Equations Needed: Learning System Dynamics Without Relying on Closed-Form ODEs [56.78271181959529]
  本稿では,従来の2段階モデリングプロセスから離れることで,低次元力学系をモデル化する概念シフトを提案する。 最初に閉形式方程式を発見して解析する代わりに、我々のアプローチ、直接意味モデリングは力学系の意味表現を予測する。 私たちのアプローチは、モデリングパイプラインを単純化するだけでなく、結果のモデルの透明性と柔軟性も向上します。
  論文  参考訳（メタデータ） (2025-01-30T18:36:48Z)
• Stability properties of gradient flow dynamics for the symmetric low-rank matrix factorization problem [22.648448759446907]
  多くの学習課題において,低ランク因子化がビルディングブロックとして機能することを示す。 ダイナミクスの局所的な探索部分に関連する軌跡の形状に関する新たな知見を提供する。
  論文  参考訳（メタデータ） (2024-11-24T20:05:10Z)
• Learning Controlled Stochastic Differential Equations [61.82896036131116]
  本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。 我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。 当社のメソッドはオープンソースPythonライブラリとして利用可能です。
  論文  参考訳（メタデータ） (2024-11-04T11:09:58Z)
• Towards Understanding Generalization via Decomposing Excess Risk Dynamics [13.4379473119565]
  一般化力学を解析してアルゴリズム依存境界(安定性など)を導出する。 ニューラルネットは、ノイズの嵌合時に緩やかな収束率を示すという観測から着想を得て、余剰リスクダイナミクスを分解することを提案する。 分解の枠組みの下では、新しい境界は安定性に基づく境界と一様収束境界よりも理論的および経験的証拠とよく一致している。
  論文  参考訳（メタデータ） (2021-06-11T03:42:45Z)
• Physics-informed Spline Learning for Nonlinear Dynamics Discovery [8.546520029145853]
  非線形ダイナミクスの準同次制御方程式を発見するための物理インフォメーションスプライン学習フレームワークを提案する。 このフレームワークは、わずかにサンプリングされたノイズデータに基づいている。 提案手法の有効性と優位性は,複数の非線形力学系によって実証されている。
  論文  参考訳（メタデータ） (2021-05-05T23:32:43Z)
• Learning Theory for Inferring Interaction Kernels in Second-Order Interacting Agent Systems [17.623937769189364]
  推定器の強い一貫性と最適非パラメトリック min-max 収束率を確立する完全学習理論を開発する。 推定器を構築するための数値アルゴリズムは並列化可能であり、高次元問題に対してよく機能し、複雑な力学系上で実証される。
  論文  参考訳（メタデータ） (2020-10-08T02:07:53Z)
• Euclideanizing Flows: Diffeomorphic Reduction for Learning Stable Dynamical Systems [74.80320120264459]
  本研究では、限られた数の人間の実演からそのような動きを学ぶためのアプローチを提案する。 複素運動は安定な力学系のロールアウトとして符号化される。 このアプローチの有効性は、確立されたベンチマーク上での検証と、現実世界のロボットシステム上で収集されたデモによって実証される。
  論文  参考訳（メタデータ） (2020-05-27T03:51:57Z)
• On dissipative symplectic integration with applications to gradient-based optimization [77.34726150561087]
  本稿では,離散化を体系的に実現する幾何学的枠組みを提案する。 我々は、シンプレクティックな非保守的、特に散逸的なハミルトン系への一般化が、制御された誤差まで収束率を維持することができることを示す。
  論文  参考訳（メタデータ） (2020-04-15T00:36:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。