論文の概要: On architectural choices for interpretability and thermodynamic consistency in Physically Recurrent Neural Networks in the low-data regime

• arxiv url: http://arxiv.org/abs/2610.04067v1
• Date: Fri, 02 Oct 2026 21:19:52 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 21:04:48.499635
• Title: On architectural choices for interpretability and thermodynamic consistency in Physically Recurrent Neural Networks in the low-data regime
• Title（参考訳）: 低データ状態における物理リカレントニューラルネットワークの解釈可能性と熱力学的整合性に関するアーキテクチャ的選択
• Abstract要約: 物理再帰ニューラルネットワークの潜在空間の解釈性に対する異なるデコーダアーキテクチャの影響を明らかにする。 新しい重み正規化制約は正規化手法として機能し、低データ状態における堅牢なトレーニングを可能にする。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: In this paper, we unravel the effect of different decoder architectures on the interpretability of the latent space of the Physically Recurrent Neural Network. Particular emphasis is given to a new weight normalization constraint, which acts as a regularization technique and enables robust training in the low-data regime. A brief visual exploration illustrates how these changes impact the latent space and how the fictitious stress can align with the true state of the RVE without explicit training. Reaping the benefits of a meaningful latent space, a case study illustrates how information from the microscopic level can be retrieved and incorporated into a multi-task approach that does not require extra parameters or larger training sets. Another key contribution shows that a specific architectural choice can naturally lead to a thermodynamically consistent formulation. By enforcing an adjoint encoder-decoder structure with positive scalar contributions, this modification ensures energy consistency across scales and non-negative dissipation, leading to even lower training requirements. This alternative completes the study on interpretability, inductive bias, and thermodynamic consistency, and demonstrates that data efficiency can be improved with careful architectural choices rooted in the underlying physics.
• Abstract（参考訳）: 本稿では,物理リカレントニューラルネットワークの潜伏空間の解釈性に対する異なるデコーダアーキテクチャの影響を明らかにする。 特に強調されるのは、正規化技術として機能し、低データ体制における堅牢なトレーニングを可能にする新しい重み正規化制約である。 簡単な視覚的な探索では、これらの変化が潜伏空間にどのように影響するか、そして架空のストレスが露骨な訓練なしでRVEの真の状態とどのように一致しているかが示される。 有意義な潜在空間の利点を享受し、ケーススタディでは、顕微鏡レベルからの情報が、余分なパラメータやより大きなトレーニングセットを必要としないマルチタスクアプローチにどのように取り込まれるかを示します。 別の重要な貢献は、特定のアーキテクチャの選択が自然に熱力学的に一貫した定式化につながることを示している。 随伴エンコーダ・デコーダ構造を正のスカラー寄与で強制することにより、この修正はスケール間のエネルギー一貫性と非負の散逸を保証し、さらに低いトレーニング要求をもたらす。 この代替案は、解釈可能性、誘導バイアス、熱力学的整合性の研究を完了し、基礎となる物理学に根ざしたアーキテクチャ選択により、データ効率が改善できることを実証する。

関連論文リスト

• Large Vision-Language Models Get Lost in Attention [51.851592109135716]
  本稿では,情報理論と幾何に基づく統合フレームワークを提案し,残差更新の幾何的およびエントロピー的性質を定量化する。 注意は再設定に焦点を当てたサブスペース言語演算子として機能し、FFNはセマンティックイノベーションを駆動するサブスペース言語演算子として機能します。
  論文  参考訳（メタデータ） (2026-05-07T04:45:52Z)
• Physics-Informed Neural Learning for State Reconstruction and Parameter Identification in Coupled Greenhouse Climate Dynamics [0.0]
  物理インフォームドニューラルネットワーク(PINN)は最近、データ駆動学習と物理知識を統合するための有望なフレームワークとして登場した。 本研究では,温室環境における室内温度と湿度の動的変化を共同で再現するためのPINN手法を提案する。
  論文  参考訳（メタデータ） (2026-05-04T12:26:30Z)
• Kirchhoff-Inspired Neural Networks for Evolving High-Order Perception [51.28469959548178]
  我々はKirchhoff-Inspired Neural Network (KINN)を提案する。 KINNは、基本的な常微分方程式から数値的に安定な状態更新を導き、より高階の進化成分の明示的な分離と符号化を可能にする。
  論文  参考訳（メタデータ） (2026-03-25T06:17:31Z)
• Hard-Constrained Neural Networks with Physics-Embedded Architecture for Residual Dynamics Learning and Invariant Enforcement in Cyber-Physical Systems [0.5735035463793009]
  我々は、リカレントインテグレータ内に既知の物理をハード構造制約として埋め込んだ汎用アーキテクチャであるHybrid Recurrent Physics-Informed Neural Network (HRPINN) を定式化し、残留力学のみを学習する。 第2に,計画HRPINN (PHRPINN, Projected HRPINN) を導入する。 実世界のバッテリ確率DAEでHRPINNを評価し,標準制約ベンチマークでPHRPINNを評価する。
  論文  参考訳（メタデータ） (2025-11-28T16:06:24Z)
• Can Training Dynamics of Scale-Invariant Neural Networks Be Explained by the Thermodynamics of an Ideal Gas? [4.565724079570854]
  本研究では,スケール不変ニューラルネットワークの重み減衰を伴う勾配降下(SGD)の定常分布を記述する枠組みを開発する。 定常エントロピーの挙動を含むフレームワークの重要な予測は,実験観測と密接に一致していることを示す。
  論文  参考訳（メタデータ） (2025-11-10T17:10:01Z)
• Rethinking the Role of Dynamic Sparse Training for Scalable Deep Reinforcement Learning [58.533203990515034]
  ニューラルネットワークのスケーリングは機械学習における画期的な進歩をもたらしたが、このパラダイムは深層強化学習(DRL)では失敗している。 我々は、動的スパーストレーニング戦略が、アーキテクチャの改善によって確立された主要なスケーラビリティ基盤を補完するモジュール固有の利点を提供することを示す。 アーキテクチャ改善の利点を生かした実践的なフレームワークであるModule-Specific Training (MST) にこれらの知見を精査し、アルゴリズムの修正なしに様々なRLアルゴリズムをまたいだ大幅なスケーラビリティ向上を示す。
  論文  参考訳（メタデータ） (2025-10-14T03:03:08Z)
• Structured Kolmogorov-Arnold Neural ODEs for Interpretable Learning and Symbolic Discovery of Nonlinear Dynamics [3.507097894538744]
  構造化状態空間モデリングをKAN(Kolmogorov-Arnold Networks)と統合するフレームワークを提案する。 SKANODEは、全トレーニング可能なkanをユニバーサル関数近似器として使用し、仮想センシングを行い、変位や速度などの解釈可能な物理量に対応する潜在状態を回復する。 シミュレーションおよび実世界のシステムに関する実験は、SKANODEが優れた予測精度を達成し、物理に一貫性のある力学を発見し、複雑な非線形挙動を明らかにすることを示した。
  論文  参考訳（メタデータ） (2025-06-23T06:42:43Z)
• High-Fidelity Scientific Simulation Surrogates via Adaptive Implicit Neural Representations [51.90920900332569]
  入射神経表現(INR)は空間的に構造化されたデータをモデリングするためのコンパクトで連続的なフレームワークを提供する。 近年のアプローチでは、剛性幾何学的構造に沿った付加的な特徴を導入することでこの問題に対処している。 機能適応型INR(FA-INR)を提案する。
  論文  参考訳（メタデータ） (2025-06-07T16:45:17Z)
• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)
• Gradient Starvation: A Learning Proclivity in Neural Networks [97.02382916372594]
  グラディエント・スターベーションは、タスクに関連する機能のサブセットのみをキャプチャすることで、クロスエントロピー損失を最小化するときに発生する。 この研究は、ニューラルネットワークにおけるそのような特徴不均衡の出現に関する理論的説明を提供する。
  論文  参考訳（メタデータ） (2020-11-18T18:52:08Z)
• A physics-informed operator regression framework for extracting data-driven continuum models [0.0]
  高忠実度分子シミュレーションデータから連続体モデルを発見するためのフレームワークを提案する。 提案手法は、モーダル空間における制御物理のニューラルネットワークパラメタライゼーションを適用する。 局所・非局所拡散過程や単相・多相流など,様々な物理分野におけるフレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2020-09-25T01:13:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。