論文の概要: OrthoReg: Orthogonal Regularization for Hybrid Symbolic-Neural Dynamical Systems
- arxiv url: http://arxiv.org/abs/2606.19145v1
- Date: Wed, 17 Jun 2026 14:48:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.215941
- Title: OrthoReg: Orthogonal Regularization for Hybrid Symbolic-Neural Dynamical Systems
- Title(参考訳): OrthoReg:ハイブリッドシンボリックニューラル力学系のための直交正則化
- Authors: Till Richter, Niki Kilbertus,
- Abstract要約: ハイブリッドモデリングは、所定のまたは象徴的な物理ベースのコンポーネントと柔軟なニューラルネットワークを組み合わせることで、両方の世界の最高のものを目指している。
OrthoRegは、シンボリック・コンポーネントとニューラル・コンポーネントの重複を罰し、ニューラル・残基によってシンボリック・構造が吸収されるのを防ぐ。
部分的なライブラリミスマッチを持つベンチマーク動的システムでは、OrthoRegはシンボリックリカバリとアウト・オブ・ディストリビューションの振る舞いを改善している。
- 参考スコア(独自算出の注目度): 9.896592650796077
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamical systems are fundamental to modeling the natural world, yet modeling them involves a persistent trade-off: manually prescribed mechanistic models are interpretable by design but often overly simplistic and misspecified; in contrast, flexible data-driven neural methods lack physical insight. Hybrid modeling aims for the best of both worlds by combining a prescribed or symbolic, physics-based component with a flexible neural network. A critical challenge, however, is that the neural component may relearn mechanistic parts, yielding redundant and uninterpretable models, especially when the symbolic structure itself is discovered from data. Existing methods based on standard $L^2$ regularization rely on a projection argument that breaks when the symbolic component is learned through sparse discovery, allowing the neural augmentation to overlap with symbolic structure. We introduce \textbf{OrthoReg} (Orthogonal Regularization), which directly penalizes overlap between the symbolic and neural components, preventing symbolic structure from being absorbed by the neural residual. This yields a complementary decomposition: the symbolic part captures what the library can express, and the neural part captures what remains. On benchmark dynamical systems with partial library mismatch, OrthoReg improves symbolic recovery and out-of-distribution behavior.
- Abstract(参考訳): 動的システムは、自然界をモデル化する上で基本的なものであるが、モデリングには永続的なトレードオフが伴う。手動で規定された機械的モデルは、設計によって解釈されるが、しばしば過度に単純化され、不明確である。
ハイブリッドモデリングは、所定のまたは象徴的な物理ベースのコンポーネントと柔軟なニューラルネットワークを組み合わせることで、両方の世界の最高のものを目指している。
しかし、重要な課題は、特に記号構造自体がデータから発見されたとき、神経成分が機械的部分を再生し、冗長で解釈不能なモデルを生成することである。
標準の$L^2$正規化に基づく既存の手法は、シンボル成分がスパース発見によって学習されたときに破れるプロジェクション引数に依存しており、ニューラル拡張はシンボル構造と重なる。
直交正則化法(Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization, Orthogonal Regularization)を導入する。
シンボリック部はライブラリが表現できるものをキャプチャし、ニューラル部は残りのものをキャプチャする。
部分的なライブラリミスマッチを持つベンチマークの動的システムでは、OrthoRegはシンボリックリカバリとアウト・オブ・ディストリビューションの振る舞いを改善している。
関連論文リスト
- Symbolic--KAN: Kolmogorov-Arnold Networks with Discrete Symbolic Structure for Interpretable Learning [0.19999259391104388]
シンボリック・コルモゴロフ・アルノルドネットワーク(シンボリック・カン)を紹介する。
シンボリック・カンは訓練可能な深層ネットワークに直接離散的なシンボル構造を埋め込む。
そこで,Symbolic-KANはデータ駆動回帰および逆力学系において,正しい原始項と規則構造を確実に回復することを示す。
論文 参考訳(メタデータ) (2026-03-25T02:31:13Z) - Separable neural architectures as a primitive for unified predictive and generative intelligence [0.7318787399845128]
我々は、加法モデル、二次モデル、テンソル分解モデルを統合する表現クラスを定式化する。
SNAは、高次元の高分解成分への写像を分解する構造的帰納バイアスを課す。
これらの結果は、予測および生成知能のドメインに依存しないプリミティブとして分離可能なニューラルアーキテクチャを確立する。
論文 参考訳(メタデータ) (2026-03-12T17:56:54Z) - Compositional Generalization Across Distributional Shifts with Sparse Tree Operations [77.5742801509364]
我々は、微分可能木機械と呼ばれる統合されたニューロシンボリックアーキテクチャを導入する。
シンボル構造の疎ベクトル表現を用いることで,モデルの効率を大幅に向上する。
より一般的なseq2seq問題に制限されたtree2tree問題以外の適用を可能にする。
論文 参考訳(メタデータ) (2024-12-18T17:20:19Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - On the Trade-off Between Efficiency and Precision of Neural Abstraction [62.046646433536104]
ニューラル抽象化は、最近、複雑な非線形力学モデルの形式近似として導入されている。
我々は形式的帰納的合成法を用いて、これらのセマンティクスを用いた動的モデルをもたらすニューラル抽象化を生成する。
論文 参考訳(メタデータ) (2023-07-28T13:22:32Z) - A Recursive Bateson-Inspired Model for the Generation of Semantic Formal
Concepts from Spatial Sensory Data [77.34726150561087]
本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。
このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。
このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
論文 参考訳(メタデータ) (2023-07-16T15:59:13Z) - Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。
NSRは神経知覚、構文解析、意味推論を統合している。
我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
論文 参考訳(メタデータ) (2022-10-04T13:27:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。