論文の概要: Coercivity and Local Convergence of Physical Learning in Linear Circuits
- arxiv url: http://arxiv.org/abs/2606.15443v1
- Date: Sat, 13 Jun 2026 19:18:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.575896
- Title: Coercivity and Local Convergence of Physical Learning in Linear Circuits
- Title(参考訳): 線形回路における物理学習の保磁力と局所収束
- Abstract要約: 物理学習法は、物理ネットワークを訓練し、ローカル更新ルールのみを使用して計算タスクを実行する。
3つの手法の局所収束解析を初めて行う。
我々は、対称性が保磁力定数を縮退させるカイト回路を提示することで、保磁力は失敗することを示した。
- 参考スコア(独自算出の注目度): 0.25489046505746704
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Physical learning methods train physical networks to perform computational tasks using only local update rules, exploiting the physics of the system to handle the global transfer of information. We provide the first local convergence analysis of three such methods -- Equilibrium Propagation (EP), Coupled Learning (CL), and a new method we call Adjoint Coupled Learning (AL) -- for linear circuits, in the limit of small-nudging for both discrete and continuous time. EP and AL perform gradient descent on a natural loss function, while CL follows modified dynamics with an additional cubic correction. Assuming the existence of a solution, we identify a coercivity condition, expressed as a rank condition on a matrix built from the network's incidence structure, under which the training loss decays exponentially and the parameters converge to the solution manifold. We show that coercivity can fail by exhibiting a kite circuit in which a symmetry causes the coercivity constant to degenerate on the solution manifold, but prove using Sard's theorem that such degeneracies are non-generic: coercivity holds at every point of the solution manifold for almost every choice of desired output.
- Abstract(参考訳): 物理学習手法は、物理ネットワークにローカル更新ルールのみを使用して計算タスクを実行するように訓練し、システムの物理を利用して情報のグローバル転送を処理する。
本稿では, 線形回路に対して, 平衡伝搬(EP), 結合学習(CL) と, 離散時間と連続時間の両方の小さなニュジングの限界において, 共役結合学習(AL) と呼ぶ新しい手法の3つの手法の局所収束解析を行った。
EPとALは自然損失関数の勾配降下を行い、CLは3次補正を加えて修正されたダイナミクスに従う。
解が存在すると仮定すると、トレーニング損失が指数関数的に減少し、パラメータが解多様体に収束するネットワークの入射構造から構築された行列上のランク条件として表される保磁条件を同定する。
我々は、対称性が解多様体上で保磁率定数を退化させるカイト回路を示すことによって、保磁力が失敗することを示したが、そのような退化係数が非退化であることを示すサードの定理を用いて証明する: 保磁力は解多様体のほぼすべての点において、所望の出力の任意の選択に対して成り立つ。
関連論文リスト
- Linearized PINN with pretrained nonlinear layers [48.01541150431857]
lPINNは、前方および逆微分方程式の低次ニューラルネットワーク基底法である。
我々は, 対流拡散方程式, バーガーズ方程式, 非線形振り子方程式に対する逆問題に対する lPINN の評価を行った。
論文 参考訳(メタデータ) (2026-09-14T02:18:00Z) - Effective Covariance Dynamics in Solvable High-Dimensional GANs [2.639628765667673]
線形生成器がデータから低次元部分空間を学習するGANトレーニングの可解な高次元モデルについて検討する。
顕微鏡トレーニングプロセスが高次元の極限において、この効果的な共分散によって支配される決定論的常微分方程式に収束することを証明する。
論文 参考訳(メタデータ) (2026-06-25T16:33:54Z) - A Convex Quasilinearization Method for Solving Nonlinear PDEs with Physics-Informed Neural Networks [0.0]
非線形偏微分方程式(PDE)の前方解の数値解法を提案する。
この方法であるLiL-Qは、7つのベンチマークで評価され(平面ひずみ弾性と2次元および3次元の非圧縮性ナビエ・ストークス方程式)、不均一な透水性を持つ定常流を含む。
論文 参考訳(メタデータ) (2026-06-16T17:09:59Z) - Hybrid Iterative Neural Low-Regularity Integrator for Nonlinear Dispersive Equations [0.0]
HIN-LRIは、古典的な数値解法をニューラルネットワークで拡張し、解法の構造化トランケーション誤差を補正するハイブリッドフレームワークである。
低次元の潜在多様体上で動作する軽量ニューラルネットワークは、分析手法が閉じられない残留欠陥を学習する。
実験により、HIN-LRIは解析的、分割的手法、神経的PDEサロゲートよりも精度を向上し、安定した空間的精細化、効果的なアウト・オブ・ディストリビューション転送、オンラインオーバーヘッドを緩和することが示された。
論文 参考訳(メタデータ) (2026-05-06T12:50:36Z) - Continuous-Time Dynamics of the Difference-of-Convex Algorithm [0.0]
凸成分を用いた滑らかな直流分解のための差分法(DCA)の連続時間構造を誘導する。
我々は、同じ目的の異なるDC分解が、異なる連続力学をリンクすることを示す。
論文 参考訳(メタデータ) (2026-04-08T10:38:07Z) - ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。
常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。
ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
論文 参考訳(メタデータ) (2026-02-07T10:19:36Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Learning Discretized Neural Networks under Ricci Flow [48.47315844022283]
低精度重みとアクティベーションからなる離散ニューラルネットワーク(DNN)について検討する。
DNNは、訓練中に微分不可能な離散関数のために無限あるいはゼロの勾配に悩まされる。
論文 参考訳(メタデータ) (2023-02-07T10:51:53Z) - Analysis of the Single Reference Coupled Cluster Method for Electronic
Structure Calculations: The Full Coupled Cluster Equations [2.3271703838711972]
本稿では,CC導関数の可逆性に基づく単一参照結合クラスタ法に対して,新しいウェルポッドネス解析を導入する。
予備的な数値実験により、我々の推定値に現れる定数は、局所的な単調性アプローチから得られる定数よりも大幅に改善されていることが示されている。
論文 参考訳(メタデータ) (2022-12-24T17:29:43Z) - Message Passing Neural PDE Solvers [60.77761603258397]
我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。
本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。
本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
論文 参考訳(メタデータ) (2022-02-07T17:47:46Z) - Mean-field Analysis of Piecewise Linear Solutions for Wide ReLU Networks [83.58049517083138]
勾配勾配勾配を用いた2層ReLUネットワークについて検討する。
SGDは単純な解に偏りがあることが示される。
また,データポイントと異なる場所で結び目が発生するという経験的証拠も提供する。
論文 参考訳(メタデータ) (2021-11-03T15:14:20Z) - Deep Learning Approximation of Diffeomorphisms via Linear-Control
Systems [91.3755431537592]
我々は、制御に線形に依存する$dot x = sum_i=1lF_i(x)u_i$という形の制御系を考える。
対応するフローを用いて、コンパクトな点のアンサンブル上の微分同相写像の作用を近似する。
論文 参考訳(メタデータ) (2021-10-24T08:57:46Z) - Least-Squares Neural Network (LSNN) Method For Scalar Nonlinear
Hyperbolic Conservation Laws: Discrete Divergence Operator [4.3226069572849966]
スカラー線形双曲保存法を解くために、最小二乗ニューラルネットワーク(LSNN)法が導入された。
本稿では,HCLを時間空間の発散形式に書き換え,新たな発散作用素を導入する。
論文 参考訳(メタデータ) (2021-10-21T04:50:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。