論文の概要: From Non-Convex Self-Concordant Regularization to Scalable Quasi-Newton Training of PINNs
- arxiv url: http://arxiv.org/abs/2608.04206v1
- Date: Tue, 04 Aug 2026 20:05:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.623032
- Title: From Non-Convex Self-Concordant Regularization to Scalable Quasi-Newton Training of PINNs
- Title(参考訳): 非凸自己調和型正規化からPINNのスケーラブル準ニュートントレーニングへ
- Abstract要約: SCOREは、PINNトレーニングのためのデクリメント結合シフトセカント幾何を持つ自己一致型準ニュートン法である。
その区別機構は、学習された逆計量から計算された1つの準ニュートンデクリメントが強いウルフテストされた候補ステップを共同で決定することである。
バーガース、倉本-シヴァシンスキー、コルテヴェーグ-ド・フリーズ、複雑なギンズブルグ-ランダウ方程式の実験は、SCOREが試験されたBFGSや自己スケールのブロイデン基底線よりも低い最終誤差を達成していることを示している。
- 参考スコア(独自算出の注目度): 10.223108587188808
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Physics-informed neural networks (PINNs) often require high-accuracy quasi-Newton refinement to obtain reliable partial differential equation solutions, but their residual objectives can exhibit indefinite, nearly singular, and poorly scaled local curvature. Regularized quasi-Newton methods provide established mechanisms for stabilizing secant models, while self-concordant methods provide local-metric rules for curvature-dependent step selection. Building on these two lines of work, we propose SCORE, a self-concordance-inspired quasi-Newton method with decrement-coupled shifted secant geometry for PINN training. Its distinguishing mechanism is that a single quasi-Newton decrement computed from the learned inverse metric jointly determines a strong-Wolfe-tested candidate step and an adaptive shift used to define the next secant geometry. The shifted displacement represents the action of an averaged shifted metric along the accepted step, while requiring neither Hessian construction nor Hessian-vector products. Under a local spectral-equivalence condition, we show that the quasi-Newton decrement and candidate step remain comparable to their counterparts in a positive shifted metric, and recover the normalized self-concordant rule in the matched-metric case. Strong Wolfe acceptance, fallback line search, and standard curvature safeguards provide globalization without modifying the underlying PINN objective. Experiments on the viscous Burgers, Kuramoto--Sivashinsky, Korteweg--de Vries, and complex Ginzburg--Landau equations show that SCORE attains lower final errors than the tested BFGS and self-scaled Broyden baselines. The Burgers ablation further indicates that shifted curvature stabilization and decrement-based step selection make complementary contributions to high-accuracy refinement.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)は、信頼性のある偏微分方程式の解を得るために、精度の高い準ニュートン精製を必要とすることが多いが、その残余の目的は不確定で、ほぼ特異で、スケールの悪い局所曲率を示すことができる。
正則化準ニュートン法はセカントモデルの安定化のための確立されたメカニズムを提供し、自己調和法は曲率に依存したステップ選択のための局所的な規則を提供する。
これら2行の作業に基づいて, PINN トレーニングのためのデクリメント結合シフトセカント幾何を用いた自己一致型準ニュートン法 SCORE を提案する。
その区別機構は、学習された逆計量から計算された1つの準ニュートンデクリメントが、強いウルフテストされた候補ステップと次のセカント幾何を定義するのに使用される適応シフトを共同で決定することである。
シフト変位は、受け入れられたステップに沿った平均シフト計量の作用を表すが、ヘッセン構成もヘッセンベクトル積も必要としない。
局所スペクトル同値条件下では,準ニュートン偏差と準ニュートン偏差は正シフト計量の値と同等であり,整合計量の場合の正規化自己一致規則を回復する。
強いウルフの受容、フォールバックライン探索、および標準曲率保護は、基礎となるPINNの目的を変更することなくグローバリゼーションを提供する。
粘性バーガース(英語版)、倉本-シヴァシンスキー(英語版)、コルテヴェーグ-デ・ヴリー(英語版)、複雑なギンズブルグ-ランダウ方程式の実験は、SCOREが試験されたBFGSや自己スケールのブロイデン基底線よりも低い最終誤差を達成できることを示している。
バーガースのアブレーションは、シフトした曲率安定化とデクリメントに基づくステップ選択が、高い精度の精錬に相補的な貢献をすることを示している。
関連論文リスト
- Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。
本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。
我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。
スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文 参考訳(メタデータ) (2026-08-25T15:07:11Z) - Symplectic H2 Model Reduction for High-Dimensional Linear Quantum Systems [3.7887687619674413]
シンプレクティックなペトロフ・ガレルキンの枠組みが提示され、低次モデルは建設によってPRのアイデンティティを自動的に満たす。
反復有理クリロフアルゴリズムのシンプレクティック変種を開発し、量子IRKA(Q-IRKA)と呼ぶ。
その結果,Q-IRKAは大規模線形量子システムに有効であることが示唆された。
論文 参考訳(メタデータ) (2026-05-08T02:38:57Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Tighter Asymptotic Key Rates for Intensity-Correlated Decoy-State QKD via Nonlinear Programming [0.0]
実際のソースは、ラウンド全体で相関する強度のドリフトを示し、潜在的に強度情報をリークし、リニアプログラムへの標準のデコイ状態の還元を破ることができる。
まず、内点非線形IPOPTを用いてパラメータ推定の完全な問題を解き、得られた候補解を鍵レートの有効な下限を証明した外解器の線形化点として利用する。
粗粒度モデル非依存相関と微粒化ガウスモデルの両方のシミュレーションは、正準基準点よりも一貫した鍵レート境界を示し、場合によっては、両方の最適化段階が一致するときに最適性を証明することができる。
論文 参考訳(メタデータ) (2026-02-04T19:00:05Z) - Breaking the Stochasticity Barrier: An Adaptive Variance-Reduced Method for Variational Inequalities [0.0]
非コン最適化タスクのための新しいアルゴリズムとしてVR-A-A(VarianceReduced-Ascent with Armijo)を提案する。
本手法は,手動学習スケジューリングへの依存度を低減して,限界周期を効果的に抑制し,収束を加速することを示す。
論文 参考訳(メタデータ) (2026-01-30T14:43:07Z) - Probing the Ground State of the Antiferromagnetic Heisenberg Model on the Kagome Lattice using Geometrically Informed Variational Quantum Eigensolver [0.0]
本研究では,最小限のカゴメ細胞上での反強磁性ハイゼンベルク模型の基底状態の性質について検討する。
本研究では, ハードウェア効率の浅い量子回路を用いて, 基底状態の準備が可能であることを実証した。
さらに、ゼロノイズレイリー(ZNE)やキュービットワイド・リードアウト・エラー緩和(REM)などの誤差軽減手法を適用した。
論文 参考訳(メタデータ) (2025-09-22T17:02:58Z) - Simple Stepsize for Quasi-Newton Methods with Global Convergence Guarantees [46.16377198030688]
我々は、凸関数に対して大域収束率$O (1/k) を保証できる単純なステップサイズスケジュールを導入することで、準ニュートン法の理論的理解を拡大する。
ヘッセン近似の不完全性が所定の相対的精度で制御された場合、ネステロフの加速勾配法と3次正規化ニュートン法の両方の最もよく知られた速度に一致する1O (1/k)$の加速収束率が得られることを示す。
論文 参考訳(メタデータ) (2025-08-27T09:18:51Z) - Euclidean Distance Matrix Completion via Asymmetric Projected Gradient Descent [25.846262685970164]
本稿では,Burer-Monteiro因子化に基づく勾配型アルゴリズムの提案と解析を行う。
部分ユークリッド距離測定から点集合構成を再構成する。
論文 参考訳(メタデータ) (2025-04-28T07:13:23Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Provably Accelerating Ill-Conditioned Low-rank Estimation via Scaled
Gradient Descent, Even with Overparameterization [48.65416821017865]
この章では、スケールドグラデーション(ScaledGD)と呼ばれる新しいアルゴリズムアプローチを紹介します。
低ランク物体の条件数に依存しない定数速度で直線的に収束する。
様々なタスクに対して、勾配降下の低い摂動コストを維持できる。
論文 参考訳(メタデータ) (2023-10-09T21:16:57Z) - Error-Correcting Neural Networks for Two-Dimensional Curvature
Computation in the Level-Set Method [0.0]
本稿では,2次元曲率をレベルセット法で近似するための誤差ニューラルモデルに基づく手法を提案する。
我々の主な貢献は、需要に応じて機械学習操作を可能にする数値スキームに依存する、再設計されたハイブリッド・ソルバである。
論文 参考訳(メタデータ) (2022-01-22T05:14:40Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。