論文の概要: Physics-informed learning under mixing: How physical knowledge speeds up learning
- arxiv url: http://arxiv.org/abs/2509.24801v1
- Date: Mon, 29 Sep 2025 13:52:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-30 22:32:20.025731
- Title: Physics-informed learning under mixing: How physical knowledge speeds up learning
- Title(参考訳): 物理インフォームドラーニング : 物理知識が学習をいかに加速させるか
- Authors: Anna Scampicchio, Leonardo F. Toso, Rahel Rickenbach, James Anderson, Melanie N. Zeilinger,
- Abstract要約: 物理インフォームド機械学習における大きな課題は、事前ドメイン知識の取り込みがデータに依存する場合の学習率にどのように影響するかを理解することである。
確率と予測における余剰リスクに複雑性に依存した境界を導出する。
物理先行情報が整列されると、学習速度が(低)ソボレフのミニマックスレートから(高速)最適i.dに向上することを示す。
- 参考スコア(独自算出の注目度): 8.591626745222184
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A major challenge in physics-informed machine learning is to understand how the incorporation of prior domain knowledge affects learning rates when data are dependent. Focusing on empirical risk minimization with physics-informed regularization, we derive complexity-dependent bounds on the excess risk in probability and in expectation. We prove that, when the physical prior information is aligned, the learning rate improves from the (slow) Sobolev minimax rate to the (fast) optimal i.i.d. one without any sample-size deflation due to data dependence.
- Abstract(参考訳): 物理インフォームド機械学習における大きな課題は、事前ドメイン知識の取り込みがデータに依存する場合の学習率にどのように影響するかを理解することである。
物理インフォームド正規化による経験的リスク最小化に着目して、確率と予測における過剰なリスクと複雑性に依存した境界を導出する。
物理的事前情報が整列された場合、学習速度は(低)ソボレフのミニマックスレートから(高速)最適、すなわちデータ依存によるサンプルサイズのデフレのないものへと改善する。
関連論文リスト
- Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。
本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。
本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
論文 参考訳(メタデータ) (2025-07-31T05:34:27Z) - Why Reinforcement Fine-Tuning Enables MLLMs Preserve Prior Knowledge Better: A Data Perspective [98.45690529036848]
Supervised Fine-Tuning (SFT) や Reinforcement Fine-Tuning (RFT) といったポストトレーニングアルゴリズムは、マルチモーダルな大規模言語モデルを下流タスクに適応するために広く使われている。
タスク適応には有効であるが、以前の知識に対する影響はいまだ不明である。
論文 参考訳(メタデータ) (2025-06-30T04:15:01Z) - Physically-informed change-point kernels for structural dynamics [0.0]
本稿では,ガウス過程のための新しい,物理的にインフォームドされた,変化点カーネルを開発する。
ユーザに対して高いレベルのコントロールが与えられ、現象が発生するべき条件の定義が可能になる。
また、物理現象に基づいてモデル化された雑音のバラツキも実施し、予測とともに不確実性をより顕著に捉えた。
論文 参考訳(メタデータ) (2025-06-13T09:52:49Z) - Mind the Interference: Retaining Pre-trained Knowledge in Parameter Efficient Continual Learning of Vision-Language Models [79.28821338925947]
ドメインクラスのインクリメンタル学習は現実的だが、継続的な学習シナリオである。
これらの多様なタスクに対処するために、事前訓練されたビジョンランゲージモデル(VLM)を導入し、その強力な一般化性を実現する。
事前訓練されたVLMにエンコードされた知識は、新しいタスクに適応する際に妨げられ、固有のゼロショット能力を損なう。
既存の手法では、膨大なオーバーヘッドを必要とする余分なデータセットに知識蒸留でVLMをチューニングすることで、この問題に対処している。
我々は、事前学習した知識を保持できるDIKI(Distributed-Aware Interference-free Knowledge Integration)フレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-07T12:19:37Z) - Physics-informed machine learning as a kernel method [7.755962782612672]
経験的リスクを偏微分方程式で正則化する一般回帰問題を考える。
カーネル理論の利点を生かして、正規化リスクの最小化に対する収束率を導出する。
物理誤差に応じて高速な速度が達成可能であることを示す。
論文 参考訳(メタデータ) (2024-02-12T09:38:42Z) - Causal Deep Learning [77.49632479298745]
因果性は、現実世界の問題を解決する方法を変える可能性がある。
しかし因果関係は、実際にテストできない重要な仮定を必要とすることが多い。
我々は、因果性に関する新しい考え方を提案します。
論文 参考訳(メタデータ) (2023-03-03T19:19:18Z) - When Do Curricula Work in Federated Learning? [56.88941905240137]
カリキュラム学習は非IID性を大幅に軽減する。
クライアント間でデータ配布を多様化すればするほど、学習の恩恵を受けるようになる。
本稿では,クライアントの現実的格差を生かした新しいクライアント選択手法を提案する。
論文 参考訳(メタデータ) (2022-12-24T11:02:35Z) - Sample-Efficient Reinforcement Learning in the Presence of Exogenous
Information [77.19830787312743]
実世界の強化学習アプリケーションでは、学習者の観察空間は、その課題に関する関連情報と無関係情報の両方でユビキタスに高次元である。
本稿では,強化学習のための新しい問題設定法であるExogenous Decision Process (ExoMDP)を導入する。
内因性成分の大きさのサンプル複雑度で準最適ポリシーを学習するアルゴリズムであるExoRLを提案する。
論文 参考訳(メタデータ) (2022-06-09T05:19:32Z) - Perturbation Theory for the Information Bottleneck [6.117084972237769]
情報ボトルネック (IB) は、データから関連情報を抽出する手法である。
IB問題の非線形性は、一般に計算コストが高く解析的に難解である。
IB法に対する摂動理論を導出し,学習開始の完全な特徴を報告した。
論文 参考訳(メタデータ) (2021-05-28T16:59:01Z) - Transfer learning based multi-fidelity physics informed deep neural
network [0.0]
支配微分方程式は、近似的な意味では知られていないか、知られているかのどちらかである。
本稿では,深部ニューラルネットワーク(MF-PIDNN)を用いた多要素物理について述べる。
MF-PIDNNは、転送学習の概念を用いて、物理情報とデータ駆動型ディープラーニング技術をブレンドする。
論文 参考訳(メタデータ) (2020-05-19T13:57:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。