論文の概要: Adaptive Data Harvesting for Efficient Neural Network Learning with Universal Constraints
- arxiv url: http://arxiv.org/abs/2605.09707v1
- Date: Sun, 10 May 2026 19:09:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.382717
- Title: Adaptive Data Harvesting for Efficient Neural Network Learning with Universal Constraints
- Title(参考訳): Universal Constraintsを用いたニューラルネットワーク学習のための適応型データハーベスティング
- Authors: Siteng Kang, Xinhua Zhang,
- Abstract要約: 連続的なドメインに対する普遍的な制約を満たすためにニューラルネットワークを訓練することは、ユニークな課題である。
本稿では,データと経験から学び,モデルが進化する学習性能に応じて,サンプルを動的かつ反復的に調整する方法によって,既存の手法を改善することを目的とする。
Lyapunov NN と PINN の両方でのアプローチを検証するとともに,適応型入力選択が効果的なトレーニングに不可欠である領域に適用可能であることを示す。
- 参考スコア(独自算出の注目度): 9.63425149010059
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training neural networks to satisfy universal constraints over continuous domains poses unique challenges. Common examples include Lyapunov Neural Networks (Lyapunov NNs) and Physics-Informed Neural Networks (PINNs), where analytical solutions are generally either unavailable or overly restrictive. Sample-based methods are therefore commonly used to enforce these constraints, and the choice of samples has a substantial impact on convergence speed, stability, and solution quality. Most existing methods rely on fixed heuristics or handcrafted rules, and are suboptimal in practice. In this paper, we aim to improve upon them by learning, from data and experience, how to dynamically and iteratively adjust the samples in response to the model's evolving learning performance. Trained by reinforcement learning, the learned policy improves empirical constraint satisfaction on test problems while significantly improving efficiency. We validate the approach on both Lyapunov NNs and PINNs, and demonstrate its broader applicability to domains where adaptive input selection is essential for effective training.
- Abstract(参考訳): 連続的なドメインに対する普遍的な制約を満たすためにニューラルネットワークを訓練することは、ユニークな課題である。
一般的な例としては、Lyapunov Neural Networks (Lyapunov NNs) や Physics-Informed Neural Networks (PINNs) がある。
したがって、サンプルベースの手法はこれらの制約を強制するために一般的に使われており、サンプルの選択は収束速度、安定性、溶液品質に大きな影響を及ぼす。
既存の手法の多くは固定的なヒューリスティックや手作りの規則に依存しており、実際は準最適である。
本稿では,データと経験から学び,モデルの進化する学習性能に応じて,サンプルを動的かつ反復的に調整する方法を提案する。
強化学習によって訓練され、学習方針はテスト問題に対する経験的制約満足度を改善し、効率を大幅に改善する。
Lyapunov NN と PINN の両方でのアプローチを検証するとともに,適応型入力選択が効果的なトレーニングに不可欠である領域に適用可能であることを示す。
関連論文リスト
- When Learning Hurts: Fixed-Pole RNN for Real-Time Online Training [58.25341036646294]
本研究では,再帰性極の学習がデータに有意な利点をもたらしない理由を解析的に検討し,実時間学習シナリオを実証的に提供する。
固定極ネットワークは、トレーニングの複雑さを低減し、オンラインリアルタイムタスクにより適していることを示す。
論文 参考訳(メタデータ) (2026-02-25T00:15:13Z) - Self-adaptive weighting and sampling for physics-informed neural networks [0.5302833929459496]
物理インフォームドニューラルネットワーク(PINN)の性能向上を目的としたハイブリッド適応サンプリングおよび重み付け手法を提案する。
提案するフレームワークは予測精度とトレーニング効率を継続的に改善し,PDEをPINNで解くための堅牢なアプローチを提供する。
論文 参考訳(メタデータ) (2025-11-07T17:48:11Z) - Optimizers Qualitatively Alter Solutions And We Should Leverage This [62.662640460717476]
ディープニューラルネットワーク(DNN)は、SGDのようなローカル情報のみを使用する場合、損失のグローバルな最小限に収束することを保証できない。
コミュニティは、既存のメソッドのバイアスを理解すること、また、ソリューションの特定の特性を誘発する明示的な意図で、新しいDNNを構築することを目的としている。
論文 参考訳(メタデータ) (2025-07-16T13:33:31Z) - Adaptive Physics-informed Neural Networks: A Survey [15.350973327319418]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式を解くための有望なアプローチとして登場した。
本調査は,移動学習とメタラーニングによる限界に対処する既存の研究をレビューする。
論文 参考訳(メタデータ) (2025-03-23T19:33:05Z) - Switchable Decision: Dynamic Neural Generation Networks [98.61113699324429]
本稿では,各データインスタンスのリソースを動的に割り当てることで,推論を高速化するスイッチブルな決定を提案する。
提案手法は, 同一の精度を維持しながら, 推論時のコスト低減に有効である。
論文 参考訳(メタデータ) (2024-05-07T17:44:54Z) - Achieving Constraints in Neural Networks: A Stochastic Augmented
Lagrangian Approach [49.1574468325115]
DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。
制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。
我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
論文 参考訳(メタデータ) (2023-10-25T13:55:35Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - An Expert's Guide to Training Physics-informed Neural Networks [5.198985210238479]
物理インフォームドニューラルネットワーク(PINN)はディープラーニングフレームワークとして普及している。
PINNは観測データと偏微分方程式(PDE)の制約をシームレスに合成することができる。
PINNのトレーニング効率と全体的な精度を大幅に向上させる一連のベストプラクティスを提案する。
論文 参考訳(メタデータ) (2023-08-16T16:19:25Z) - Training multi-objective/multi-task collocation physics-informed neural
network with student/teachers transfer learnings [0.0]
本稿では,事前学習ステップとネット間知識伝達アルゴリズムを用いたPINNトレーニングフレームワークを提案する。
多目的最適化アルゴリズムは、競合する制約のある物理的インフォームドニューラルネットワークの性能を向上させることができる。
論文 参考訳(メタデータ) (2021-07-24T00:43:17Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。