論文の概要: Variational Autoregressive Networks with probability priors
- arxiv url: http://arxiv.org/abs/2605.16020v1
- Date: Fri, 15 May 2026 14:54:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.325395
- Title: Variational Autoregressive Networks with probability priors
- Title(参考訳): 確率先行を考慮した変分自己回帰ネットワーク
- Authors: Piotr Białas, Piotr Korcyl, Tomasz Stebel, Dawid Zapolski,
- Abstract要約: ニューラルネットワークベースのサンプリングのようなディープラーニングアプローチも、モデルのトレーニングの難しさという、もうひとつの深刻な問題に直面している。
本稿では,本モデルに物理先行要素を組み込むことにより,性能が著しく向上することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Monte Carlo methods are essential across diverse scientific fields, yet their efficiency is frequently hampered by critical slowing down-a sharp increase in autocorrelation times near phase transitions. Although deep learning approaches, such as neural-network-based samplers, have been proposed to alleviate this issue, they face another serious problem: the difficulty of training the models. This difficulty partially stems from the overly general nature of original machine-learning architectures, which often ignore underlying physical symmetries and force networks to relearn them from scratch. In this paper, we demonstrate that incorporating physical priors into the model significantly enhances performance. Building upon existing strategies that integrate spin-spin interactions, we propose a framework that utilizes a prior probability distribution as a starting point for training. Our results for the Ising model, as well as for the Edwards-Anderson spin glass model, suggest that moving away from `blank slate' models in favor of physics-informed priors reduces the training burden and facilitates the simulation of larger system sizes in discrete spin models.
- Abstract(参考訳): モンテカルロ法は様々な科学分野において必須であるが、その効率は相転移に近い自己相関時間の急激な増加によってしばしば妨げられる。
ニューラルネットワークベースのサンプリングのようなディープラーニングアプローチはこの問題を軽減するために提案されているが、モデルのトレーニングの難しさという、もうひとつの深刻な問題に直面している。
この難しさは、基礎となる物理対称性を無視し、ネットワークをスクラッチからリリープするように強制する、オリジナルの機械学習アーキテクチャの過度に一般的な性質に部分的に起因している。
本稿では,本モデルに物理先行要素を組み込むことにより,性能が著しく向上することを示す。
本稿では,スピンスピン相互作用を統合する既存の戦略に基づいて,事前確率分布を学習の出発点とするフレームワークを提案する。
IsingモデルおよびEdwards-Andersonスピングラスモデルに対する我々の研究結果は、物理インフォームドプレッションを優先して 'ブランクスレート' モデルから離れることにより、トレーニングの負担を軽減し、離散スピンモデルにおけるより大きなシステムサイズのシミュレーションを容易にすることを示唆している。
関連論文リスト
- Orthogonal projection-based regularization for efficient model augmentation [2.6071013155805556]
ディープラーニングに基づく非線形システム同定は、実際に信頼性が高く高精度なモデルを作成する能力を示している。
これらのブラックボックスモデルは物理的解釈性に欠けており、学習のかなりの部分は、既に期待されていた、あるいは既知のシステムの振る舞いを捉えるのに費やされている。
潜在的な解決策は、物理に基づくモデリングとディープラーニングの識別の強みを組み合わせて、そのような以前の物理知識を直接モデル構造に統合することである。
論文 参考訳(メタデータ) (2025-01-10T10:33:13Z) - Transferable Post-training via Inverse Value Learning [83.75002867411263]
別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。
このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。
得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
論文 参考訳(メタデータ) (2024-10-28T13:48:43Z) - Optimizing Dense Feed-Forward Neural Networks [0.0]
本稿では,プルーニングと移動学習に基づくフィードフォワードニューラルネットワークの構築手法を提案する。
提案手法では,パラメータ数を70%以上圧縮できる。
また、ニューラルネットワークをスクラッチからトレーニングしたモデルと元のモデルを比較し、トランスファー学習レベルを評価した。
論文 参考訳(メタデータ) (2023-12-16T23:23:16Z) - Learning-based adaption of robotic friction models [50.72489248401199]
我々は、可能な限り少ないデータを用いて、既存の摩擦モデルを新しいダイナミクスに適用するための新しいアプローチを導入する。
本手法はトレーニング中に外部負荷を伴うデータに依存しないため,外部トルクセンサは不要である。
論文 参考訳(メタデータ) (2023-10-25T14:50:15Z) - Cooperative data-driven modeling [44.99833362998488]
メカニクスにおけるデータ駆動モデリングは、最近の機械学習の進歩に基づいて急速に進化している。
異なるグループによって作成された新しいデータとモデルが利用可能となり、協調モデリングの可能性が開ける。
人工ニューラルネットワークは、破滅的な忘れ、すなわち、新しいタスクでトレーニングされたときに古いタスクを実行する方法を忘れることに苦しむ。
これは、新しいタスクに既存のモデルを適用することが、誰かによって訓練された前のタスクのパフォーマンスに影響を与えるため、協力を妨げる。
論文 参考訳(メタデータ) (2022-11-23T14:27:25Z) - Slimmable Networks for Contrastive Self-supervised Learning [69.9454691873866]
自己教師付き学習は、大規模なモデルを事前訓練する上で大きな進歩を遂げるが、小さなモデルでは苦労する。
追加の教師を必要とせず、訓練済みの小型モデルを得るための1段階のソリューションも導入する。
スリム化可能なネットワークは、完全なネットワークと、様々なネットワークを得るために一度にトレーニングできるいくつかの重み共有サブネットワークから構成される。
論文 参考訳(メタデータ) (2022-09-30T15:15:05Z) - Multi-Objective Physics-Guided Recurrent Neural Networks for Identifying
Non-Autonomous Dynamical Systems [0.0]
制御対象の非自律系をモデル化するための物理誘導型ハイブリッド手法を提案する。
これはリカレントニューラルネットワークによって拡張され、洗練された多目的戦略を使用してトレーニングされる。
実データを用いた実験により,物理モデルと比較して精度が大幅に向上した。
論文 参考訳(メタデータ) (2022-04-27T14:33:02Z) - Revisit Geophysical Imaging in A New View of Physics-informed Generative
Adversarial Learning [2.12121796606941]
完全な波形反転は高分解能地下モデルを生成する。
最小二乗関数を持つFWIは、局所ミニマ問題のような多くの欠点に悩まされる。
偏微分方程式とニューラルネットワークを用いた最近の研究は、2次元FWIに対して有望な性能を示している。
本稿では,波動方程式を識別ネットワークに統合し,物理的に一貫したモデルを正確に推定する,教師なし学習パラダイムを提案する。
論文 参考訳(メタデータ) (2021-09-23T15:54:40Z) - Neural networks with late-phase weights [66.72777753269658]
学習後期に重みのサブセットを組み込むことで,SGDの解をさらに改善できることを示す。
学習の終わりに、重み空間における空間平均を取ることにより、1つのモデルを取得する。
論文 参考訳(メタデータ) (2020-07-25T13:23:37Z) - Deep Neural Network in Cusp Catastrophe Model [0.0]
カタストロフィ理論はもともと、入力の小さな変化から突然の振る舞いの変化を示す力学系に提案されていた。
ここでは、生成パラメータを実際に解くことなく、カタストロフィモデルをトレーニングして、Cusp Machineモデルのダイナミクスを学習する方法を示す。
論文 参考訳(メタデータ) (2020-04-06T00:25:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。