論文の概要: Don't Cut Corners: How Training Outside the Prior Makes Simulation-Based Inference More Robust
- arxiv url: http://arxiv.org/abs/2608.12470v1
- Date: Wed, 12 Aug 2026 18:00:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.29669
- Title: Don't Cut Corners: How Training Outside the Prior Makes Simulation-Based Inference More Robust
- Title(参考訳): コーナーを切らない:事前トレーニングによってシミュレーションベースの推論がよりロバストになる方法
- Abstract要約: そこで我々は,サンプル学習シミュレーションのためのハイブリッドな提案分布系であるTailed-Uniform を提案する。
ハードトランクされたトレーニングボックスを破損した尾部でパディングすることで、タイラード・ユニフォーム・トレーニングネットワークはエッジ付近と外側のより正確な後部を発生させる。
- 参考スコア(独自算出の注目度): 0.5555497750998242
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large astrophysical simulation campaigns often generate training data by sampling parameters across a Uniform prior box. Due to the proposal's sharp edge, neural posterior estimators struggle to learn accurate approximations near the boundaries. We propose Tailed-Uniform, a family of hybrid proposal distributions for sampling training simulations for robust simulation-based inference. By padding the original hard-truncated training box with decaying tails, Tailed-Uniform-trained networks yield more accurate posteriors near and beyond the edges. We demonstrate these improvements on a family of tail shapes, including a widened Uniform box as a control. Our results suggest that additional simulations near the prior boundary better constrain the networks as it approaches the edge of the training box, even for Uniform assumed priors. We show these advantages on a toy problem and cosmological parameter inference from the matter power spectrum. These benefits increase in high dimensions, where boundaries dominate parameter space volume.
- Abstract(参考訳): 大規模な天体物理シミュレーションのキャンペーンは、ユニフォーム前のボックスでパラメータをサンプリングすることでトレーニングデータを生成することが多い。
提案の鋭いエッジのため、神経後部推定器は境界付近で正確な近似を学ぶのに苦労する。
そこで我々は,ロバストなシミュレーションベース推論のためのトレーニングシミュレーションをサンプリングするためのハイブリッドな提案分布のファミリであるTailed-Uniformを提案する。
元々の頑丈な訓練用箱を腐敗した尾部でパディングすることで、タイラード・ユニフォームのトレーニング用ネットワークは、エッジ付近と外側のより正確な後部を発生させる。
これらの改善は、コントロールとして拡張されたUniformboxを含む、テール形状のファミリーで実証する。
実験結果から,先行するUniformの場合であっても,トレーニングボックスのエッジに近づくとネットワークの制約が大きくなることが示唆された。
我々はこれらの利点を,物質パワースペクトルからのトイ問題と宇宙パラメータの推測で示している。
これらの利点は、境界がパラメータ空間体積を支配している高次元において増大する。
関連論文リスト
- Self-Supervised Implicit Attention Priors for Point Cloud Reconstruction [7.652381699040464]
入力点雲自体から直接、形状特異的な事前を蒸留する暗黙の自己優先的アプローチを導入する。
このハイブリッド戦略は,スパーク領域の規則化に先立って学習した知識を活用しつつ,入力データ中の微細な幾何学的詳細を保存していることを示す。
論文 参考訳(メタデータ) (2025-11-06T23:01:22Z) - Stepping Forward on the Last Mile [8.756033984943178]
本稿では,バックプロパゲーションと比較してメモリフットプリントと精度のギャップを低減させるアルゴリズムの一連の拡張を提案する。
その結果、エッジデバイス上でのモデルカスタマイズの最後のマイルでは、固定点前方勾配によるトレーニングが実現可能で実践的なアプローチであることが示されている。
論文 参考訳(メタデータ) (2024-11-06T16:33:21Z) - Transferable Post-training via Inverse Value Learning [83.75002867411263]
別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。
このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。
得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
論文 参考訳(メタデータ) (2024-10-28T13:48:43Z) - Unrolled denoising networks provably learn optimal Bayesian inference [54.79172096306631]
我々は、近似メッセージパッシング(AMP)のアンロールに基づくニューラルネットワークの最初の厳密な学習保証を証明した。
圧縮センシングでは、製品から引き出されたデータに基づいてトレーニングを行うと、ネットワークの層がベイズAMPで使用されるのと同じデノイザーに収束することを示す。
論文 参考訳(メタデータ) (2024-09-19T17:56:16Z) - Posterior and variational inference for deep neural networks with heavy-tailed weights [0.0]
我々は、ネットワーク重みをランダムにサンプリングする事前分布を持つベイズフレームワークにおいて、ディープニューラルネットワークを考察する。
後部分布は, ほぼ最適のミニマックス収縮速度を達成できることを示す。
また, 実験結果の変分ベイズ版も提供し, 平均場変分近似は, ほぼ最適理論的支援の恩恵を受けていることを示した。
論文 参考訳(メタデータ) (2024-06-05T15:24:20Z) - Robustifying Generalizable Implicit Shape Networks with a Tunable
Non-Parametric Model [10.316008740970037]
無向点雲からの暗黙的形状再構成の一般化可能なモデルは一般化問題に悩まされる。
ここでは、これらの制限のいくつかをテスト時に緩和する効率的なメカニズムを提案する。
本稿では,本手法によるベースラインの改良と,合成データと実データを用いた最先端技術について述べる。
論文 参考訳(メタデータ) (2023-11-21T20:12:29Z) - Fast Propagation is Better: Accelerating Single-Step Adversarial
Training via Sampling Subnetworks [69.54774045493227]
逆行訓練の欠点は、逆行例の生成によって引き起こされる計算オーバーヘッドである。
モデルの内部構造ブロックを利用して効率を向上させることを提案する。
従来の手法と比較して,本手法はトレーニングコストを削減できるだけでなく,モデルの堅牢性も向上する。
論文 参考訳(メタデータ) (2023-10-24T01:36:20Z) - Likelihood-Free Inference with Generative Neural Networks via Scoring
Rule Minimization [0.0]
推測法は、難易度のあるシミュレーターモデルに対する後部近似を導出する。
多くの研究は、難易度または後部に直接近似するようにニューラルネットワークを訓練した。
本稿では,スコーリングルールの最小化によって訓練された生成ネットワークに後部を近似することを提案する。
論文 参考訳(メタデータ) (2022-05-31T13:32:55Z) - Dimensionality Reduced Training by Pruning and Freezing Parts of a Deep
Neural Network, a Survey [69.3939291118954]
最先端のディープラーニングモデルには、何十億にも達するパラメータカウントがある。そのようなモデルのトレーニング、保存、転送は、エネルギーと時間を要するため、コストがかかる。
モデル圧縮は、ストレージと転送コストを低減し、フォワードおよび/または後方パスでの計算数を減少させることで、トレーニングをより効率的にすることができる。
この研究は、トレーニング全体を通してディープラーニングモデルでトレーニングされた重量を減らす方法に関する調査である。
論文 参考訳(メタデータ) (2022-05-17T05:37:08Z) - Deep Shells: Unsupervised Shape Correspondence with Optimal Transport [52.646396621449]
本稿では,3次元形状対応のための教師なし学習手法を提案する。
提案手法は,複数のデータセット上での最先端技術よりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2020-10-28T22:24:07Z) - A Bayesian Perspective on Training Speed and Model Selection [51.15664724311443]
モデルのトレーニング速度の測定値を用いて,その限界確率を推定できることを示す。
線形モデルと深部ニューラルネットワークの無限幅限界に対するモデル選択タスクの結果を検証する。
以上の結果から、勾配勾配勾配で訓練されたニューラルネットワークが、一般化する関数に偏りがある理由を説明するための、有望な新たな方向性が示唆された。
論文 参考訳(メタデータ) (2020-10-27T17:56:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。