論文の概要: Two-way Guidance: Simultaneous Learning of Summary Statistics for Generative Bayes
- arxiv url: http://arxiv.org/abs/2610.12850v1
- Date: Fri, 09 Oct 2026 01:16:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.337872
- Title: Two-way Guidance: Simultaneous Learning of Summary Statistics for Generative Bayes
- Title(参考訳): 双方向ガイダンス:生成ベイにおける概要統計の同時学習
- Abstract要約: 我々は,拡張性推論の原理として,後部と共に十分な要約統計を学習することを検討する。
本研究は,2方向指導という重要なメカニズムを同定する。要約の構造的制約の下では,学習した要約の後部十分性は後部学習を単純化する。
このメカニズムは、要約統計学における構造的制約が、その性能を制限するのではなく、後進学習を改善するという直感的な発見を説明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian simulation-based inference (SBI) can struggle to recover increasingly concentrated posteriors as observation size grows. We consider learning sufficient summary statistics jointly with the posterior as a general principle for scalable inference in various SBI methods. A common measure taken in SBI is dimension reduction through predetermined summaries, which may partially discard posterior information. Our approach instead imposes structure on how the posterior learner depends on a learned summary (e.g., affinity), and learns the summary simultaneously with the posterior. We identify an important mechanism named two-way guidance: under a structural restriction on the summary, the posterior sufficiency of the learned summary simplifies posterior learning, whereas a suitable posterior objective guides the learned summary towards posterior sufficiency. This mechanism explains a counterintuitive finding that the structural restriction on the summary statistics improves posterior learning, rather than limit its performance. We establish theoretical guarantees on both posterior estimation error and the learned summary's departure from sufficiency, thus identifying conditions on the simulation budget for recovering increasingly concentrated posteriors as observation size grows.
- Abstract(参考訳): ベイズシミュレーションに基づく推測(SBI)は、観測サイズが大きくなるにつれて、集中した後部を回復するのに苦労する。
我々は,様々なSBI手法における拡張性推論の一般的な原理として,後部と共に十分な要約統計を学習することを検討する。
SBIで取られる一般的な手段は、所定の要約による次元の縮小であり、後部情報を部分的に破棄することができる。
提案手法は,学習者が学習した要約(例えば親和性)にどのように依存するかという構造を課し,学習した要約を後部と同時に学習する。
本研究は,2方向指導という重要なメカニズムを同定する: 要約の構造的制約の下では, 学習した要約の後部補足力は後部学習を単純化するが, 適切な後部補足力は学習した要約を後部補足力へ導く。
このメカニズムは、要約統計学における構造的制約が、その性能を制限するのではなく、後進学習を改善するという直感的な発見を説明する。
本研究では,後部推定誤差と学習要領の相違点に関する理論的保証を確立し,観測サイズが大きくなるにつれて,集中した後部を回復するためのシミュレーション予算の条件を特定する。
関連論文リスト
- Observationally Informed Adaptive Causal Experimental Design [55.998153710215654]
本稿では,観測モデルを基礎的先行として活用する新たなパラダイムであるアクティブ残留学習を提案する。
このアプローチは、実験的な焦点を、目標因果量の学習から、観察バイアスの補正に必要な残差を効率的に推定するへとシフトさせる。
合成および半合成ベンチマークの実験は、R-Designがベースラインを大幅に上回ることを示した。
論文 参考訳(メタデータ) (2026-03-04T06:52:37Z) - Unsupervised Continual Learning for Amortized Bayesian Inference [7.052272974286418]
ABI(Amortized Bayesian Inference)は、シミュレーションデータに基づいてトレーニングされた生成ニューラルネットワークを用いて、効率的な後部推定を可能にする。
現在のアプローチは静的なシングルタスク設定に限られており、シーケンシャルに到着したデータや分散シフトを処理できない。
本研究では,シミュレーションに基づく事前学習を非教師付き逐次SC微調整から切り離したABIのための連続学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-26T11:22:46Z) - Overlap-weighted orthogonal meta-learner for treatment effect estimation over time [90.46786193198744]
ヘテロジニアス治療効果(HTE)を推定するための新しい重み付きメタラーナーを提案する。
我々のWO-Larnerは、ノイマン直交性(Neyman-orthogonality)の好ましい性質を持ち、ニュアンス関数の誤特定に対して堅牢である。
我々のWO-learnerは完全にモデルに依存しず、あらゆる機械学習モデルに適用可能であることを示す。
論文 参考訳(メタデータ) (2025-10-22T14:47:57Z) - Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking [50.465604300990904]
グロキング(Grokking)とは、オーバーフィッティングの拡張後のテスト精度の急激な改善を指す。
本研究では、素数演算のタスクにおいて、Transformerの基盤となるグルーキング機構について検討する。
論文 参考訳(メタデータ) (2025-04-04T04:42:38Z) - An Axiomatic Approach to Loss Aggregation and an Adapted Aggregating Algorithm [6.749750044497731]
監視された学習は、予想されるリスク最小化フレームワークを超えています。
一般化された集約は、学習者の損失に対する態度を表していると論じる。
論文 参考訳(メタデータ) (2024-06-04T13:11:01Z) - Feature-aligned N-BEATS with Sinkhorn divergence [8.209488690262882]
ドメイン一般化時系列予測モデルとして特徴整列N-BEATSを提案する。
これは N-BEATS の非自明な拡張であり、二重剰余な積み重ね原理を表現学習フレームワークに組み込む。
論文 参考訳(メタデータ) (2023-05-24T14:32:23Z) - Inverse Reinforcement Learning for Text Summarization [52.765898203824975]
本稿では,抽象的な要約モデルを学習するための効果的なパラダイムとして,逆強化学習(IRL)を導入する。
異なる領域におけるデータセット間の実験結果は、MLEおよびRLベースラインに対する要約のための提案したIRLモデルの優位性を示す。
論文 参考訳(メタデータ) (2022-12-19T23:45:05Z) - Harnessing the Power of Explanations for Incremental Training: A
LIME-Based Approach [6.244905619201076]
この研究では、モデル説明がフィードフォワードトレーニングにフィードバックされ、モデルをより一般化するのに役立つ。
このフレームワークは、シーケンシャルなテストセットのパフォーマンスを維持するために、Elastic Weight Consolidation (EWC)によるカスタム重み付き損失を取り入れている。
提案したカスタムトレーニング手順は、インクリメンタルラーニングセットアップのすべてのフェーズにおいて、0.5%から1.5%までの精度を一貫して向上させる。
論文 参考訳(メタデータ) (2022-11-02T18:16:17Z) - Sample-Efficient Reinforcement Learning in the Presence of Exogenous
Information [77.19830787312743]
実世界の強化学習アプリケーションでは、学習者の観察空間は、その課題に関する関連情報と無関係情報の両方でユビキタスに高次元である。
本稿では,強化学習のための新しい問題設定法であるExogenous Decision Process (ExoMDP)を導入する。
内因性成分の大きさのサンプル複雑度で準最適ポリシーを学習するアルゴリズムであるExoRLを提案する。
論文 参考訳(メタデータ) (2022-06-09T05:19:32Z) - Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。
本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。
自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文 参考訳(メタデータ) (2021-06-07T17:47:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。