論文の概要: PeTeR: Post-Training Robustification of Probabilistic Circuits
- arxiv url: http://arxiv.org/abs/2607.07671v1
- Date: Wed, 08 Jul 2026 17:25:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.475664
- Title: PeTeR: Post-Training Robustification of Probabilistic Circuits
- Title(参考訳): PeTeR:確率回路のトレーニング後のロバスト化
- Abstract要約: 確率回路(PC)は、正確な計算と効率的な推論クエリをサポートしながら複雑な関節分布をモデル化することができる。
標準確率ベースのPC学習は、データノイズ、小さなサンプルサイズ、分散シフトに直面した場合、過度な適合と脆弱な一般化に対して脆弱である。
PeTeRは,学習済みPCをスクラッチから再学習することなく,分散シフトに対して堅牢化するために設計された,新しいデータフリーなポストトレーニングフレームワークである。
- 参考スコア(独自算出の注目度): 2.9726600487327093
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Probabilistic circuits (PCs) can model complex joint distributions while supporting exact and efficient computation of many inference queries. However, standard likelihood-based PC learning is vulnerable to overfitting and fragile generalization when confronted with data noise, small sample sizes, or distribution shifts. This can be mitigated using distributionally-robust optimization which consider worst-case distributions within a Wasserstein ball of the empirical distribution, but current methods are limited to training a model from scratch in this framework. Instead, we propose PeTeR: a novel, data-free post-training framework designed to robustify pre-trained PCs against distribution shifts without retraining from scratch. Empirical evaluations across multiple density estimation benchmarks demonstrate that PeTeR effectively robustifies baseline models against both random and adversarial perturbations, achieving competitive or superior performance to data-dependent robust learning baselines.
- Abstract(参考訳): 確率回路(PC)は、多くの推論クエリの正確かつ効率的な計算をサポートしながら、複雑な関節分布をモデル化することができる。
しかし、標準的な可能性ベースのPC学習は、データノイズ、小さなサンプルサイズ、分散シフトに直面した場合、過度に適合し、脆弱な一般化に対して脆弱である。
これは、実験的な分布のワッサーシュタイン球内の最悪のケース分布を考慮に入れた分散ロバスト最適化を用いて緩和することができるが、現在の手法は、このフレームワークのスクラッチからモデルを訓練することに限定されている。
代わりに、スクラッチから再トレーニングすることなく、事前学習したPCを分散シフトに対して堅牢化するために設計された、新しいデータフリーなポストトレーニングフレームワークであるPeTeRを提案する。
複数の密度推定ベンチマークによる実証的な評価により、PeTeRはランダムおよび逆方向の摂動に対してベースラインモデルを効果的に堅牢化し、データ依存の頑健な学習ベースラインに対する競合的あるいは優れた性能を達成することが示されている。
関連論文リスト
- RDIT: Residual-based Diffusion Implicit Models for Probabilistic Time Series Forecasting [4.140149411004857]
RDITは、点推定と残差に基づく条件拡散と双方向のMambaネットワークを組み合わせたプラグアンドプレイフレームワークである。
RDITは, 強いベースラインに比べてCRPSの低下, 高速推論, カバレッジの向上を実現している。
論文 参考訳(メタデータ) (2025-09-02T14:06:29Z) - SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。
トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
論文 参考訳(メタデータ) (2025-08-07T03:50:48Z) - On the Hardness of Approximating Distributions with Tractable Probabilistic Models [2.9726600487327093]
本稿では,$f$-divergencesに基づく確率回路を用いた近似分布について検討する。
任意の分布を有界$f$-divergenceで近似することは任意のモデルに対して$mathsfNP$-hardであることを示す。
論文 参考訳(メタデータ) (2025-06-02T03:35:07Z) - A Distributionally-Robust Framework for Nuisance in Causal Effect Estimation [1.3053649021965603]
因果推論では、治療群と対照群の間のバランスの取れた分布のモデルを評価する必要がある。
最も一般的な統計手法は、逆確率重み付け(IPW)によるこの分布シフトに対処するものである。
誤差一般化を分解してこれらの問題 - 正当性あいまいさと統計的不安定さ - を分離し, 対向損失関数を通して対処する。
論文 参考訳(メタデータ) (2025-05-23T10:34:28Z) - Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。
近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。
本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-11T13:44:49Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Dr. FERMI: A Stochastic Distributionally Robust Fair Empirical Risk
Minimization Framework [12.734559823650887]
分散シフトが存在する場合、公正な機械学習モデルはテストデータに対して不公平に振る舞うことがある。
既存のアルゴリズムはデータへの完全なアクセスを必要とし、小さなバッチを使用する場合には使用できない。
本稿では,因果グラフの知識を必要としない収束保証付き分布安定度フレームワークを提案する。
論文 参考訳(メタデータ) (2023-09-20T23:25:28Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。
入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。
分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
論文 参考訳(メタデータ) (2021-06-14T05:39:09Z) - Adversarial Distributional Training for Robust Deep Learning [53.300984501078126]
逆行訓練(AT)は、逆行例によるトレーニングデータを増やすことにより、モデルロバスト性を改善する最も効果的な手法の一つである。
既存のAT手法の多くは、敵の例を作らせるために特定の攻撃を採用しており、他の目に見えない攻撃に対する信頼性の低い堅牢性につながっている。
本稿では,ロバストモデル学習のための新しいフレームワークであるADTを紹介する。
論文 参考訳(メタデータ) (2020-02-14T12:36:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。