Fugu-MT 論文翻訳(概要): Stable Training of Probabilistic Models Using the Leave-One-Out Maximum Log-Likelihood Objective

論文の概要: Stable Training of Probabilistic Models Using the Leave-One-Out Maximum Log-Likelihood Objective

arxiv url: http://arxiv.org/abs/2310.03556v2
Date: Thu, 14 Mar 2024 14:24:43 GMT
ステータス: 処理完了
システム内更新日: 2024-03-16 02:32:48.636294
Title: Stable Training of Probabilistic Models Using the Leave-One-Out Maximum Log-Likelihood Objective
Title（参考訳）: 最大ログ型オブジェクトの残差を用いた確率モデルの安定トレーニング
Authors: Kutay Bölat, Simon H. Tindemans, Peter Palensky,
Abstract要約: カーネル密度推定(KDE)に基づくモデルは、このタスクの一般的な選択であるが、密度の異なるデータ領域に適応できない。適応的なKDEモデルを用いてこれを回避し、モデル内の各カーネルは個別の帯域幅を持つ。最適化速度を確実に高速化するために改良された期待最大化アルゴリズムを用いる。
参考スコア（独自算出の注目度）: 0.7373617024876725
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Probabilistic modelling of power systems operation and planning processes depends on data-driven methods, which require sufficiently large datasets. When historical data lacks this, it is desired to model the underlying data generation mechanism as a probability distribution to assess the data quality and generate more data, if needed. Kernel density estimation (KDE) based models are popular choices for this task, but they fail to adapt to data regions with varying densities. In this paper, an adaptive KDE model is employed to circumvent this, where each kernel in the model has an individual bandwidth. The leave-one-out maximum log-likelihood (LOO-MLL) criterion is proposed to prevent the singular solutions that the regular MLL criterion gives rise to, and it is proven that LOO-MLL prevents these. Relying on this guaranteed robustness, the model is extended by adjustable weights for the kernels. In addition, a modified expectation-maximization algorithm is employed to accelerate the optimization speed reliably. The performance of the proposed method and models are exhibited on two power systems datasets using different statistical tests and by comparison with Gaussian mixture models. Results show that the proposed models have promising performance, in addition to their singularity prevention guarantees.
Abstract（参考訳）: 電力系統の運用と計画プロセスの確率論的モデリングは、十分な大規模なデータセットを必要とするデータ駆動方式に依存している。歴史的データがこれを欠いている場合、データ品質を評価し、必要に応じてより多くのデータを生成する確率分布として、基礎となるデータ生成メカニズムをモデル化することが望まれる。カーネル密度推定(KDE)に基づくモデルは、このタスクの一般的な選択であるが、密度の異なるデータ領域に適応できない。本稿では、適応KDEモデルを用いてこれを回避し、モデル内の各カーネルが個別の帯域幅を持つようにする。 LOO-MLL(Leave-out-out maximum log-likelihood)基準は、通常のMLL基準がもたらす特異解を回避するために提案され、LOO-MLLがこれらを防ぐことが証明されている。この保証されたロバスト性に基づいて、モデルはカーネルの調整可能な重みによって拡張される。さらに、最適化速度を確実に高速化するために、改良された期待最大化アルゴリズムが使用される。提案手法とモデルの性能は,異なる統計的テストとガウス混合モデルとの比較により,2つのパワーシステムデータセットに表される。その結果,提案モデルには特異性防止の保証に加えて,有望な性能が期待できることがわかった。

関連論文リスト

Continuous Bayesian Model Selection for Multivariate Causal Discovery [22.945274948173182]
現在の因果的発見アプローチは、構造的識別可能性を確保するために、限定的なモデル仮定や介入データへのアクセスを必要とする。近年の研究では、ベイズモデルの選択はより柔軟な仮定のために制限的モデリングを交換することで精度を大幅に向上させることができることが示されている。合成データセットと実世界のデータセットの両方において、我々のアプローチの競争力を実証する。
論文参考訳（メタデータ） (2024-11-15T12:55:05Z)
On conditional diffusion models for PDE simulations [53.01911265639582]
スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
論文参考訳（メタデータ） (2024-10-21T18:31:04Z)
Latent Semantic Consensus For Deterministic Geometric Model Fitting [109.44565542031384]
我々はLSC(Latent Semantic Consensus)と呼ばれる効果的な方法を提案する。 LSCは、モデルフィッティング問題をデータポイントとモデル仮説に基づく2つの潜在意味空間に定式化する。 LSCは、一般的な多構造モデルフィッティングのために、数ミリ秒以内で一貫した、信頼性の高いソリューションを提供することができる。
論文参考訳（メタデータ） (2024-03-11T05:35:38Z)
Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution [67.9215891673174]
離散空間に対するスコアマッチングを自然に拡張する新たな損失として,スコアエントロピーを提案する。標準言語モデリングタスク上で,Score Entropy Discrete Diffusionモデルをテストする。
論文参考訳（メタデータ） (2023-10-25T17:59:12Z)
A Nonparametric Approach with Marginals for Modeling Consumer Choice [5.829992438125586]
限界分布モデル(MDM)は、ランダムユーティリティモデル(RUM)における同様の特徴付けの有用性に着想を得たものである。我々は,MDMがRUMやパラメトリックモデルと比較して,競争力と予測性能を示すことを示した。
論文参考訳（メタデータ） (2022-08-12T04:43:26Z)
Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。このアプローチは多くの実装と最適化の課題をもたらします。提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文参考訳（メタデータ） (2021-03-18T14:26:26Z)
Community Detection in the Stochastic Block Model by Mixed Integer Programming [3.8073142980733]
Degree-Corrected Block Model (DCSBM) は、コミュニティ構造を持つランダムグラフを生成する一般的なモデルである。 DCSBMに基づくコミュニティ検出の標準的なアプローチは、最大推定(MLE)により観測されたネットワークデータを生成する可能性が最も高いモデルパラメータを探索することである。本稿では,モデルパラメータと最大確率のコミュニティ割当を観測グラフから確実に求める数学的計画式と厳密解法を提案する。
論文参考訳（メタデータ） (2021-01-26T22:04:40Z)
On Statistical Efficiency in Learning [37.08000833961712]
モデルフィッティングとモデル複雑性のバランスをとるためのモデル選択の課題に対処する。モデルの複雑さを順次拡大し、選択安定性を高め、コストを削減するオンラインアルゴリズムを提案します。実験の結果, 提案手法は予測能力が高く, 計算コストが比較的低いことがわかった。
論文参考訳（メタデータ） (2020-12-24T16:08:29Z)
Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文参考訳（メタデータ） (2020-10-24T07:01:24Z)
Model-based Policy Optimization with Unsupervised Model Adaptation [37.09948645461043]
本研究では,不正確なモデル推定による実データとシミュレーションデータのギャップを埋めて,より良いポリシ最適化を実現する方法について検討する。本稿では,教師なしモデル適応を導入したモデルベース強化学習フレームワークAMPOを提案する。提案手法は,一連の連続制御ベンチマークタスクにおけるサンプル効率の観点から,最先端の性能を実現する。
論文参考訳（メタデータ） (2020-10-19T14:19:42Z)
Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文参考訳（メタデータ） (2020-09-29T12:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。