論文の概要: Conditional Distribution Quantization in Machine Learning

• arxiv url: http://arxiv.org/abs/2502.07151v1
• Date: Tue, 11 Feb 2025 00:28:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-12 14:07:05.009867
• Title: Conditional Distribution Quantization in Machine Learning
• Title（参考訳）: 機械学習における条件分布量子化
• Authors: Blaise Delattre, Sylvain Delattre, Alexandre Vérine, Alexandre Allauzen,
• Abstract要約: 条件予測 mathbbE(Y Mid X) はしばしば、マルチモーダル条件分布の複雑さを捉えることに失敗する(Y Mid X) 我々はn点条件量子化(n-point Conditional Quantizations)-勾配降下により学習可能なXの関数写像--近似数学L(Y mid X)-を提案する。
• 参考スコア（独自算出の注目度）: 83.54039134248231
• License:
• Abstract: Conditional expectation \mathbb{E}(Y \mid X) often fails to capture the complexity of multimodal conditional distributions \mathcal{L}(Y \mid X). To address this, we propose using n-point conditional quantizations--functional mappings of X that are learnable via gradient descent--to approximate \mathcal{L}(Y \mid X). This approach adapts Competitive Learning Vector Quantization (CLVQ), tailored for conditional distributions. It goes beyond single-valued predictions by providing multiple representative points that better reflect multimodal structures. It enables the approximation of the true conditional law in the Wasserstein distance. The resulting framework is theoretically grounded and useful for uncertainty quantification and multimodal data generation tasks. For example, in computer vision inpainting tasks, multiple plausible reconstructions may exist for the same partially observed input image X. We demonstrate the effectiveness of our approach through experiments on synthetic and real-world datasets.
• Abstract（参考訳）: 条件予想 \mathbb{E}(Y \mid X) はしばしば多様条件分布 \mathcal{L}(Y \mid X) の複雑さを捉えることに失敗する。 これを解決するために、勾配降下により学習可能な X の n 点条件量子化(英語版)-函数写像(英語版)--近似 \mathcal{L}(Y \mid X) を提案する。 このアプローチは条件分布に適した競合学習ベクトル量子化(CLVQ)を適用する。 これは、マルチモーダル構造をよりよく反映する複数の代表点を提供することによって、単値予測を越えている。 これはワッサーシュタイン距離における真の条件則の近似を可能にする。 このフレームワークは理論上基礎があり、不確実性定量化やマルチモーダルデータ生成タスクに有用である。 例えば、コンピュータビジョンの描画タスクでは、同じ部分的な入力画像 X に対して複数の可視的再構成が存在する可能性がある。

関連論文リスト

• Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
  CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。 統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
  論文  参考訳（メタデータ） (2024-08-25T04:07:18Z)
• Vector Quantile Regression on Manifolds [8.328891187733841]
  QR(Quantile regression)は、対象変数の条件量子化の分布自由度推定のための統計ツールである。 最適輸送理論とc-凹関数を活用することにより、高次元変数の条件ベクトル量子関数を有意に定義する。 提案手法の有効性を実証し, 合成および実データ実験による非ユークリッド量子化の意味に関する知見を提供する。
  論文  参考訳（メタデータ） (2023-07-03T14:17:12Z)
• Ensemble Multi-Quantiles: Adaptively Flexible Distribution Prediction for Uncertainty Quantification [4.728311759896569]
  本稿では,機械学習における不確実性を定量化するために,分布予測の新しい,簡潔かつ効果的な手法を提案する。 これは回帰タスクにおいて$mathbbP(mathbfy|mathbfX=x)$の適応的に柔軟な分布予測を組み込む。 UCIデータセットからの大規模な回帰タスクでは、EMQが最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2022-11-26T11:45:32Z)
• Instability and Local Minima in GAN Training with Kernel Discriminators [20.362912591032636]
  GAN(Generative Adversarial Networks)は、複雑なデータの生成モデリングに広く使われているツールである。 実験的な成功にもかかわらず、ジェネレータと判別器のmin-max最適化のため、GANの訓練は十分には理解されていない。 本稿では、真のサンプルと生成されたサンプルが離散有限集合であり、判別器がカーネルベースである場合に、これらの関節力学を解析する。
  論文  参考訳（メタデータ） (2022-08-21T18:03:06Z)
• Distributional Gradient Boosting Machines [77.34726150561087]
  私たちのフレームワークはXGBoostとLightGBMをベースにしています。 我々は,このフレームワークが最先端の予測精度を実現することを示す。
  論文  参考訳（メタデータ） (2022-04-02T06:32:19Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Arbitrary Conditional Distributions with Energy [11.081460215563633]
  より一般的で有用な問題は任意の条件密度推定である。 本稿では, 分布$p(mathbfx_umid mathbfx_o)$を同時に推定できる新しい手法であるArbitrary Conditioning with Energy (ACE)を提案する。 また,1次元条件のみを学習することで学習問題を単純化し,推論中により複雑な分布を復元する。
  論文  参考訳（メタデータ） (2021-02-08T18:36:26Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Efficient Marginalization of Discrete and Structured Latent Variables via Sparsity [26.518803984578867]
  離散的な(分類的または構造化された)潜在変数を持つニューラルネットワークモデルを訓練することは、計算的に困難である。 典型的には、真の限界のサンプリングに基づく近似に頼っている。 そこで本研究では,これらの推定器を高精度かつ効率的なマージン化によって置き換える新たなトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2020-07-03T19:36:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。