論文の概要: Shrinkage prior for implicit generative models

• arxiv url: http://arxiv.org/abs/2611.05241v1
• Date: Tue, 03 Nov 2026 17:24:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 13:29:10.042402
• Title: Shrinkage prior for implicit generative models
• Title（参考訳）: 暗黙的生成モデルに先立つ収縮
• Abstract要約: 深層ニューラルネットワークに基づく暗黙的な生成モデルは、多くの科学分野に革命をもたらした。 そこで本研究では,これらのモデルに対するサンプル効率のトレーニング機構を提案する。
• 参考スコア（独自算出の注目度）: 3.093095793472363
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Implicit generative models based on deep neural networks have revolutionized many scientific fields, from weather research to language generation. They successfully model complex random objects arising in real-world problems. In this work, we propose a sample-efficient training mechanism for these models. Our approach leverages regularized inference with shrinkage priors and generalized Bayes. In the large $p$ (parameter dimension) and small $n$ (sample size) setting, sparsity-inducing priors have been successfully used for linear regression when $p \gg n$. However, their application to implicit generative models remains challenging due to the intractability of the likelihood function. To address this, we adapt a scoring rule posterior based on a strictly proper scoring rule, following the generalized Bayes framework. We then propose a block SGMCMC within Gibbs sampling mechanism. This enables efficient exploration of high-dimensional parameter spaces by identifying a sparse representation of neural implicit generative models. We demonstrate the performance of our proposed method through experiments on $p \gg n$ linear regression and an application of neural generative models.
• Abstract（参考訳）: 深層ニューラルネットワークに基づく暗黙的な生成モデルは、気象研究から言語生成まで、多くの科学分野に革命をもたらした。 彼らは実世界の問題から生じる複雑なランダムオブジェクトをうまくモデル化した。 そこで本研究では,これらのモデルに対するサンプル効率のトレーニング機構を提案する。 我々のアプローチは、縮小前の正規化推論と一般化ベイズを利用する。 大規模な$p$(パラメータ次元)と小さな$n$(サンプルサイズ)の設定では、$p \gg n$が線形回帰に成功している。 しかしながら、それらの暗黙的な生成モデルへの応用は、可能性関数の難易度のため、依然として困難である。 これを解決するために、一般化ベイズフレームワークに従って、厳密な適切なスコアリングルールに基づいて、スコアリングルールを後方に適応する。 次に,ギブスサンプリング機構内のブロックSGMCMCを提案する。 これにより、ニューラル暗黙的生成モデルのスパース表現を同定することにより、高次元パラメータ空間の効率的な探索が可能となる。 提案手法の性能を,$p \gg n$線形回帰実験とニューラル生成モデルの適用により実証する。

関連論文リスト

• Intention-Conditioned Flow Occupancy Models [80.42634994902858]
  大規模な事前学習は、今日の機械学習研究のやり方を根本的に変えた。 同じフレームワークを強化学習に適用することは、RLの中核的な課題に対処するための魅力的な方法を提供するので、魅力的です。 生成AIの最近の進歩は、高度に複雑な分布をモデリングするための新しいツールを提供している。
  論文  参考訳（メタデータ） (2025-06-10T15:27:46Z)
• Coarse Graining with Neural Operators for Simulating Chaotic Systems [78.64101336150419]
  カオスシステムの長期的挙動を予測することは、気候モデリングなどの様々な応用に不可欠である。 このような完全解法シミュレーションに対する別のアプローチは、粗いグリッドを使用して、時間テキストモデルによってエラーを修正することである。 この制限を克服する物理インフォームド・ニューラル演算子(PINO)を用いたエンド・ツー・エンドの学習手法を提案する。
  論文  参考訳（メタデータ） (2024-08-09T17:05:45Z)
• Storage and Learning phase transitions in the Random-Features Hopfield Model [9.489398590336643]
  ホップフィールドモデル(Hopfield model)は、統計物理学、神経科学、機械学習のコミュニティで数十年にわたって分析されてきたニューラルネットワークのパラダイムモデルである。 機械学習における多様体仮説に着想を得て、ランダム・フィーチャース・ホップフィールドモデル(Random-Features Hopfield Model)と呼ぶ標準設定の一般化を提案し、検討する。
  論文  参考訳（メタデータ） (2023-03-29T17:39:21Z)
• Guaranteed Conformance of Neurosymbolic Models to Natural Constraints [4.598757178874836]
  安全クリティカルな応用においては、データ駆動モデルは自然科学の確立した知識に適合することが重要である。 我々はこの適合性を保証する方法を提案する。 拘束されたニューロシンボリックモデルが特定のモデルに適合していることを実験的に示す。
  論文  参考訳（メタデータ） (2022-12-02T18:03:37Z)
• Fast variable selection makes scalable Gaussian process BSS-ANOVA a speedy and accurate choice for tabular and time series regression [0.0]
  ガウス過程 (GP) は長い歴史を持つ非パラメトリック回帰エンジンである。 拡張性のあるGPアプローチの1つは、2009年に開発されたKL(Karhunen-Lo'eve)分解カーネルBSS-ANOVAである。 項の数を迅速かつ効果的に制限し、競争力のある精度の方法をもたらす新しい変数選択法である。
  論文  参考訳（メタデータ） (2022-05-26T23:41:43Z)
• Variational Inference with NoFAS: Normalizing Flow with Adaptive Surrogate for Computationally Expensive Models [7.217783736464403]
  マルコフ連鎖モンテカルロのようなサンプリングに基づくアプローチの使用は、それぞれの可能性評価が計算的に高価であるときに難解になる可能性がある。 変分推論と正規化フローを組み合わせた新しいアプローチは、潜在変数空間の次元と線形にしか成長しない計算コストによって特徴づけられる。 本稿では,ニューラルネットワークサロゲートモデルの正規化フローパラメータと重みを代わりに更新する最適化戦略である,適応サロゲートを用いた正規化フロー(NoFAS)を提案する。
  論文  参考訳（メタデータ） (2021-08-28T14:31:45Z)
• Sparsely constrained neural networks for model discovery of PDEs [0.0]
  本稿では,任意のスパース回帰手法を用いて,ディープラーニングに基づくサロゲートのスパースパターンを決定するモジュラーフレームワークを提案する。 異なるネットワークアーキテクチャと疎度推定器がモデル発見精度と収束性を,いくつかのベンチマーク例でどのように改善するかを示す。
  論文  参考訳（メタデータ） (2020-11-09T11:02:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。