論文の概要: Reducing Memorisation in Generative Models via Riemannian Bayesian Inference

• arxiv url: http://arxiv.org/abs/2602.00199v1
• Date: Fri, 30 Jan 2026 11:08:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.049362
• Title: Reducing Memorisation in Generative Models via Riemannian Bayesian Inference
• Title（参考訳）: リーマンベイズ推論による生成モデルにおける記憶量の減少
• Authors: Johanna Marie Gegenfurtner, Albert Kjøller Jacobsen, Naima Elosegui Borras, Alejandro Valverde Mahou, Georgios Arvanitidis,
• Abstract要約: データ分布の変動をよりよく捉えた予測後部を構築する。 提案手法は,一般化を保ちながら記憶を減少させることを示した。 全体として,損失の幾何学を考えることで,パラメータ空間の有効利用が可能となることを示す。
• 参考スコア（独自算出の注目度）: 40.41090345118905
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern generative models can produce realistic samples, however, balancing memorisation and generalisation remains an open problem. We approach this challenge from a Bayesian perspective by focusing on the parameter space of flow matching and diffusion models and constructing a predictive posterior that better captures the variability of the data distribution. In particular, we capture the geometry of the loss using a Riemannian metric and leverage a flexible approximate posterior that adapts to the local structure of the loss landscape. This approach allows us to sample generative models that resemble the original model, but exhibit reduced memorisation. Empirically, we demonstrate that the proposed approach reduces memorisation while preserving generalisation. Further, we provide a theoretical analysis of our method, which explains our findings. Overall, our work illustrates how considering the geometry of the loss enables effective use of the parameter space, even for complex high-dimensional generative models.
• Abstract（参考訳）: 現代の生成モデルは現実的なサンプルを生成することができるが、記憶と一般化のバランスは依然として未解決の問題である。 本稿では,フローマッチングと拡散モデルのパラメータ空間に着目し,データ分布の多様性をよりよく把握する予測後部を構築することで,ベイズ的視点からこの課題にアプローチする。 特に、リーマン計量を用いて損失の幾何学を捉え、損失ランドスケープの局所構造に適応するフレキシブルな近似後部を利用する。 このアプローチにより、元のモデルに似ているが、記憶の減少を示す生成モデルをサンプリングすることができる。 実験により,提案手法は一般化を保ちながら記憶を減少させることを示した。 さらに,本手法の理論的解析を行い,その結果を述べる。 全体として、損失の幾何学を考えることで、複雑な高次元生成モデルであってもパラメータ空間を効果的に活用できることを示す。

関連論文リスト

• Riemannian AmbientFlow: Towards Simultaneous Manifold Learning and Generative Modeling from Corrupted Data [4.681760167323748]
  本稿では,確率的生成モデルと基礎となる非線形データ多様体を,崩壊した観測から直接学習するためのフレームワークを提案する。 我々は、適切な幾何正規化と測定条件の下で、学習されたモデルは、基礎となるデータ分布を制御可能な誤差まで回復し、滑らかなバイリプシッツ多様体のパラメトリゼーションをもたらすことを示す理論的保証を確立する。
  論文  参考訳（メタデータ） (2026-01-26T17:51:52Z)
• One-for-More: Continual Diffusion Model for Anomaly Detection [63.50488826645681]
  異常検出法は拡散モデルを用いて任意の異常画像が与えられたときの正常サンプルの生成または再構成を行う。 われわれは,拡散モデルが「重度忠実幻覚」と「破滅的な忘れ」に悩まされていることを発見した。 本研究では,安定な連続学習を実現するために勾配予測を用いた連続拡散モデルを提案する。
  論文  参考訳（メタデータ） (2025-02-27T07:47:27Z)
• A solvable model of learning generative diffusion: theory and insights [44.979670733807694]
  本稿では,2層自動エンコーダによりパラメータ化されたフローモデルや拡散モデルについて考察する。 学習モデルにより生成されたサンプルの分布の低次元投影の厳密な特性を導出する。
  論文  参考訳（メタデータ） (2025-01-07T16:56:40Z)
• Model Reconstruction Using Counterfactual Explanations: A Perspective From Polytope Theory [9.771997770574947]
  本研究は, 対物モデルを用いたモデル再構成を改良する方法について分析する。 我々の主な貢献は、モデル再構成における誤差と対実的なクエリの数の間の新しい理論的関係を導出することである。
  論文  参考訳（メタデータ） (2024-05-08T18:52:47Z)
• Performative Prediction with Bandit Feedback: Learning through Reparameterization [23.039885534575966]
  行動予測は、データの分布自体がモデルの展開に応じて変化する社会予測を研究するためのフレームワークである。 本研究では,実行予測目標をデータ分散関数として再パラメータ化する再パラメータ化を開発する。
  論文  参考訳（メタデータ） (2023-05-01T21:31:29Z)
• Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
  本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。 提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
  論文  参考訳（メタデータ） (2022-05-18T17:11:23Z)
• GELATO: Geometrically Enriched Latent Model for Offline Reinforcement Learning [54.291331971813364]
  オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。 本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。 提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
  論文  参考訳（メタデータ） (2021-02-22T19:42:40Z)
• Generative Model without Prior Distribution Matching [26.91643368299913]
  変分オートエンコーダ(VAE)とその変分は、いくつかの先行分布を満たすために低次元の潜在表現を学習することによって古典的な生成モデルである。 我々は、先行変数に適合させるのではなく、先行変数が埋め込み分布と一致するように提案する。
  論文  参考訳（メタデータ） (2020-09-23T09:33:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。