論文の概要: Geometry of Score Based Generative Models

• arxiv url: http://arxiv.org/abs/2302.04411v1
• Date: Thu, 9 Feb 2023 02:39:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-10 17:07:24.927634
• Title: Geometry of Score Based Generative Models
• Title（参考訳）: スコアベース生成モデルの幾何学
• Authors: Sandesh Ghimire, Jinyang Liu, Armand Comas, Davin Hill, Aria Masoomi, Octavia Camps, Jennifer Dy
• Abstract要約: 幾何学的観点からScoreベースの生成モデル(拡散生成モデルとも呼ばれる)を考察する。 確率測度の空間における雑音の追加とノイズ発生の前後過程がワッサーシュタイン勾配流であることを証明した。
• 参考スコア（独自算出の注目度）: 2.4078030278859113
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we look at Score-based generative models (also called diffusion generative models) from a geometric perspective. From a new view point, we prove that both the forward and backward process of adding noise and generating from noise are Wasserstein gradient flow in the space of probability measures. We are the first to prove this connection. Our understanding of Score-based (and Diffusion) generative models have matured and become more complete by drawing ideas from different fields like Bayesian inference, control theory, stochastic differential equation and Schrodinger bridge. However, many open questions and challenges remain. One problem, for example, is how to decrease the sampling time? We demonstrate that looking from geometric perspective enables us to answer many of these questions and provide new interpretations to some known results. Furthermore, geometric perspective enables us to devise an intuitive geometric solution to the problem of faster sampling. By augmenting traditional score-based generative models with a projection step, we show that we can generate high quality images with significantly fewer sampling-steps.
• Abstract（参考訳）: 本研究では,幾何学的観点からスコアに基づく生成モデル(拡散生成モデルとも呼ばれる)について考察する。 新たな観点から, 雑音を付加し, 雑音を発生させる前方および後方のプロセスが, 確率測度の空間におけるワッサースタイン勾配流れであることを証明する。 私たちはこのつながりを最初に証明した。 スコアベース(および拡散)生成モデルに対する我々の理解は成熟し、ベイズ推論、制御理論、確率微分方程式、シュロディンガーブリッジといった異なる分野のアイデアを導いてより完全になる。 しかし、多くの疑問や課題が残っている。 例えば、サンプリング時間をいかに減らすかという問題があります。 幾何学的視点から見ると、これらの疑問の多くに答え、いくつかの既知の結果に新しい解釈を与えることができる。 さらに幾何学的視点は,より高速なサンプリング問題に対する直感的な幾何学的解法を考案することを可能にする。 従来のスコアベース生成モデルを投影ステップで拡張することにより,サンプリングステップをかなり少なくして高品質な画像を生成することができることを示す。

関連論文リスト

• Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
  乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。 本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。 提案手法の有効性を4つの標準ベンチマークで示す。
  論文  参考訳（メタデータ） (2024-07-10T16:51:32Z)
• von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
  円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。 後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• SteinGen: Generating Fidelitous and Diverse Graph Samples [11.582357781579997]
  我々はSteinGenを導入し、観測された1つのグラフからグラフを生成する。 我々は,SteinGenが,サンプルの多様性と組み合わせて,元のデータに高い分布類似性(高忠実度)をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-03-27T13:59:05Z)
• GECCO: Geometrically-Conditioned Point Diffusion Models [60.28388617034254]
  テキスト上で条件付き画像を生成する拡散モデルが最近,コンピュータビジョンコミュニティをはるかに超えている。 ここでは、無条件および条件付きの両方の点雲を画像で生成するという、関連する問題に取り組む。 後者では,スパーク画像の特徴を点雲に投影することに基づく,幾何学的動機付けによる新しい条件付け手法を提案する。
  論文  参考訳（メタデータ） (2023-03-10T13:45:44Z)
• Deep Equilibrium Approaches to Diffusion Models [1.4275201654498746]
  拡散に基づく生成モデルは高品質な画像を生成するのに極めて効果的である。 これらのモデルは通常、高忠実度画像を生成するために長いサンプリングチェーンを必要とする。 我々は、異なる観点からの拡散モデル、すなわち(深い)平衡(DEQ)固定点モデルについて考察する。
  論文  参考訳（メタデータ） (2022-10-23T22:02:19Z)
• Unveiling the Sampling Density in Non-Uniform Geometric Graphs [69.93864101024639]
  グラフを幾何学グラフとみなす: ノードは基礎となる計量空間からランダムにサンプリングされ、その距離が指定された近傍半径以下であれば任意のノードが接続される。 ソーシャルネットワークでは、コミュニティは密集したサンプル領域としてモデル化でき、ハブはより大きな近傍半径を持つノードとしてモデル化できる。 我々は,未知のサンプリング密度を自己監督的に推定する手法を開発した。
  論文  参考訳（メタデータ） (2022-10-15T08:01:08Z)
• Community Recovery in the Geometric Block Model [38.77098549680883]
  幾何学ブロックモデルにおけるコミュニティを検出するための単純な三角形計数データセットは、ほぼ最適であることを示す。 また,本アルゴリズムは理論的にも実用的にも極めて良好であることを示す。
  論文  参考訳（メタデータ） (2022-06-22T18:10:49Z)
• Dynamic Dual-Output Diffusion Models [100.32273175423146]
  反復分解に基づく生成は、他の生成モデルのクラスに匹敵する品質を示すことが示されている。 この方法の大きな欠点は、競合する結果を生み出すために数百のイテレーションが必要であることである。 近年の研究では、より少ないイテレーションでより高速に生成できるソリューションが提案されているが、画像の品質は徐々に低下している。
  論文  参考訳（メタデータ） (2022-03-08T11:20:40Z)
• Finding Geometric Models by Clustering in the Consensus Space [61.65661010039768]
  本稿では,未知数の幾何学的モデル,例えばホモグラフィーを求めるアルゴリズムを提案する。 複数の幾何モデルを用いることで精度が向上するアプリケーションをいくつか提示する。 これには、複数の一般化されたホモグラフからのポーズ推定、高速移動物体の軌道推定が含まれる。
  論文  参考訳（メタデータ） (2021-03-25T14:35:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。