論文の概要: Imaginative Generative AI: Crossing the Entropy Wall into Worlds Beyond Imitation

• arxiv url: http://arxiv.org/abs/2608.09385v2
• Date: Tue, 11 Aug 2026 16:38:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 16:08:30.7246
• Title: Imaginative Generative AI: Crossing the Entropy Wall into Worlds Beyond Imitation
• Title（参考訳）: Imaginative Generative AI: エントロピーの壁をイミテーションを超えた世界へ
• Authors: Farzan Farnia, Hossein Goli, Amin Gohari,
• Abstract要約: 我々は,Imaginative Generative AI (IGA)を紹介した。 IGAは、スペクトルの多様性が所定のレベルに達するものを選択する。 我々は、このエントロピーに制約のある射影の理論を開発し、KLアンカーと事前訓練されたジェネレータのアンカーの下で、最適は自己整合指数-チルト関係を満たすことを示す。
• 参考スコア（独自算出の注目度）: 20.403981727850237
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative AI models are primarily designed to imitate the data distribution, an objective that neither corrects diversity lost by a learned generator nor defines how generation should extend beyond the diversity of the data itself. We introduce Imaginative Generative AI (IGA), a framework that makes diversity part of the target-distribution design problem: among distributions close to a reference, IGA selects one whose spectral diversity reaches a prescribed level. Diversity is measured by the von Neumann entropy of the generated distribution's kernel covariance operator in a fixed representation space, providing a reference-free representation-guided measure of how broadly probability mass occupies embedding directions. The spectral entropy of the population data distribution defines an Entropy Wall. Below the wall, IGA performs diversity repair, recovering variation that a learned generator has lost while remaining within the diversity level of the data. Beyond the wall, the data distribution itself becomes infeasible, and IGA deliberately departs from it to produce distributions with greater representation-relative spectral diversity, an operational notion of imaginative generation. These regimes form a single regularization path from imitation to imagination and define an i.i.d. target distribution at each prescribed diversity level. We develop the theory of this entropy-constrained projection and show that, under a KL anchor to a pretrained generator, the optimum satisfies a self-consistent exponential-tilt relation. This characterization leads to IGA Guidance, a retraining-free inference-time method for score-based and diffusion models, including DDPM and DDIM samplers. Experiments on synthetic and vision benchmarks demonstrate diversity repair below the Entropy Wall and controlled spectral extrapolation beyond it.
• Abstract（参考訳）: 生成AIモデルは、主にデータ分散を模倣するために設計されており、学習したジェネレータによって失われた多様性を補正することも、データ自体の多様性を超えて生成をどのように拡張するかを定義することもできない。 我々は,IGA(Imaginative Generative AI)について紹介する。IGAは,参照に近い分布のうち,スペクトルの多様性が所定のレベルに達するものを選択する。 多様性は、生成した分布のカーネル共分散作用素のフォン・ノイマンエントロピー(英語版)によって、固定表現空間において測定される。 人口データ分布のスペクトルエントロピーはエントロピーウォールを定義する。 壁の下のIGAは、多様性の修復を行い、データの多様性レベルに留まりながら、学習したジェネレータが失った変化を回復する。 壁の向こうでは、データ分布自体が実現不可能になり、IGAは意図的に、想像的生成という操作的な概念である表現相対スペクトルの多様性を増した分布を生成するために、それから離れる。 これらの規則は模倣から想像への単一正規化経路を形成し、所定の多様性レベルごとにi.d.ターゲット分布を定義する。 我々は、このエントロピーに制約のある射影の理論を開発し、KLアンカーと事前訓練されたジェネレータのアンカーの下で、最適は自己整合指数-チルト関係を満たすことを示す。 この特徴は、DDPM や DDIM のサンプルを含むスコアベースおよび拡散モデルに対する再学習不要な推論時間法である IGA Guidance に導かれる。 合成および視覚ベンチマークの実験では、エントロピー壁の下にある多様性の修復と、その向こうのスペクトル外挿を制御している。

関連論文リスト

• Diverse Sampling in Diffusion Models with Marginal Preserving Particle Guidance [13.27396716172129]
  EDDY(Exact-marginal Diversification via Divergence-free dYnamics)は拡散・流れマッチングモデルのための誘導機構である。 合成分布実験とテキスト・ツー・イメージ生成実験により、EDDYは共通のベースラインに比べて分布の忠実さを保ちながら多様性を向上することが示された。
  論文  参考訳（メタデータ） (2026-05-07T16:49:12Z)
• Exposing Diversity Bias in Deep Generative Models: Statistical Origins and Correction of Diversity Error [19.594704501292778]
  我々は,最先端モデルにより生成されたサンプルの多様性と,対象データ分布から抽出したテストサンプルの多様性を比較した。 テストデータは、生成したサンプルよりも、VendiとRKEの多様性スコアがかなり高いことが判明した。
  論文  参考訳（メタデータ） (2026-02-16T12:15:34Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• StyleGenes: Discrete and Efficient Latent Distributions for GANs [149.0290830305808]
  GAN(Generative Adversarial Networks)のための離散潜在分布を提案する。 連続的な先行点から潜在ベクトルを描く代わりに、学習可能な潜在点の有限集合からサンプリングする。 私たちは生物の情報のエンコーディングからインスピレーションを得ます。
  論文  参考訳（メタデータ） (2023-04-30T23:28:46Z)
• Source-free Domain Adaptation Requires Penalized Diversity [60.04618512479438]
  ソースデータがない場合、異なるドメイン間の知識伝達に対処するために、ソースフリードメイン適応(SFDA)が導入された。 教師なしのFDAでは、多様性はソース上の1つの仮説を学習するか、共有された特徴抽出器で複数の仮説を学習することに限定される。 本稿では,異なる特徴抽出器を用いて表現多様性を促進する新しい無教師付きSFDAアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-06T00:20:19Z)
• Structure-preserving GANs [6.438897276587413]
  分散学習のためのデータ効率フレームワークとして,構造保存型GANを導入する。 我々は、不変判別器空間上のその射影に対して、判別器空間を減少させることができることを示す。 固有群対称性を持つ分布に対する対称性保存GANを構築することで、我々の枠組みを文脈化する。
  論文  参考訳（メタデータ） (2022-02-02T16:40:04Z)
• GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
  深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。 情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
  論文  参考訳（メタデータ） (2020-09-24T19:34:37Z)
• Generative Model without Prior Distribution Matching [26.91643368299913]
  変分オートエンコーダ(VAE)とその変分は、いくつかの先行分布を満たすために低次元の潜在表現を学習することによって古典的な生成モデルである。 我々は、先行変数に適合させるのではなく、先行変数が埋め込み分布と一致するように提案する。
  論文  参考訳（メタデータ） (2020-09-23T09:33:24Z)
• Unsupervised Controllable Generation with Self-Training [90.04287577605723]
  GANによる制御可能な世代は依然として困難な研究課題である。 本稿では,自己学習を通じてジェネレータを制御する潜伏符号の分布を学習するための教師なしフレームワークを提案する。 我々のフレームワークは、変分オートエンコーダのような他の変種と比較して、より良い絡み合いを示す。
  論文  参考訳（メタデータ） (2020-07-17T21:50:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。