論文の概要: Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion
- arxiv url: http://arxiv.org/abs/2605.24631v1
- Date: Sat, 23 May 2026 15:40:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.283973
- Title: Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion
- Title(参考訳): ジェネレーティブプライオリティを超えて - JEPA-Guided Diffusionによるマイナーサンプリング
- Authors: Sol Park, Soobin Um,
- Abstract要約: 本稿では,実世界の先行する先進国に対する希少性を定義したマイノリティサンプリングに関する世界中心の視点を提案する。
本稿では,JEPAガイダンスについて紹介する。
我々は,JEPAガイダンスがマイノリティサンプルの忠実度と意味的妥当性を一貫して改善することを示す。
- 参考スコア(独自算出の注目度): 7.276372008305617
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Minority sampling aims to generate low-density instances on a data manifold and is of central importance in applications such as medical diagnosis, anomaly detection, and creative AI. Existing approaches, however, define minority samples relative to generative priors learned from training data, confining rarity to model-specific notions that may poorly reflect real-world semantics. In this work, we propose a world-centric perspective on minority sampling, which defines rarity with respect to real-world priors rather than generator-induced densities. To this end, we introduce JEPA guidance, a diffusion sampling framework guided by a Joint-Embedding Predictive Architecture (JEPA) -- a class of world models that encode broad, semantically rich representations. JEPA guidance steers diffusion trajectories toward low-density regions under the implicit density induced by the JEPA, thereby aligning generated minorities with real-world semantic rarity. To make JEPA guidance computationally practical, we develop principled approximation strategies accompanied by theoretical error bounds, significantly reducing the overhead of guidance computation. Extensive experiments across unconditional, class-conditional, and text-to-image generation demonstrate that JEPA guidance consistently improves the fidelity and semantic validity of minority samples, outperforming generator-centric baselines in capturing real-world notions of rarity. Code is available at https://github.com/soobin-um/jepa-guidance.
- Abstract(参考訳): マイノリティサンプリングは、データ多様体上で低密度のインスタンスを生成することを目的としており、医療診断、異常検出、クリエイティブAIなどのアプリケーションにおいて中心的な役割を果たす。
しかし、既存のアプローチでは、訓練データから得られた生成的先行に関する少数サンプルを定義し、現実のセマンティクスを十分に反映していないモデル固有の概念を精査する。
本研究では, マイノリティーサンプリングに対する世界中心の視点を提案する。
この目的のために、JEPAガイダンス(Joint-Embedding Predictive Architecture(JEPA)によってガイドされる拡散サンプリングフレームワーク)を紹介します。
JEPAガイダンスは、JEPAによって誘導される暗黙の密度の下で低密度領域への拡散軌跡を操り、生成されたマイノリティと実世界のセマンティックラリティを整合させる。
JEPAガイダンスを現実的に実現するため,理論的な誤差境界を伴う原理的近似戦略を開発し,ガイダンス計算のオーバーヘッドを大幅に低減する。
非条件, クラス条件, テキスト・ツー・イメージ生成に対する広範な実験により, JEPAガイダンスは, マイノリティサンプルの忠実度と意味的妥当性を一貫して改善し, 実世界のラリティ概念を捉える上で, ジェネレータ中心のベースラインよりも優れていた。
コードはhttps://github.com/soobin-um/jepa-guidance.comで入手できる。
関連論文リスト
- Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models [26.928611870426383]
JointEmbedding Predictive Architectures (JEPA)は、将来の潜伏表現を予測することで、世界モデルを学ぶためのシンプルなフレームワークを提供する。
最近のLeWorldModel (LeWM) は、この問題を、同型ガウス先行の埋め込みを単純に制限することで緩和できることを示している。
元の埋め込み空間ではなく、複数のランダム部分空間にガウス的制約を適用することにより、バイアス分散フロンティア上の有利な操作点を求めるameを提案する。
論文 参考訳(メタデータ) (2026-05-10T00:51:47Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z) - Boost-and-Skip: A Simple Guidance-Free Diffusion for Minority Generation [57.19995625893062]
マイノリティサンプル(Minority sample)は、データ多様体の低密度領域に位置する下記のインスタンスである。
マイノリティサンプルを生成するために,Boost-and-Skipというシンプルなガイダンスのない手法を提案する。
これらの一見自明な修正は、確固たる理論と実証的な証拠によって支えられていることを強調する。
論文 参考訳(メタデータ) (2025-02-10T14:37:26Z) - Denoising with a Joint-Embedding Predictive Architecture [21.42513407755273]
私たちはD-JEPA(Joint-Embedding Predictive Architecture)でDenoisingを紹介します。
本稿では,JEPAをマスク画像モデリングの一形態として認識することにより,一般化した次世代予測戦略として再解釈する。
また,拡散損失を利用して確率分布をモデル化し,連続空間におけるデータ生成を可能にする。
論文 参考訳(メタデータ) (2024-10-02T05:57:10Z) - Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited
Data [125.7135706352493]
GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。
近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。
本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:13:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。