論文の概要: Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion
- arxiv url: http://arxiv.org/abs/2605.24631v1
- Date: Sat, 23 May 2026 15:40:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.283973
- Title: Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion
- Title(参考訳): ジェネレーティブプライオリティを超えて - JEPA-Guided Diffusionによるマイナーサンプリング
- Abstract要約: 本稿では,実世界の先行する先進国に対する希少性を定義したマイノリティサンプリングに関する世界中心の視点を提案する。
本稿では,JEPAガイダンスについて紹介する。
我々は,JEPAガイダンスがマイノリティサンプルの忠実度と意味的妥当性を一貫して改善することを示す。
- 参考スコア(独自算出の注目度): 7.276372008305617
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Minority sampling aims to generate low-density instances on a data manifold and is of central importance in applications such as medical diagnosis, anomaly detection, and creative AI. Existing approaches, however, define minority samples relative to generative priors learned from training data, confining rarity to model-specific notions that may poorly reflect real-world semantics. In this work, we propose a world-centric perspective on minority sampling, which defines rarity with respect to real-world priors rather than generator-induced densities. To this end, we introduce JEPA guidance, a diffusion sampling framework guided by a Joint-Embedding Predictive Architecture (JEPA) -- a class of world models that encode broad, semantically rich representations. JEPA guidance steers diffusion trajectories toward low-density regions under the implicit density induced by the JEPA, thereby aligning generated minorities with real-world semantic rarity. To make JEPA guidance computationally practical, we develop principled approximation strategies accompanied by theoretical error bounds, significantly reducing the overhead of guidance computation. Extensive experiments across unconditional, class-conditional, and text-to-image generation demonstrate that JEPA guidance consistently improves the fidelity and semantic validity of minority samples, outperforming generator-centric baselines in capturing real-world notions of rarity. Code is available at https://github.com/soobin-um/jepa-guidance.
- Abstract(参考訳): マイノリティサンプリングは、データ多様体上で低密度のインスタンスを生成することを目的としており、医療診断、異常検出、クリエイティブAIなどのアプリケーションにおいて中心的な役割を果たす。
しかし、既存のアプローチでは、訓練データから得られた生成的先行に関する少数サンプルを定義し、現実のセマンティクスを十分に反映していないモデル固有の概念を精査する。
本研究では, マイノリティーサンプリングに対する世界中心の視点を提案する。
この目的のために、JEPAガイダンス(Joint-Embedding Predictive Architecture(JEPA)によってガイドされる拡散サンプリングフレームワーク)を紹介します。
JEPAガイダンスは、JEPAによって誘導される暗黙の密度の下で低密度領域への拡散軌跡を操り、生成されたマイノリティと実世界のセマンティックラリティを整合させる。
JEPAガイダンスを現実的に実現するため,理論的な誤差境界を伴う原理的近似戦略を開発し,ガイダンス計算のオーバーヘッドを大幅に低減する。
非条件, クラス条件, テキスト・ツー・イメージ生成に対する広範な実験により, JEPAガイダンスは, マイノリティサンプルの忠実度と意味的妥当性を一貫して改善し, 実世界のラリティ概念を捉える上で, ジェネレータ中心のベースラインよりも優れていた。
コードはhttps://github.com/soobin-um/jepa-guidance.comで入手できる。
関連論文リスト
- A Generalization Theory for JEPA-Based World Models [34.09833992943572]
JEPA(Joint Embedding Predictive Architectures)は、世界モデリングのための有望なパラダイムとして登場した。
実証的な成功にもかかわらず、JEPAベースの世界モデルの理論的理解は依然として限られている。
論文 参考訳(メタデータ) (2026-06-25T13:29:20Z) - Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models [26.928611870426383]
JointEmbedding Predictive Architectures (JEPA)は、将来の潜伏表現を予測することで、世界モデルを学ぶためのシンプルなフレームワークを提供する。
最近のLeWorldModel (LeWM) は、この問題を、同型ガウス先行の埋め込みを単純に制限することで緩和できることを示している。
元の埋め込み空間ではなく、複数のランダム部分空間にガウス的制約を適用することにより、バイアス分散フロンティア上の有利な操作点を求めるameを提案する。
論文 参考訳(メタデータ) (2026-05-10T00:51:47Z) - ThinkJEPA: Empowering Latent World Models with Large Vision-Language Reasoning Model [53.15040805435013]
視覚言語モデル(VLM)は、一様にサンプリングされたフレームを解析することで、強力なセマンティックグラウンドと一般的な知識を提供する。
本稿では,高密度フレーム・ダイナミックス・モデリングと長軸意味指導を組み合わせたVLM誘導型JEPA型潜在世界モデリングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-23T17:59:42Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z) - Gaussian Embeddings: How JEPAs Secretly Learn Your Data Density [51.15085346971361]
JEPA(Joint Embedding Predictive Architectures)は、多くのダウンストリームタスクを最初から解決できる表現を学習する。
JEPAsには2つの目的がある: (i) 潜在空間予測項、すなわち、わずかに摂動されたサンプルの表現は、元のサンプルの表現から予測できなければならない、 (ii) 反崩壊項、すなわち、すべてのサンプルが同じ表現を持つべきではない、という2つの目的がある。
論文 参考訳(メタデータ) (2025-10-07T14:06:30Z) - Learning Majority-to-Minority Transformations with MMD and Triplet Loss for Imbalanced Classification [0.5390869741300152]
教師付き分類におけるクラス不均衡は、多数派に対する予測をバイアスすることでモデル性能を低下させることが多い。
多数サンプルをマイノリティ分布にマッピングするパラメトリック変換を学習するオーバーサンプリングフレームワークを導入する。
提案手法は,グローバルアライメントのためのトランスフォーメーションと真のマイノリティサンプル間の平均最大誤差(MMD)を最小化する。
論文 参考訳(メタデータ) (2025-09-15T01:47:29Z) - Boost-and-Skip: A Simple Guidance-Free Diffusion for Minority Generation [57.19995625893062]
マイノリティサンプル(Minority sample)は、データ多様体の低密度領域に位置する下記のインスタンスである。
マイノリティサンプルを生成するために,Boost-and-Skipというシンプルなガイダンスのない手法を提案する。
これらの一見自明な修正は、確固たる理論と実証的な証拠によって支えられていることを強調する。
論文 参考訳(メタデータ) (2025-02-10T14:37:26Z) - Denoising with a Joint-Embedding Predictive Architecture [21.42513407755273]
私たちはD-JEPA(Joint-Embedding Predictive Architecture)でDenoisingを紹介します。
本稿では,JEPAをマスク画像モデリングの一形態として認識することにより,一般化した次世代予測戦略として再解釈する。
また,拡散損失を利用して確率分布をモデル化し,連続空間におけるデータ生成を可能にする。
論文 参考訳(メタデータ) (2024-10-02T05:57:10Z) - Self-Guided Generation of Minority Samples Using Diffusion Models [57.319845580050924]
データ多様体の低密度領域に居住する少数サンプルを生成するための新しい手法を提案する。
我々のフレームワークは拡散モデルに基づいて構築されており、ガイドドサンプリングの原理を生かしている。
実データセットのベンチマーク実験により、我々のアプローチは現実的な低自由度マイノリティインスタンスを作成する能力を大幅に改善できることが示された。
論文 参考訳(メタデータ) (2024-07-16T10:03:29Z) - Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited
Data [125.7135706352493]
GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。
近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。
本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:13:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。