論文の概要: Disentangled and Distilled Encoder for Out-of-Distribution Reasoning with Rademacher Guarantees

• arxiv url: http://arxiv.org/abs/2512.10522v1
• Date: Thu, 11 Dec 2025 10:47:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-12 16:15:42.329267
• Title: Disentangled and Distilled Encoder for Out-of-Distribution Reasoning with Rademacher Guarantees
• Title（参考訳）: Rademacher Guarantee を用いたアウト・オブ・ディストリビューション推論用ディスタングル・蒸留エンコーダ
• Authors: Zahra Rahiminasab, Michael Yuhas, Arvind Easwaran,
• Abstract要約: 近年,変分オートエンコーダ(VAE)の分散潜時空間は,複数ラベルのアウト・オブ・ディストリビューション試験サンプルの推論に用いられている。 本稿では, 資源制約装置へのOOD推論器サイズを小さくするために, 拡散蒸留エンコーダ(DDE)フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 3.6296402224183306
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, the disentangled latent space of a variational autoencoder (VAE) has been used to reason about multi-label out-of-distribution (OOD) test samples that are derived from different distributions than training samples. Disentangled latent space means having one-to-many maps between latent dimensions and generative factors or important characteristics of an image. This paper proposes a disentangled distilled encoder (DDE) framework to decrease the OOD reasoner size for deployment on resource-constrained devices while preserving disentanglement. DDE formalizes student-teacher distillation for model compression as a constrained optimization problem while preserving disentanglement with disentanglement constraints. Theoretical guarantees for disentanglement during distillation based on Rademacher complexity are established. The approach is evaluated empirically by deploying the compressed model on an NVIDIA
• Abstract（参考訳）: 近年, 変分オートエンコーダ (VAE) の分散潜時空間は, トレーニングサンプルとは異なる分布から導出されるマルチラベルアウト・オブ・ディストリビューション (OOD) テストサンプルの推論に用いられている。 切り離された潜伏空間とは、潜伏次元と生成因子との間の一対多の写像または画像の重要な特徴を有することを意味する。 本稿では, 資源制約されたデバイスに展開するOOD推論器のサイズを小さくすると共に, 拘束性を維持しながら, 拘束性のある蒸留エンコーダ(DDE)フレームワークを提案する。 DDEは、制約付き最適化問題としてモデル圧縮のための学生-教師蒸留を定式化し、不絡みの制約を保ったまま保存する。 ラデマッハの複雑性に基づく蒸留における解離の理論的保証が確立された。 この手法はNVIDIAに圧縮されたモデルをデプロイすることで実証的に評価される

関連論文リスト

• DiffusionDriveV2: Reinforcement Learning-Constrained Truncated Diffusion Modeling in End-to-End Autonomous Driving [65.7087560656003]
  エンドツーエンドの自動運転のための生成拡散モデルは、しばしばモード崩壊に悩まされる。 強化学習を利用して低品質モードを制約し,優れた軌道探索を行うDiffusionDriveV2を提案する。 これにより、そのコアであるガウス混合モデル固有の多重モード性を維持しながら、全体的な出力品質が大幅に向上する。
  論文  参考訳（メタデータ） (2025-12-08T17:29:52Z)
• Knowledge Distillation of Uncertainty using Deep Latent Factor Model [10.148306002388196]
  ガウス蒸留と呼ばれる新しい流通蒸留法を導入する。 これは、Dep Latent Factor Model (DLF)と呼ばれる特殊なガウス過程による教師のアンサンブルの分布を推定する。 複数のベンチマークデータセットを用いて,提案したガウス蒸留が既存のベースラインより優れていることを示す。
  論文  参考訳（メタデータ） (2025-10-22T06:46:59Z)
• Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
  本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。 提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。 SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
  論文  参考訳（メタデータ） (2025-07-24T16:45:05Z)
• Physics-Informed Distillation of Diffusion Models for PDE-Constrained Generation [19.734778762515468]
  拡散モデルは、物理系のモデリング、特に偏微分方程式(PDE)によって支配されるものにおいて、注目を集めている。 本稿では, PDE 制約を直接拡散過程に注入するのではなく, ポストホック蒸留段階において適用する, 単純かつ効果的なポストホック蒸留法を提案する。
  論文  参考訳（メタデータ） (2025-05-28T14:17:58Z)
• Unsupervised Out-of-Distribution Detection by Restoring Lossy Inputs with Variational Autoencoder [3.498694457257263]
  OOD検出のための新しいVAEベースのスコアであるError Reduction(ER)を提案する。 ERは、トレーニングセットの損失バージョンを入力として、元のセットをターゲットとして、VAEに基づいています。
  論文  参考訳（メタデータ） (2023-09-05T09:42:15Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Discriminator-Cooperated Feature Map Distillation for GAN Compression [69.86835014810714]
  そこで本研究では,DCDと略される発明的な識別器協調蒸留を,ジェネレータからより優れた特徴マップを精製するために提案する。 我々のDCDは既存のGAN圧縮法と比較して優れた結果を示した。
  論文  参考訳（メタデータ） (2022-12-29T03:50:27Z)
• Combating Mode Collapse in GANs via Manifold Entropy Estimation [70.06639443446545]
  Generative Adversarial Networks (GAN) は、様々なタスクやアプリケーションにおいて魅力的な結果を示している。 GANのモード崩壊問題に対処するための新しいトレーニングパイプラインを提案する。
  論文  参考訳（メタデータ） (2022-08-25T12:33:31Z)
• P-WAE: Generalized Patch-Wasserstein Autoencoder for Anomaly Screening [17.24628770042803]
  Patch-wise Wasserstein AutoEncoder (P-WAE) アーキテクチャを提案する。 特に、ジグソーパズルの解法と結合したパッチワイド変分推論モデルを設計する。 MVTec ADデータセットを用いた総合的な実験は、我々のプロポの優れた性能を実証する。
  論文  参考訳（メタデータ） (2021-08-09T05:31:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。