論文の概要: Optimizing Latent Dimension Allocation in Hierarchical VAEs: Balancing Attenuation and Information Retention for OOD Detection

• arxiv url: http://arxiv.org/abs/2506.10089v1
• Date: Wed, 11 Jun 2025 18:16:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-13 15:37:22.382539
• Title: Optimizing Latent Dimension Allocation in Hierarchical VAEs: Balancing Attenuation and Information Retention for OOD Detection
• Title（参考訳）: 階層型VAEにおける潜時次元配置の最適化:OOD検出のためのバランシング減衰と情報保持
• Authors: Dane Williamson, Yangfeng Ji, Matthew Dwyer,
• Abstract要約: 階層的変分オートエンコーダ(HVAE)は、従来のVAEよりも優れた表現能力を提供する。 既存のアプローチはしばしば遅延容量を任意に割り当て、非効率な表現や後続の崩壊につながる。 本稿では,HVAEにおける潜在次元割り当てを最適化するための理論的基盤となるフレームワークを提案する。 固定遅延予算の下で最適な割り当て比$rast$の存在を証明し、この比率を調整することでOOD検出性能が一貫したことを示す。
• 参考スコア（独自算出の注目度）: 14.833454650943805
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Out-of-distribution (OOD) detection is a critical task in machine learning, particularly for safety-critical applications where unexpected inputs must be reliably flagged. While hierarchical variational autoencoders (HVAEs) offer improved representational capacity over traditional VAEs, their performance is highly sensitive to how latent dimensions are distributed across layers. Existing approaches often allocate latent capacity arbitrarily, leading to ineffective representations or posterior collapse. In this work, we introduce a theoretically grounded framework for optimizing latent dimension allocation in HVAEs, drawing on principles from information theory to formalize the trade-off between information loss and representational attenuation. We prove the existence of an optimal allocation ratio $r^{\ast}$ under a fixed latent budget, and empirically show that tuning this ratio consistently improves OOD detection performance across datasets and architectures. Our approach outperforms baseline HVAE configurations and provides practical guidance for principled latent structure design, leading to more robust OOD detection with deep generative models.
• Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)検出は、特に予期せぬ入力を確実にフラグ付けしなければならない安全クリティカルなアプリケーションにおいて、機械学習において重要なタスクである。 階層的変分オートエンコーダ(HVAE)は従来のVAEよりも優れた表現能力を提供するが、その性能は層間における遅延次元の分散に非常に敏感である。 既存のアプローチはしばしば遅延容量を任意に割り当て、非効率な表現や後続の崩壊につながる。 本研究では,情報損失と表現減衰のトレードオフを定式化するために,情報理論の原理を基礎として,HVAEにおける潜在次元割り当てを最適化するための理論的基盤となる枠組みを導入する。 我々は、固定潜在予算の下で最適な割り当て比$r^{\ast}$の存在を証明し、この比率を調整することでデータセットやアーキテクチャ全体にわたるOOD検出性能が一貫して改善されることを実証的に示す。 提案手法はベースラインのHVAE構成より優れており,原理的潜在構造設計のための実用的なガイダンスを提供する。

関連論文リスト

• Non-Linear Outlier Synthesis for Out-of-Distribution Detection [5.019613806273252]
  本稿では,拡散モデル埋め込み空間で直接操作することで,合成外乱器の品質を向上させるNCISを提案する。 これらの改良により,標準的な ImageNet100 および CIFAR100 ベンチマークにおいて,最先端の OOD 検出結果が得られた。
  論文  参考訳（メタデータ） (2024-11-20T09:47:29Z)
• Enhancing OOD Detection Using Latent Diffusion [5.093257685701887]
  Out-of-Distribution (OOD) 検出アルゴリズムは、現実世界のデプロイにおいて未知のサンプルやオブジェクトを特定するために開発された。 潜在空間におけるOOD学習データを合成するoutlier Aware Learningフレームワークを提案する。 また,OODデータを用いたトレーニングにおいて,ID分類精度の低下を防止するための知識蒸留モジュールを開発した。
  論文  参考訳（メタデータ） (2024-06-24T11:01:43Z)
• CRoFT: Robust Fine-Tuning with Concurrent Optimization for OOD Generalization and Open-Set OOD Detection [42.33618249731874]
  トレーニングデータにおけるエネルギースコアの最大化は、ドメイン一貫性のあるヘッセンの分類損失につながることを示す。 我々は,両タスクの同時最適化を可能にする統合された微調整フレームワークを開発した。
  論文  参考訳（メタデータ） (2024-05-26T03:28:59Z)
• Towards Calibrated Robust Fine-Tuning of Vision-Language Models [97.19901765814431]
  本研究は、視覚言語モデルにおいて、OOD精度と信頼性校正の両方を同時に改善する頑健な微調整法を提案する。 OOD分類とOOD校正誤差は2つのIDデータからなる共有上限を持つことを示す。 この知見に基づいて,最小の特異値を持つ制約付きマルチモーダルコントラスト損失を用いて微調整を行う新しいフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-11-03T05:41:25Z)
• Mind the Backbone: Minimizing Backbone Distortion for Robust Object Detection [52.355018626115346]
  ドメインシフトに対して堅牢なオブジェクト検出器を構築することは、現実世界のアプリケーションにとって重要なことです。 我々は,ゆがみを特徴付けるバックボーンの脆弱性を測定する手段として,相対勾配ノルム(Relative Gradient Norm)を提案する。 両バックボーンのOOD堅牢性を高めるためのレシピを提案する。
  論文  参考訳（メタデータ） (2023-03-26T14:50:43Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
  本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。 提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
  論文  参考訳（メタデータ） (2023-01-17T01:46:45Z)
• Exploring Optimal Substructure for Out-of-distribution Generalization via Feature-targeted Model Pruning [23.938392334438582]
  本研究では,不均一な部分構造を自動探索するために,SFPと呼ばれる新しいSpurious Feature-targeted Model Pruningフレームワークを提案する。 SFP は構造ベースおよび非構造 OOD 一般化 SOTA をそれぞれ4.72% と 23.35% に向上させることができる。
  論文  参考訳（メタデータ） (2022-12-19T13:51:06Z)
• On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
  決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。 DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
  論文  参考訳（メタデータ） (2021-07-01T17:59:07Z)
• High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning [119.91679702854499]
  本研究では,高次元の入力空間上でベイズ最適化を行うためのディープ・メトリック・ラーニングに基づく手法を提案する。 このような帰納バイアスを、利用可能なラベル付きデータの1%だけを用いて達成する。 実証的な貢献として、実世界の高次元ブラックボックス最適化問題に対する最先端の結果を示す。
  論文  参考訳（メタデータ） (2021-06-07T13:35:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。