論文の概要: Canonical Joint Energy-Based Model on CIFAR-10: failure modes and practical indistinguishability of Predictor-Corrector and SGLD samplers

• arxiv url: http://arxiv.org/abs/2608.05025v1
• Date: Wed, 05 Aug 2026 16:28:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.988307
• Title: Canonical Joint Energy-Based Model on CIFAR-10: failure modes and practical indistinguishability of Predictor-Corrector and SGLD samplers
• Title（参考訳）: CIFAR-10の標準結合エネルギーモデル:予測器とSGLDの故障モードと実用的不明瞭性
• Authors: Dmytro Knopov,
• Abstract要約: 我々は、WideResNet-28-10上の標準合同エネルギーベースモデル(JEM)を、2つの独立したランで正規化レイヤなしで再現する。 予測器・コレクター(PC)サンプリング器がアニールノイズスケジュールを伴わずに理論上の優位性を保っているかどうかを検証した。 再現精度92.88%、バッファFID44.46(標準:92.9%、3840)
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Joint Energy-Based Models (JEM) unify classification and generation within a single network and support out-of-distribution (OOD) detection. Canonical JEM training relies on stochastic gradient Langevin dynamics (SGLD); a theoretically motivated alternative, the Predictor-Corrector (PC) sampler, has not previously undergone a systematic replication test on the canonical model. We reproduce canonical JEM on WideResNet-28-10 without normalisation layers on two independent runs and test whether PC retains its theoretical advantage without an annealed noise schedule, across three protocols: PC replacing SGLD throughout the roughly 130 training epochs; cold-start generation (FID); and refinement-style multi-OOD detection (AUROC). The reconstruction reaches 92.88% test accuracy and buffer-FID 44.46 (canonical: 92.9% and 38.40). We document two failure modes: catastrophic late-training divergence via the canonical outlier-buffer mechanism (both SGLD runs and, with the same signature, both PC runs), and run-dependent SVHN OOD-discrimination dynamics. No method-level advantage of PC over SGLD is observed on any protocol: at inference the absolute AUROC difference stays below 0.007 across all ten checkpoint-OOD pairs and the FID difference below 0.5; on the training protocol a hierarchical seed-by-image bootstrap gives a 95% confidence interval on the macro-averaged AUROC difference that contains zero, while a seed-level equivalence test with two runs per method cannot establish formal equivalence. The data are consistent both with equivalence and with a small directional effect. This practical indistinguishability is theoretically expected: under fixed noise the PC predictor step degenerates by construction, so its guarantees do not transfer to canonical JEM.
• Abstract（参考訳）: 統合エネルギーベースモデル(JEM)は、単一ネットワーク内の分類と生成を統一し、アウト・オブ・ディストリビューション(OOD)検出をサポートする。 カノニカルJEMトレーニングは、理論上動機づけられたPredictor-Corrector(PC)サンプル装置である確率勾配ランゲヴィンダイナミクス(SGLD)に依存しており、これまでは標準モデルの体系的な複製テストを行っていなかった。 我々は,WideResNet-28-10 上の標準 JEM を2つの独立したランで正規化することなく再現し,PC がアニールノイズスケジュールを伴わずに理論上の優位性を維持するかどうかを,約130 回の訓練期間にわたってPC が SGLD を置き換えること,コールドスタート生成 (FID) と改良型マルチオード検出 (AUROC) の3つのプロトコルで検証した。 再現率は92.88%、バッファFID44.46(標準:92.9%、38.40)に達する。 SGLDと同一シグネチャ、両方のPCラン)と、実行依存のSVHN OOD-差別力学の2つの障害モードについて述べる。 絶対値AUROC差は10個のチェックポイント-OODペアすべてで0.007以下であり、FID差は0.5以下であり、トレーニングプロトコルでは階層的なシード・バイ・イメージブートストラップがゼロを含むマクロ平均値AUROC差に対して95%の信頼区間を与える一方、メソッド毎に2回実行されたシードレベルの同値性テストは形式的等価性を確立することができない。 データは同値であり、方向効果も小さい。 固定ノイズの下でPC予測器のステップは構成によって縮退するので、その保証は標準JEMに転送されない。

関連論文リスト

• Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems [47.027290803102666]
  通常の行動は、多くの不均衡で、曲がりくねった、細い範囲の運営体制の結合である。 我々は正規法則を、共同学習された潜在表現と明示的なガウス混合モードクラスタリングでモデル化する。 ポイント調整のない生のポイントワイドメトリクス、自明な検出困難分割、頻度整合F1、列車正規化のみのキャリブレーションを意図的に評価する。
  論文  参考訳（メタデータ） (2026-07-07T10:10:00Z)
• Multi-Level Distributional Entropy for Explainable Network Intrusion Detection [3.6406488220483326]
  本稿では,フローレベルの要約統計から直接解釈可能なエントロピー特徴を導出するフレームワークを提案する。 4つのベンチマークで、エントロピーのみの機能は0.708-0.989の重み付きF1を達成する。 完全な運用メトリックレポートは、F1の隠蔽を集約する障害モードを公開する。
  論文  参考訳（メタデータ） (2026-06-29T05:19:21Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• K-Way Energy Probes for Metacognition Reduce to Softmax in Discriminative Predictive Coding Networks [0.0]
  本研究は,CE-エネルギーを目標とし,K-ウェイエネルギーマージンを対数-マックスマージンマージンのモノトン関数に分解し,正しさと相関しない残差を推定した。 CIFAR-10では,拡張決定性トレーニング,推論中の潜伏運動の直接測定,バックプロパゲーションネットワーク上のポストホックデコーダフェアネス制御,マッチング予算PCとBP比較,5点ランゲヴィン温度掃除,軌道積分MCPCトレーニングの6つの条件でこれを検証した。 ギャップは安定していた
  論文  参考訳（メタデータ） (2026-04-13T05:24:44Z)
• PARD-SSM: Probabilistic Cyber-Attack Regime Detection via Variational Switching State-Space Models [0.0]
  本稿では,ネットワークテレメトリをK = 4 の隠れ状態を持つ線形力学系としてモデル化する確率的フレームワーク PARD-SSM を提案する。 構造的変動近似は、推論の複雑さを指数関数からO(TK2)に還元し、標準CPUハードウェアでのリアルタイム検出を可能にする。 モデルはまた、攻撃開始の約8分前に予測アラートを生成する。
  論文  参考訳（メタデータ） (2026-04-02T17:38:52Z)
• SENTINEL: Stagewise Integrity Verification for Pipeline Parallel Decentralized Training [54.8494905524997]
  分散トレーニングは、信頼できない、地理的に分散したノードで実行される場合、重大なセキュリティリスクをもたらす。 重複のないパイプライン並列性(PP)トレーニングの検証機構であるSENTINELを提案する。 実験では、モデル収束と性能を維持しながら、最大176人の労働者を持つ信頼できない分散環境における最大4BパラメータLSMのトレーニングを成功させた。
  論文  参考訳（メタデータ） (2026-03-03T23:51:10Z)
• ProtoDCS: Towards Robust and Efficient Open-Set Test-Time Adaptation for Vision-Language Models [32.840734752367275]
  Prototype-based Double-Check separation (ProtoDCS)はOSTTAの堅牢なフレームワークである。 csIDとcsOODを分離し、ビジョン言語モデルのcsIDデータへの安全かつ効率的な適応を可能にする。 ProtoDCSは、既知のクラス精度とOOD検出メトリクスの両方を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-02-27T03:39:02Z)
• Consistency Trajectory Models: Learning Probability Flow ODE Trajectory of Diffusion [56.38386580040991]
  Consistency Trajectory Model (CTM) は Consistency Models (CM) の一般化である CTMは、対戦訓練とスコアマッチング損失を効果的に組み合わせることで、パフォーマンスを向上させる。 CMとは異なり、CTMのスコア関数へのアクセスは、確立された制御可能/条件生成メソッドの採用を合理化することができる。
  論文  参考訳（メタデータ） (2023-10-01T05:07:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。