論文の概要: Mode Collapse Is Cheap to Detect: A Ground-Truth-Free Pre-Flight Check for Neural Samplers
- arxiv url: http://arxiv.org/abs/2609.26272v1
- Date: Thu, 20 Aug 2026 09:12:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.950752
- Title: Mode Collapse Is Cheap to Detect: A Ground-Truth-Free Pre-Flight Check for Neural Samplers
- Title(参考訳): ニューラルネットワークを検知するモード崩壊(動画あり)
- Abstract要約: 本研究は, 欠落した質量を検出することは, サンプリングするよりも厳密な問題であることを示す。
これを飛行前チェックに変換し、サンプルのトレーニング予算の数パーセントを消費します。
- 参考スコア(独自算出の注目度): 2.5536942228520814
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural samplers are trained against an unnormalised target $\tildeπ=e^{-E}$ with no samples from $π$, which leaves the practitioner with no way to tell whether an expensive training run has silently dropped part of the target. The diagnostics in common use are computed from the model's own draws and are therefore confined to the model's support: we exhibit a sampler whose self-normalised effective sample size is $0.99$ while it misses $87\%$ of the target mass. We argue that \emph{detecting} missing mass is a strictly easier problem than sampling it: detection needs one point per missed basin plus a local curvature estimate, whereas correction needs the sampler retrained. We turn this into a pre-flight check that consumes a few percent of the sampler's own training budget and uses only $E$, $\nabla E$ and $\nabla^2 E$. On Gaussian-mixture, Many-Well and rotated anisotropic Many-Well targets with exactly computable ground truth, the check estimates the missing mass to within $10^{-3}$ at $2.7\%$ of training cost, where a tuned annealed SMC reference needs $70$--$280\%$ of training cost to do worse. It also applies unchanged to a controlled-SDE sampler that has no tractable density, where ESS and the ELBO cannot be formed at all. The estimator carries a \emph{self-diagnostic} that, without ground truth, is conservative in the safe direction: across $60$ configurations it clears $16$, of which $15$ are accurate to $10^{-2}$ or better. We are explicit about what this does and does not license: the check cheaply produces evidence of missing mass, and sometimes evidence that the search has stabilised, but it cannot certify a run, and its thresholds are heuristic. We then map the boundary of the method on a real physical landscape, LJ-13, and report where it fails and why.
- Abstract(参考訳): ニューラルサンプリングは、通常のターゲットである$\tildeπ=e^{-E}$に対してトレーニングされ、$π$のサンプルはない。
有効試料サイズが0.99ドルであり,目標質量の87.5%を欠いた試料を提示する。
検出には、欠落した流域ごとに1点と局所曲率推定が必要であり、補正にはサンプリング器の再訓練が必要である。
これをプレフライトチェックに変換し、サンプルのトレーニング予算の数パーセントを消費し、$E$、$\nabla E$、$\nabla^2 E$のみを使用します。
ガウス・ミキチャー、メリー・ウェル、回転したアニソトロピックなメリー・ウェルの目標を正確に計算可能な真理で計算し、チェックは不足質量を10-3 ドル以内と推定し、2.7 %のトレーニングコストを見積もる。
また、 ESS と ELBO が全く形成できない、引き込み可能な密度を持たない制御SDE サンプリングにも適用されない。
60ドル(約6,600円)のコンフィグレーションで16ドル(約1,300円)がクリアされ、その中の15ドル(約1,300円)が10〜2ドル(約1,300円)以上です。
チェックは安価に、欠落した質量の証拠を発生させ、時には検索が安定化したが、ランが証明できず、しきい値がヒューリスティックであることを示す。
次に、実際の物理的景観(LJ-13)にメソッドの境界をマッピングし、それがどこで失敗したのか、なぜ失敗したのかを報告する。
関連論文リスト
- Detecting and Discriminating Operator Misspecification in Hybrid PDE-Parameter Learning: a Reference-Free Instrument, with Discrimination Bounded In Sample [0.0]
私たちは1つのフィットから読み取る楽器を作り、オラクルは持っていません。
回復時に神経推定器がTikhonov-regularized inversionに負ける、事前登録された負の機器である、装置の盲点を報告する。
論文 参考訳(メタデータ) (2026-08-04T21:20:44Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳(メタデータ) (2026-08-01T13:49:46Z) - Fixed-Protocol Amortized MPS Tomography with Conformalized Predictive Uncertainty [31.082191748525137]
量子状態トモグラフィーはサンプリング・スターベットされ、その状態は狭く学習可能な多様体上で生きていく。
事前の見積もりは、既にほぼ最適であり、ほとんどの測定値において高い忠実度」は、断層撮影よりも家族の記憶である可能性がある。
そこで本稿では,ゲージ不変の忠実度損失を一度トレーニングしたemph-protocolアモータライズMPS推定器を提案する。
論文 参考訳(メタデータ) (2026-07-13T08:57:23Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳(メタデータ) (2026-05-09T22:27:31Z) - The Sample Complexity of Membership Inference and Privacy Auditing [7.865646654746587]
会員推論攻撃は、学習アルゴリズムと対象個人とを出力し、この個人がトレーニングデータのメンバーであるか、同じ分布から独立したサンプルであるかを判定する。
メンバシップ推論攻撃が成功した場合、通常、攻撃者はトレーニングデータがサンプリングされた分布についてある程度の知識を必要とする。
この設定では、$Omega(n + n2 rho2)$サンプルは、完全に情報を得た攻撃者と競合する攻撃を実行するために必要であることを示す。
論文 参考訳(メタデータ) (2025-08-26T22:19:28Z) - Testing the Feasibility of Linear Programs with Bandit Feedback [53.40256244941895]
我々は,低回帰アルゴリズムと反復対数の漸近法則に基づくテストを開発する。
このテストが信頼できることを証明し、信号レベルに適応する'$Gamma,$ of any instance。
信頼性テストのサンプルコストに対して、最小限の$(Omegad/Gamma2)$で補う。
論文 参考訳(メタデータ) (2024-06-21T20:56:35Z) - How Low Can You Go? Surfacing Prototypical In-Distribution Samples for Unsupervised Anomaly Detection [48.30283806131551]
非常に少ないトレーニングサンプルを持つUADが、トレーニングデータセット全体のトレーニングパフォーマンスにすでに一致している - そして、場合によっては、それを超えることもある、ということが、私たちは示しています。
そこで本研究では,UAD性能をさらに向上させるために,原型標本を確実に同定するための教師なし手法を提案する。
論文 参考訳(メタデータ) (2023-12-06T15:30:47Z) - NeFSAC: Neurally Filtered Minimal Samples [90.55214606751453]
NeFSACは、動作不整合で条件の悪い最小サンプルをニューラルネットワークでフィルタリングするための効率的なアルゴリズムである。
NeFSACは既存のRANSACベースのパイプラインに接続できる。
公開されている3つの実世界のデータセットから100万枚以上のイメージペアでNeFSACをテストしました。
論文 参考訳(メタデータ) (2022-07-16T08:02:05Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳(メタデータ) (2020-12-31T18:24:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。