論文の概要: SCARCE: Scalable Cascade Analysis for Rare-event Characterisation via Embeddings
- arxiv url: http://arxiv.org/abs/2606.29623v1
- Date: Sun, 28 Jun 2026 21:59:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.984604
- Title: SCARCE: Scalable Cascade Analysis for Rare-event Characterisation via Embeddings
- Title(参考訳): SCARCE: 埋め込みによる希少な特徴付けのためのスケーラブルなカスケード解析
- Abstract要約: 現代のAIシステムの安全プロファイルは、希少な出来事によって管理されているが、その確率を推定するのは極めて困難である。
サブセットシミュレーション(SS)は、希少な確率をネストした中間事象に対する適度な条件確率に分解することでこの問題に対処する。
提案するSCARCEは, 性能関数を学習された潜時表現と, 故障領域に近接する幾何的定規に置き換える。
- 参考スコア(独自算出の注目度): 20.16155808703233
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Rare events govern the safety profile of modern AI systems, yet their probabilities are extremely difficult to estimate: direct Monte Carlo requires prohibitive sample budgets. Subset Simulation (SS) addresses this by decomposing a rare-event probability into moderate conditional probabilities over nested intermediate events. However, classical SS requires a handcrafted scalar performance function whose sublevel sets define those events, demanding detailed knowledge of the failure geometry and limiting transfer to new domains. We propose SCARCE (Scalable Cascade Analysis for Rare-event Characterisation via Embeddings), which replaces the performance function with learned latent representations and geometric rulers that score proximity to failure regions. Adaptive thresholding constructs nested intermediate events directly from data. We formalise SCARCE through a non-negative supermartingale, yielding a high-probability upper envelope that remains valid under early stopping. On MNIST misclassification, where dense Monte Carlo provides ground truth, SCARCE achieves approximately 400--500 times lower mean absolute error than grid-searched traditional SS while eliminating systematic over-counting. We then study PAIR-style LLM jailbreaks under a fleet-level threat model with adversarial fraction $η$. On Llama-Guard-3-8B hidden states, a PCA-based ruler attains 2.6% mean relative error for $η\geq 10^{-3}$ against finite-sample references whose average bootstrap relative half-width is 27.9%, and transfers to a GCG-style corpus with 2.93% relative error after recalibration. A directional criterion $\mathrm{KL}(p_{\mathrm{good}}\,\|\,p_{\mathrm{bad}})$ ranks rulers consistently with estimation error (Spearman $ρ=0.83$).
- Abstract(参考訳): 希少な出来事は現代のAIシステムの安全プロファイルを左右するが、その確率を推定するのは極めて困難である。
サブセットシミュレーション(SS)は、希少な確率をネストした中間事象に対する適度な条件確率に分解することでこの問題に対処する。
しかし、古典SSは、これらの事象をサブレベルセットで定義する手作りスカラー性能関数を必要とし、故障幾何学の詳細な知識と新しい領域への移動を制限する。
そこで我々はSCARCE(Scalable Cascade Analysis for Rare-event Characterization via Embeddings)を提案する。
適応しきい値設定は、データから直接ネストされた中間イベントを構成する。
我々はSCARCEを非負のスーパーマーチンゲールで定式化し、早期停止後も有効である高い確率の上部エンベロープを得る。
モンテカルロ密度が基底となるMNISTの誤分類では、SCARCEはグリッド探索された従来のSSよりも400~500倍低い平均絶対誤差を達成し、体系的なオーバーカウントを排除している。
次に,PAIR方式のLLMジェイルブレイクを,逆数$η$のフリートレベルの脅威モデルで研究する。
Llama-Guard-3-8B隠蔽状態では、PCAベースの定規は、平均ブートストラップの相対幅が27.9%である有限サンプル参照に対して$η\geq 10^{-3}$に対して2.6%の相対誤差を達成し、再校正後に2.93%のGCG型コーパスに転送する。
方向の基準である $\mathrm{KL}(p_{\mathrm{good}}\,\|\,p_{\mathrm{bad}})$ の定規は推定誤差と一貫して一致する(Spearman $ρ=0.83$)。
関連論文リスト
- Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。
共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。
このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
論文 参考訳(メタデータ) (2026-08-08T13:22:14Z) - Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。
我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
論文 参考訳(メタデータ) (2026-08-06T19:49:48Z) - Estimating Rare Events in Language Models with Proper Evaluation [16.1901795614153]
GA-AMLS(Gradient Activation Adaptive Multi-Level Splitting)を導入する。
GA-AMLSは、言語モデルの連続活性化空間に希少なモンテカルロ法を適用する。
また、ゼロ推定に対して有限な適切なスコアリング規則であるシフトパワー・ブレグマン(SPB)ロス(英語版)を提案する。
論文 参考訳(メタデータ) (2026-07-20T19:07:43Z) - Learning with a Single Rollout via Monte Carlo Pass@k Critic [41.21709991031287]
拡張学習におけるトークンレベルの利点を推定することは、エピソード体験コレクションのスケールアップが高価であるため困難である。
言語モデルのためのRLにおけるトークンレベルの信用代入を特徴とする単一ロールアウトポリシ最適化について検討する。
SR-PPOは、Pass@128の成功率の連続的な上昇とともに、安定した学習力学を示すことを示す。
論文 参考訳(メタデータ) (2026-06-24T06:26:34Z) - How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - Sparse Regression under Correlation and Weak Signals: A Reproducible Benchmark of Classical and Bayesian Methods [1.6679662639178268]
合成データに対する6つのスパース回帰法をベンチマークした。
ベイズ法は予測誤差(MSE 72 vs. 108-267)で勝利し、ホースシューは95%近くをカバーしている(94.8%)。
可変選択の場合、F1 0.47のラッソとスパイク・アンド・スラブのネクタイは、後部が不要な場合に事実上のデフォルトとなる。
論文 参考訳(メタデータ) (2026-04-04T15:46:44Z) - Outrigger local polynomial regression [0.15293427903448023]
本研究では,異なる条件付き誤差分布の分布適応性を実現するために,重み付き局所推定器を提案する。
条件スコア推定の影響を安定化するために、より広いローカルウィンドウのデータを描画する。
推定器がHlderクラスに対して最適であることは、乗法係数$A_,d$まで証明する。
論文 参考訳(メタデータ) (2026-03-11T20:19:09Z) - Late-Stage Generalization Collapse in Grokking: Detecting anti-grokking with Weightwatcher [1.6615337656760856]
ニューラルネットワークにおけるemphMemorizationは、正確な運用定義が欠如しており、しばしばグラッキングレジームから推測される。
我々は、このトレーニング体制において、未報告の第3段階である、エンファンティ・グロッキング(emphanti-grokking)、すなわち、一般化の後期崩壊を識別する。
論文 参考訳(メタデータ) (2026-02-02T22:09:14Z) - On the Probability of First Success in Differential Evolution: Hazard Identities and Tail Bounds [0.0]
本研究では、条件付きハザードフレームワークによる微分進化(DE)におけるファーストヒッティング時間について検討する。
現状のp$best/1変異を持つL-SHADEアルゴリズムでは、条件付きハザードが明示的な下限を許容するチェック可能なアルゴリズム目撃イベント$mathcal L_t$を構築する。
論文 参考訳(メタデータ) (2026-01-16T18:24:24Z) - Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。
認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。
この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
論文 参考訳(メタデータ) (2025-10-01T13:56:44Z) - Adapt in the Wild: Test-Time Entropy Minimization with Sharpness and Feature Regularization [85.50560211492898]
テスト時適応(TTA)は、テストデータが分散シフトが混在している場合、モデルの性能を改善または損なう可能性がある。
これはしばしば、既存のTTAメソッドが現実世界にデプロイされるのを防ぐ重要な障害である。
両面からTTAを安定化させるため,SARと呼ばれる鋭く信頼性の高いエントロピー最小化手法を提案する。
論文 参考訳(メタデータ) (2025-09-05T10:03:00Z) - Will My Robot Achieve My Goals? Predicting the Probability that an MDP Policy Reaches a User-Specified Behavior Target [56.99669411766284]
自律的なシステムがタスクを実行する場合、ユーザの目標を達成する確率のキャリブレーションされた見積もりを維持する必要がある。
本稿では,ユーザの目標が目標間隔として指定される設定について検討する。
我々は、共形予測を反転させて確率推定を計算する。
論文 参考訳(メタデータ) (2022-11-29T18:41:20Z) - Improved techniques for deterministic l2 robustness [63.34032156196848]
畳み込みニューラルネットワーク(CNN)を$l_2$ノルムの下で厳密な1-Lipschitz制約で訓練することは、対向的堅牢性、解釈可能な勾配、安定した訓練に有用である。
我々は,最後の線形層を1重層に置き換えることで,1-Lipschitz CNNのロバスト性を証明する手法を提案する。
我々は,CIFAR-10およびCIFAR-100における標準および証明可能な堅牢な精度の最先端化を図る。
論文 参考訳(メタデータ) (2022-11-15T19:10:12Z) - Sharp Statistical Guarantees for Adversarially Robust Gaussian
Classification [54.22421582955454]
逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。
結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
論文 参考訳(メタデータ) (2020-06-29T21:06:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。