論文の概要: Amplify, Locate, Estimate (ALE) on Rare-Failure Rates of Fine-Tuned LLMs

• arxiv url: http://arxiv.org/abs/2610.35472v1
• Date: Mon, 26 Oct 2026 14:05:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:14.020914
• Title: Amplify, Locate, Estimate (ALE) on Rare-Failure Rates of Fine-Tuned LLMs
• Title（参考訳）: 微調整LDMの希薄化速度の増幅, ローカテド, 推定(ALE)
• Abstract要約: ALE(Amplify, Locate, Estimate)は、稀な故障確率を効率的に推定する方法である。 最大1000ドルのラベル付きロールアウトの予算で、ALEはQwen3-8Bファインツインの故障確率を10～5ドルと見積もっている。
• 参考スコア（独自算出の注目度）: 11.799850638805603
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety fine-tuning can make undesirable model behaviors sufficiently rare that measuring their frequency by direct sampling becomes prohibitively expensive. We introduce Amplify, Locate, Estimate (ALE), a method for estimating such rare failure probabilities efficiently. ALE uses the change in token log-probabilities induced by the safety fine-tuning to define an amplification direction, along which we increase the failure rate for cheap measurement. We develop a score-function estimator that uses the selected amplified batch to recover the local slope of the log failure rate from the token probabilities of the sampled failures, enabling extrapolation back to rare target rates. We also use the amplified batch to obtain an importance-sampling estimate. Across 41 evaluation targets, ALE's estimate-to-reference ratios have a median close to one, with 37 ALE estimates within a factor of three of reference values obtained from independent direct measurements. Ablation tests show that with a budget of up to $\sim$1000 labeled rollouts, in addition to a cheap unlabeled scan, ALE estimates failure probabilities for Qwen3-8B fine-tunes down to about $10^{-5}$, where direct measurement can require hundreds of thousands of rollouts, as the required sampling budget scales inversely with failure probability at fixed relative precision.
• Abstract（参考訳）: 安全性の微調整により、望ましくないモデル動作が十分に稀になり、直接サンプリングによる周波数測定が違法に高価になる。 Amplify, Locate, Estimate (ALE) は, 異常確率を効率的に推定する手法である。 ALEは、安全微調整によって引き起こされるトークンログの確率の変化を利用して増幅方向を定義する。 サンプル故障のトークン確率からログ故障率の局所的な傾きを回復するために,選択した増幅バッチを用いたスコア関数推定器を開発し,希少なターゲットレートへの外挿を可能にする。 また、増幅されたバッチを用いて重要サンプリング推定値を得る。 41以上の評価対象において、ALEの推定基準比は中央値が1に近く、37のALE推定値は独立した直接測定から得られた基準値の3倍の範囲内である。 アブレーションテストによると、1000ドルのラベル付きロールアウトの予算と、安価なラベル付きスキャンに加えて、ALEはQwen3-8Bファインチューンの故障確率を約10〜5ドルと見積もっている。

関連論文リスト

• Adaptive Robust Confidence Sets in High Dimensions [60.353542776481596]
  本研究では,不確実性を同時に定量化することにより,情報理論的に最適な適応信頼セットを構築することができることを示す。 統計的には最適であるが、この構成は計算的に不可能である。
  論文  参考訳（メタデータ） (2026-10-11T16:00:46Z)
• Verification Pulses and the Cost of Escaping Wrong Consensus [2.731113456484581]
  外的検証は、誤ったコンセンサスの盆地に自衛集団を残しながら、個々のアウトプットを補正することができる。 固定された検証予算のタイミングと対処が非同期バイナリレジスタの回復に与える影響について検討する。
  論文  参考訳（メタデータ） (2026-09-24T03:29:27Z)
• Prediction-Powered Active Testing [14.083979525233316]
  アクティブテストは、どのテストポイントにラベルを付けるべきかを適応的に選択することで、リスク見積に対するラベル効率のよいアプローチを提供する。 本稿では,新しいラベル効率の高いリスク推定フレームワークであるbfbfPrediction-Powered Active Testing (PPAT)を提案する。
  論文  参考訳（メタデータ） (2026-07-09T10:52:24Z)
• Tailoring Strictly Proper Scoring Rules for Downstream Tasks: An Application to Causal Inference [48.78219918881965]
  本稿では,ダウンストリーム誤差メトリックの局所曲率をマッチングすることにより,タスク固有の厳密なスコアリングルールを導出するフレームワークを提案する。 これを平均処理効果 (ATE) 推定に適用し, 閉形式損失と対応する正準確率写像を導出する。
  論文  参考訳（メタデータ） (2026-06-02T08:41:25Z)
• Causal Label Recovery in Payment Networks [0.0]
  支払いネットワークにおける不正検出モデルは、体系的にバイアスのあるチャージバックラベルでトレーニングする。 共用紙 [arXiv05:26.27557] は、これらの4つの障害が検出性能に最小限の上限を課すことを示した。 観測パイプラインを3段階, 破損層を有する逐次欠落データ問題として定式化し, 逐次トリプライロバスト推定器を構築した。
  論文  参考訳（メタデータ） (2026-05-28T02:43:34Z)
• Risk-Calibrated Bayesian Streaming Intrusion Detection with SRE-Aligned Decisions [0.0]
  本稿では,ベイジアンオンライン変更点検出とサイト信頼性工学(SRE)の誤差予算に整合した決定しきい値とを結合したストリーミング侵入検出に対するリスク校正手法を提案する。 我々は、ハザードモデル、共役更新、およびイベントごとのO(1)実装について詳述する。 具体的なSREの例は、99.9%の可用性SLO(月43.2分毎のエラー予算)が、ミスインシデントが偽アラームよりも10倍高い場合、0.91に近い確率閾値を得ることを示している。
  論文  参考訳（メタデータ） (2025-09-17T17:36:08Z)
• Entropy-Guided Loop: Achieving Reasoning through Uncertainty-Aware Generation [0.0]
  entropy-guided refinementは、トークンレベルの不確実性を使用して、1つのターゲットのリファインメントパスをトリガーする軽量なテスト時間ループである。 この不確実性認識ループは,シングルパス推論と高価な推論チェーンの中間点として有効であることを示す。
  論文  参考訳（メタデータ） (2025-08-26T22:29:12Z)
• Unintentional Unalignment: Likelihood Displacement in Direct Preference Optimization [60.176008034221404]
  直接選好最適化(DPO)とその変種は、言語モデルと人間の選好の整合にますます利用されている。 以前の研究では、トレーニング中に好まれる反応の可能性が減少する傾向が見られた。 確率変位は破滅的になりうることを示し、確率質量を好ましくない反応から反対の意味の反応へとシフトさせる。
  論文  参考訳（メタデータ） (2024-10-11T14:22:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。