論文の概要: Adaptive Multilevel Twisted Sequential Monte Carlo for Rare Events Estimation in Language Models
- arxiv url: http://arxiv.org/abs/2608.21736v1
- Date: Sat, 22 Aug 2026 02:35:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.919254
- Title: Adaptive Multilevel Twisted Sequential Monte Carlo for Rare Events Estimation in Language Models
- Title（参考訳）: 言語モデルにおける希少事象推定のための適応型マルチレベルツイスト系列モンテカルロ
- Abstract要約: Twisted Sequential Monte Carlo (SMC)は、希少な確率推定のための原則的なフレームワークを提供する。
標準ツイスト学習フレームワークは、希少な目標分布からの正のサンプルに依存している。
本稿では, 漸進的に稀な中間事象の列を通して希少なねじれを学習する適応型マルチレベルツイスト付きSMCを提案する。
- 参考スコア（独自算出の注目度）: 7.332941410825274
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Rare unsafe behaviors in large language models can remain practically significant even when their probability is extremely small, particularly at deployment scales involving millions or billions of interactions. Twisted Sequential Monte Carlo (SMC) provides a principled framework for rare-event probability estimation by learning twist functions that guide generation toward a target event. However, the standard twist learning framework relies on positive samples from the rare-event target distribution, which may be nearly absent before an informative twist has been learned, resulting in unreliable rare-event estimation. We propose Adaptive Multilevel Twisted SMC, which learns the rare-event twist through a sequence of progressively rarer intermediate events. At each level, the learned twist provides more informative positive examples for learning the next twist, ultimately leading to a more accurate final twist for the target rare event. Experiments across diverse tasks and model scales show that the proposed method produces more accurate rare-event probability estimates. By enabling more reliable discovery of hard-to-observe unsafe behaviors, our method provides a practical tool for strengthening the evaluation and safety alignment of deployed language models.
- Abstract（参考訳）: 大規模言語モデルにおける危険な安全でない振る舞いは、その確率が極端に小さい場合でも、事実上重要なままであり、特に数百万から数十億のインタラクションを含むデプロイメントスケールにおいてである。
Twisted Sequential Monte Carlo (SMC) は、ターゲットイベントに向けて生成を導くツイスト関数を学習することにより、希少な確率推定のための原則的なフレームワークを提供する。
しかし、標準的なツイスト学習フレームワークは、情報的なツイストが学習される前にほぼ欠落している希少なターゲット分布の正のサンプルに依存しており、信頼できない希少なツイスト推定をもたらす。
本稿では, 漸進的に稀な中間事象の列を通して希少なねじれを学習する適応型マルチレベルツイスト付きSMCを提案する。
各レベルにおいて、学習されたツイストは次のツイストを学ぶためのより有益なポジティブな例を提供し、最終的にはターゲットのレアイベントに対してより正確な最終ツイストをもたらす。
多様なタスクとモデルスケールにわたる実験により,提案手法はより正確なレアイベント確率推定を導出することを示した。
より信頼性の高い不安全行動の発見を可能にすることにより,本手法は,デプロイされた言語モデルの評価と安全性の整合性を高めるための実用的なツールを提供する。
関連論文リスト
- Predictive Multiplicity in Survival Models: A Method for Quantifying Model Uncertainty in Predictive Maintenance Applications [0.0]
我々は、生存に基づくモデルにおいて、予測的乗法が重要な関心事であると考えている。
あいまいさ、不明瞭さ、不明瞭さという形式的な尺度を導入し、それを定量化します。
これは特にメンテナンススケジューリングなどの下流タスクに関係している。
論文 参考訳（メタデータ） (2025-04-16T15:04:00Z) - Evaluating the Role of Data Enrichment Approaches Towards Rare Event Analysis in Manufacturing [1.3980986259786223]
希少な出来事は、一般的な通常の出来事よりもはるかに低い頻度で起こる出来事である。
製造業では、計画外のダウンタイム、設備寿命の短縮、高エネルギー消費につながるため、このような事象を予測することが特に重要である。
本稿では,データエンリッチメント技術と教師付き機械学習技術を組み合わせて,まれな事象の検出と予測を行う役割について検討する。
論文 参考訳（メタデータ） (2024-07-01T00:05:56Z) - Probabilistic Inference in Language Models via Twisted Sequential Monte Carlo [7.182174507225034]
我々は、確率的推論問題にSequential Monte Carlo (SMC) のリッチツールキットを利用する。
学習されたツイスト関数を用いて、各時点におけるポテンシャルの将来的価値を推定する。
本稿では,言語モデル推論手法の精度を評価する手法を提案する。
論文 参考訳（メタデータ） (2024-04-26T17:18:32Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳（メタデータ） (2024-02-13T11:25:20Z) - Calibrating Multimodal Learning [94.65232214643436]
本稿では,従来の手法の予測信頼性を校正するために,新たな正規化手法であるCML(Callibrating Multimodal Learning)正則化を提案する。
この技術は、既存のモデルによって柔軟に装備され、信頼性校正、分類精度、モデルロバスト性の観点から性能を向上させることができる。
論文 参考訳（メタデータ） (2023-06-02T04:29:57Z) - Towards Out-of-Distribution Sequential Event Prediction: A Causal
Treatment [72.50906475214457]
シーケンシャルなイベント予測の目標は、一連の歴史的なイベントに基づいて次のイベントを見積もることである。
実際には、次のイベント予測モデルは、一度に収集されたシーケンシャルなデータで訓練される。
文脈固有の表現を学習するための階層的な分岐構造を持つフレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-24T07:54:13Z) - Balancing Bias and Variance for Active Weakly Supervised Learning [9.145168943972067]
現代のマルチインスタンス学習(MIL)モデルは、バッグレベルでの競争性能を達成する。
しかし、多くの重要なアプリケーションに欠かせないインスタンスレベルの予測は不十分である。
本稿では,インスタンスレベルの予測を促進することを目的とした,新しいディープサブセットを提案する。
複数の実世界のデータセット上で実施された実験は、最先端のインスタンスレベルの予測をはっきりと示している。
論文 参考訳（メタデータ） (2022-06-12T07:15:35Z) - CC-Cert: A Probabilistic Approach to Certify General Robustness of
Neural Networks [58.29502185344086]
安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。
意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。
我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
論文 参考訳（メタデータ） (2021-09-22T12:46:04Z) - Active Learning for Sequence Tagging with Deep Pre-trained Models and
Bayesian Uncertainty Estimates [52.164757178369804]
自然言語処理のためのトランスファーラーニングとアクティブラーニングの最近の進歩は、必要なアノテーション予算を大幅に削減する可能性を開く。
我々は,様々なベイズ不確実性推定手法とモンテカルロドロップアウトオプションの実験的研究を,アクティブ学習フレームワークで実施する。
また, 能動学習中にインスタンスを取得するためには, 完全サイズのトランスフォーマーを蒸留版に置き換えることにより, 計算性能が向上することを示した。
論文 参考訳（メタデータ） (2021-01-20T13:59:25Z) - Ambiguity in Sequential Data: Predicting Uncertain Futures with
Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。
また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文 参考訳（メタデータ） (2020-03-10T09:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。