論文の概要: Rare Event Estimation via Iterative Unalignment

• arxiv url: http://arxiv.org/abs/2609.24969v1
• Date: Mon, 21 Sep 2026 17:53:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:01.453284
• Title: Rare Event Estimation via Iterative Unalignment
• Title（参考訳）: 反復的不整合による希少事象推定
• Abstract要約: エージェントの行動の変動から生じる稀な事象の確率を推定する問題について検討する。 我々は,提案手法を構築するために,原モデルの重みを乱す新しいIS手法を開発した。 当社のISは,10～7ドル未満の確率を持つイベントに対して,モンテカルロを優越する計算重み付き効率の向上を800ドル以上達成しています。
• 参考スコア（独自算出の注目度）: 8.0556095663079
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As agents are deployed with increased autonomy, even extremely rare events along their stochastic output trajectories can occur and prove catastrophic. Safe deployment therefore does not depend on whether these events can occur, but on how often they might. We study the problem of estimating the probability of rare events that arise from stochastic variation in the agent's own actions. Estimating this type of risk requires searching over the combinatorially vast space of trajectories. Naive Monte Carlo is computationally prohibitive in this regime, and constructing effective importance sampling (IS) proposals requires coordinated changes to a context-dependent chain of conditional distributions. We develop a new IS method that perturbs the original model's weights to construct the proposal. The proposal is itself a differentiably parameterized language model, enabling gradient-based search over weight space. We formulate an objective that combines a differentiable surrogate for event amplification and an adaptive regularization scheme that dynamically balances amplification against estimator stability. We evaluate our approach on $\sim$120M and $\sim$2.6B models across three event families spanning 300+ rare events as rare as $10^{-9}$, with reference probabilities computed with $<10\%$ relative standard error. In our most verifiable settings, we observe that our IS estimator achieves over $800\times$ compute-weighted efficiency gains over naive Monte Carlo for events with probabilities lower than $10^{-7}$. Our implementation is available at https://github.com/namkoong-lab/iterative-unalignment.
• Abstract（参考訳）: エージェントは自律性を高めて展開されるので、確率的な出力軌道に沿って非常に稀なイベントも発生し、破滅的な現象を証明できる。 したがって、安全なデプロイメントは、これらのイベントが発生するかどうかではなく、どれだけの頻度で発生するかに依存しない。 エージェントの行動の確率的変動から生じる稀な事象の確率を推定する問題について検討する。 このタイプのリスクを推定するには、組合せ的に広大な軌道空間を探索する必要がある。 ナイーブ・モンテカルロはこの状態において計算的に禁止されており、効果的な重要サンプリング(IS)の提案を構築するには、文脈依存的な条件分布の連鎖に対する協調的な変化が必要である。 我々は,提案手法を構築するために,原モデルの重みを乱す新しいIS手法を開発した。 この提案は、それ自体が微分パラメータ化言語モデルであり、重み空間上の勾配に基づく探索を可能にする。 我々は、事象増幅のための微分可能なサロゲートと、推定器安定性に対する増幅を動的にバランスする適応正則化スキームを組み合わせた目的を定式化する。 我々は,300以上の稀な事象にまたがる3つのイベントファミリに対する$\sim$120Mおよび$\sim$2.6Bモデルに対するアプローチを10^{-9}$と評価した。 最も検証可能な設定では、我々のIS推定器が10〜7ドル未満の確率を持つ事象に対して、計算重み付き効率がモンテカルロよりも800ドル以上向上するのを観察する。 実装はhttps://github.com/namkoong-lab/iterative-unalignment.comで公開しています。

関連論文リスト

• Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
  分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。 我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
  論文  参考訳（メタデータ） (2026-08-06T19:49:48Z)
• SCARCE: Scalable Cascade Analysis for Rare-event Characterisation via Embeddings [20.16155808703233]
  現代のAIシステムの安全プロファイルは、希少な出来事によって管理されているが、その確率を推定するのは極めて困難である。 サブセットシミュレーション(SS)は、希少な確率をネストした中間事象に対する適度な条件確率に分解することでこの問題に対処する。 提案するSCARCEは, 性能関数を学習された潜時表現と, 故障領域に近接する幾何的定規に置き換える。
  論文  参考訳（メタデータ） (2026-06-28T21:59:31Z)
• A Relative-Budget Theory for Reinforcement Learning with Verifiable Rewards in Large Language Model Reasoning [48.70183357021465]
  強化学習(Reinforcement Learning, RL)は、大規模言語モデルの推論能力を改善するための主要なパラダイムである。 本稿では, 相対予算$:= H/mathbbE[T]$という単一の量を用いて, この変動を説明する式式予算理論を提案する。 報奨の分散と情報トラジェクトリの確率を制御して,$$がサンプル効率を決定することを示す。
  論文  参考訳（メタデータ） (2026-02-02T01:31:52Z)
• Regression-Based Estimation of Causal Effects in the Presence of Selection Bias and Confounding [52.1068936424622]
  治療が介入によって設定された場合、対象変数$Y$に対して、予測因果効果$E[Y|do(X)]$を推定する問題を考える。 選択バイアスや欠点のない設定では、$E[Y|do(X)] = E[Y|X]$ となる。 選択バイアスとコンバウンディングの両方を組み込んだフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-26T13:43:37Z)
• Variance Reduction for the Independent Metropolis Sampler [11.074080383657453]
  我々は、$pi$がKL分散の下で別の密度$q$に十分近い場合、$pi$からサンプルを得る独立したサンプリング器は、$pi$からサンプリングするi.d.よりも小さな分散を達成することを証明した。 提案手法は,KLの目標との偏差が低減されるように,提案密度に適応する適応型独立メトロポリスアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-25T16:38:53Z)
• Contextual Combinatorial Bandits with Probabilistically Triggered Arms [55.9237004478033]
  確率的に誘発される腕(C$2$MAB-T)を様々な滑らかさ条件下で検討した。 トリガー変調 (TPM) 条件の下では、C$2$-UC-Tアルゴリズムを考案し、後悔すべき$tildeO(dsqrtT)$を導出する。
  論文  参考訳（メタデータ） (2023-03-30T02:51:00Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification [54.22421582955454]
  逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。 結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
  論文  参考訳（メタデータ） (2020-06-29T21:06:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。