論文の概要: Jailbreaks for Black-Box Uncertainty Quantification in Large Reasoning Models

• arxiv url: http://arxiv.org/abs/2609.35350v1
• Date: Mon, 28 Sep 2026 15:02:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 06:15:32.766994
• Title: Jailbreaks for Black-Box Uncertainty Quantification in Large Reasoning Models
• Title（参考訳）: 大規模共振モデルにおけるブラックボックス不確かさ定量化のジェイルブレイク
• Abstract要約: パラフレーズに基づく自己整合性や自信的言語化など,既存のブラックボックス手法は,単純な繰り返しサンプリングよりもほとんど,あるいはまったく改善しないことを示す。 モデルの有効性を拡大するプロンプトレベルの緩和演算子を導入する。 緩和理論によって予測される行動シグネチャを経験的に再現するUQのジェイルブレイク法であるジェイルブレイク・フォー・不確実性(J4U)を提案する。
• 参考スコア（独自算出の注目度）: 0.6999740786886536
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While Large Reasoning Models (LRMs) excel at complex reasoning, alignment through reinforcement learning often induces systemic overconfidence. In production environments, where logits may be unavailable, robust black-box uncertainty quantification (UQ) is essential for trustworthiness and safety. Focusing on question-answering for LRMs, we show that existing black-box methods, such as paraphrase-based self-consistency and confidence verbalization, offer little to no improvement over simple repeated sampling, suggesting that alignment suppresses useful output variability. We introduce prompt-level relaxation operators that broaden the model's effective output distribution by approximating the effect of an optimal policy obtained with a stronger KL-regularization parameter, hence closer to the reference model. Theoretically, we demonstrate that relaxation improves calibration. We propose Jailbreak for Uncertainty (J4U), a jailbreak-derived technique for UQ that empirically reproduces the behavioral signatures predicted by our relaxation theory. Across 3 datasets and 4 LRMs, including a closed-source production model, J4U's improvement over repeated sampling achieves statistical significance in up to 6 times more LRM-dataset-metric settings than the strongest black-box UQ state-of-the-art baseline we evaluate, with average ECE reductions up to 5 times larger. These results provide a practical tool for UQ in black-box LRM deployment.
• Abstract（参考訳）: 大規模推論モデル(LRM)は複雑な推論において優れているが、強化学習によるアライメントはしばしば体系的な過信を引き起こす。 運用環境では、ロジットが利用できない場合、信頼性と安全性には堅牢なブラックボックス不確実性定量化(UQ)が不可欠である。 LRMに対する質問応答に着目し、パラフレーズベースの自己整合性や自信的言語化のような既存のブラックボックス手法は、単純な反復サンプリングよりもほとんど、あるいは全く改善しないことを示す。 我々は,より強いKL正規化パラメータで得られた最適ポリシの効果を近似することにより,モデルの有効性を拡大するプロンプトレベルの緩和演算子を導入し,従って参照モデルに近づいた。 理論的には、緩和は校正を改善する。 緩和理論によって予測される行動シグネチャを経験的に再現するUQのジェイルブレイク法であるジェイルブレイク・フォー・不確実性(J4U)を提案する。 3つのデータセットと4つのLIMのうち、クローズドソース生産モデルを含む、J4Uの繰り返しサンプリングによる改善は、私たちが評価した最強のブラックボックスUQ状態よりも最大6倍のLDMデータセットメトリック設定で統計的に有意である。 これらの結果は、ブラックボックスLEMデプロイメントにおけるUQの実用的なツールを提供する。

関連論文リスト

• SR4-Fit: A Unified Interpretable Rule-Based Machine Learning Framework for Informative and Trustworthy Decision-Making [0.0]
  ブラックボックスモデルは、予測を正当化するためにポストホックな説明を必要とする。 自然な代替手段は、設計によって解釈可能なモデルを使用することである。 本稿では,分類と回帰の両方に対して本質的に解釈可能なSR4-Fitを提案する。
  論文  参考訳（メタデータ） (2026-09-27T23:26:46Z)
• Efficient Analytic Uncertainty Quantification for Multi-Modal Regression [26.64106355159076]
  複雑な条件分布の正確な推定を同時に行う統一的分布に依存しないフレームワークを提案する。 我々のフレームワークは最先端のマルチモーダル回帰ベースラインより優れており、計算コストの高いアンサンブルモデルの予測性能とさえ一致している。
  論文  参考訳（メタデータ） (2026-06-23T21:31:42Z)
• MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models [57.87791117741788]
  本稿では,モダリティを考慮したPTQフレームワークを提案する。 Distribution-Aware Bias Compensation (DABC) は、長い尾の外れ値からチャネルのバイアスを選択的に吸収する。 また,量子化格子をバイアスマスクと共最適化するために,MDQFO (Morphology-Directed Quantization Function Optimization) を提案する。
  論文  参考訳（メタデータ） (2026-06-03T02:05:10Z)
• Distributional Process Reward Models: Calibrated Prediction of Future Rewards via Conditional Optimal Transport [6.379494871147752]
  インタイムスケーリング手法はプロセス・リワード・モデル(PRM)に依存している。 本研究では, PRMの校正, 条件OT(CondOT)マップ学習 citebunne2022 の修正, 単調条件量子関数の推定における条件最適輸送の最初の利用を提案する。 これにより、構造的に有効な量子的推定が得られ、任意のレベルでの信頼境界の効率的な抽出が可能となる。
  論文  参考訳（メタデータ） (2026-05-07T18:00:04Z)
• Back to Basics: Revisiting Exploration in Reinforcement Learning for LLM Reasoning via Generative Probabilities [10.235183326885794]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、Large Language Models(LLMs)における推論の強化に欠かせないパラダイムとして登場した。 我々は、この問題をサンプリング確率力学の観点から分析し、標準目的が高次様相の経路を不均等に強化することを特定する。 提案手法は,すべての応答に対する信頼度を平衡化するための新しいアドバンテージ再重み付け機構 (ARM) を提案する。
  論文  参考訳（メタデータ） (2026-02-05T04:06:55Z)
• Uncertainty Quantification for Regression using Proper Scoring Rules [76.24649098854219]
  CRPS,対数,2乗誤差,2次スコアなど,適切なスコアリングルールに基づく回帰のための統一的UQフレームワークを提案する。 実測パラメトリックな仮定に基づく不確実性尺度に対する閉形式式を導出し、モデルのアンサンブルを用いてそれらを推定する方法を示す。 合成および実世界の回帰データセットに対する広範な評価は、信頼性の高いUQ尺度を選択するためのガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-09-30T17:52:12Z)
• ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning [64.93140713419561]
  大型推論モデル (LRM) は、Chain-of-Thought (CoT) による複雑な推論タスクで強く機能するが、しばしば冗長な出力に悩まされる。 既存の微調整ベースの圧縮手法は、ポストホックプルーニングを動作させるか、コヒーレンスを推論する破壊を危険にさらすか、サンプリングベースの選択に依存するかのいずれかである。 ConCISEは、簡潔な推論連鎖を生成するために設計されたフレームワークであり、信頼注入を統合して推論の信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-08T01:40:40Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。