論文の概要: STEER: Inference-Time Risk Control via Constrained Quality-Diversity Search

• arxiv url: http://arxiv.org/abs/2602.02862v1
• Date: Mon, 02 Feb 2026 22:10:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-04 18:37:15.111925
• Title: STEER: Inference-Time Risk Control via Constrained Quality-Diversity Search
• Title（参考訳）: STEER:制約付き品質多様性探索による予測時間リスク制御
• Abstract要約: 平均的正確性のために訓練された大規模言語モデル(LLM)は、しばしばモード崩壊を示し、複数の応答が妥当なタスクに対して狭い決定行動をもたらす。 我々は、この曖昧な制御を再導入するトレーニング不要のフレームワークであるSTEERを提案する。 2つの臨床トリアージベンチマークにおいて、STEERは温度に基づくサンプリングと静的なペルソナアンサンブルと比較して幅広い行動カバレッジを達成する。
• 参考スコア（独自算出の注目度）: 3.587563440886175
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Language Models (LLMs) trained for average correctness often exhibit mode collapse, producing narrow decision behaviors on tasks where multiple responses may be reasonable. This limitation is particularly problematic in ordinal decision settings such as clinical triage, where standard alignment removes the ability to trade off specificity and sensitivity (the ROC operating point) based on contextual constraints. We propose STEER (Steerable Tuning via Evolutionary Ensemble Refinement), a training-free framework that reintroduces this tunable control. STEER constructs a population of natural-language personas through an offline, constrained quality-diversity search that promotes behavioral coverage while enforcing minimum safety, reasoning, and stability thresholds. At inference time, STEER exposes a single, interpretable control parameter that maps a user-specified risk percentile to a selected persona, yielding a monotonic adjustment of decision conservativeness. On two clinical triage benchmarks, STEER achieves broader behavioral coverage compared to temperature-based sampling and static persona ensembles. Compared to a representative post-training method, STEER maintains substantially higher accuracy on unambiguous urgent cases while providing comparable control over ambiguous decisions. These results demonstrate STEER as a safety-preserving paradigm for risk control, capable of steering behavior without compromising domain competence.
• Abstract（参考訳）: 平均的正確性のために訓練された大規模言語モデル(LLM)は、しばしばモード崩壊を示し、複数の応答が妥当なタスクに対して狭い決定行動をもたらす。 この制限は、臨床トリアージのような日常的な決定設定において特に問題であり、標準的なアライメントは文脈的制約に基づいて、特異性と感度(ROC操作点)をトレードオフする能力を取り除く。 本稿では,STEER(Steerable Tuning via Evolutionary Ensemble Refinement)を提案する。 STEERは、最小限の安全性、推論、安定性の閾値を強制しながら、行動カバレッジを促進する、オフラインで制約付き品質多様性探索を通じて、自然言語ペルソナの集団を構築する。 推測時、STEERは、ユーザが特定したリスクパーセンタイルを選択したペルソナにマッピングする単一の解釈可能な制御パラメータを公開し、決定保守性の単調な調整を生成する。 2つの臨床トリアージベンチマークにおいて、STEERは温度に基づくサンプリングと静的なペルソナアンサンブルと比較して幅広い行動カバレッジを達成する。 代表的なポストトレーニング手法と比較して、STEERは曖昧な緊急ケースに対してかなり高い精度を維持しながら、曖昧な決定に対して同等の制御を提供する。 これらの結果から、STEERはリスク制御のための安全保全パラダイムであり、ドメイン能力の損なうことなく、動作を操れることを示した。

関連論文リスト

• Asymptotic Risk Calibration for Selective Question Answering [0.0]
  大規模言語モデル(LLM)は、流動性があるが誤った答えを生成する。 A-CRC-QAは不確実性を考慮した質問応答のためのポストホックキャリブレーションフレームワークである。 A-CRC-QAはモデルに依存しず、追加のトレーニングを必要とせず、異なる不確実性推定器と組み合わせることができる。
  論文  参考訳（メタデータ） (2026-08-12T12:45:45Z)
• Behavioural Signatures of Risk-Sensitive Decision-Making in Large Language Models [121.70781851874035]
  大規模言語モデル(LLM)は、意思決定支援にますます使われている。 不確実性の下での選択が安定かつ解釈可能な行動規則性を示すかどうかを理解することが重要である。 本稿では,無制限テキサスホールドエムに基づく制御型マルチモデルフレームワークを用いて,この問題について検討する。
  論文  参考訳（メタデータ） (2026-07-11T10:33:39Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• Beyond Prompt: Fine-grained Simulation of Cognitively Impaired Standardized Patients via Stochastic Steering [58.85421622061983]
  認知障害患者の微粒化シミュレーションのためのStsPatientを提案する。 対照的な命令と応答のペアからステアリングベクトルを抽出することにより、ドメイン固有の特徴を捉える。 StsPatientは、臨床の信頼性と重症度の両方において、ベースラインを著しく上回る。
  論文  参考訳（メタデータ） (2026-04-14T02:37:46Z)
• Stein Variational Uncertainty-Adaptive Model Predictive Control [3.9554530119952673]
  遅延パラメトリック不確実性を有する非線形力学系に対するスタイン変分分布ロバスト制御器を提案する。 本手法は, 遅延パラメータの不確実性に対して頑健な制御器を, スタイン変分法による最適制御と結合することによって生成する。
  論文  参考訳（メタデータ） (2026-04-01T15:43:48Z)
• FaithSteer-BENCH: A Deployment-Aligned Stress-Testing Benchmark for Inference-Time Steering [11.609466767597093]
  FaithSteer-BENCHはストレステストベンチマークである。 制御性, 実用性, 堅牢性の3つのゲートワイド基準により, 固定配置式運転点での操舵方法を評価する。 ゲートワイズベンチマークの結果は、既存の手法がデプロイメント指向の実践的設定において信頼性の高い制御性を提供するとは限らないことを示している。
  論文  参考訳（メタデータ） (2026-03-18T22:28:36Z)
• Decision-Aware Trust Signal Alignment for SOC Alert Triage [0.0]
  本稿では,SOC警告トリアージの信頼信号対応方式を提案する。 このフレームワークは、調整済みの信頼性、軽量不確実性、そしてコストに敏感な決定しきい値をコヒーレントな決定支持層に組み合わせている。 信頼度が不一致な表示によって偽陰性が大幅に増幅されるのに対し、コスト重み付き損失は決定整合信頼信号を持つモデル間での桁違いに減少することを示す。
  論文  参考訳（メタデータ） (2026-01-08T01:41:54Z)
• MultiRisk: Multiple Risk Control via Iterative Score Thresholding [40.193623095603265]
  我々は、ユーザ定義の優先順位で複数のリスク制約を強制する問題を定式化する。 このシーケンシャルな構造を利用する2つの効率的な動的プログラミングアルゴリズムを導入する。 提案アルゴリズムは,個々のリスクを目標レベルに近いレベルで制御できることを示す。
  論文  参考訳（メタデータ） (2025-12-31T03:25:30Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• SAFER: Risk-Constrained Sample-then-Filter in Large Language Models [38.97678256807034]
  本稿では,無意識サンプリングと共形フィルタリングを組み合わせた2段階リスク制御フレームワークを提案する。 その結果,SAFERはタスク固有の基準やキャリブレーションテストのスプリット比と互換性があることが判明した。
  論文  参考訳（メタデータ） (2025-10-11T12:12:41Z)
• PASS: Probabilistic Agentic Supernet Sampling for Interpretable and Adaptive Chest X-Ray Reasoning [31.42306351491176]
  PASS(Probabilistic Agentic Supernet Smpling)は、Chest X-Ray(CXR)推論の文脈でこれらの課題に対処する最初のマルチモーダルフレームワークである。 PASSは、マルチツールグラフ上でエージェントを適応的にサンプリングし、解釈可能な確率でアノテートされた決定経路を生成する。
  論文  参考訳（メタデータ） (2025-08-14T10:03:47Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)
• Conditional Conformal Risk Adaptation [9.559062601251464]
  セグメンテーションタスクの条件付きリスク制御を大幅に改善する適応予測セットを作成するための新しいスコア関数を開発する。 画素単位での包含推定の信頼性を高めるための特殊確率校正フレームワークを提案する。 ポリープセグメンテーション実験により, 3つの手法が有意な限界リスク制御を提供し, より一貫した条件リスク制御を実現することを示した。
  論文  参考訳（メタデータ） (2025-04-10T10:01:06Z)
• Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
  言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。 本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。 回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
  論文  参考訳（メタデータ） (2025-03-03T09:16:26Z)
• Automatically Adaptive Conformal Risk Control [49.95190019041905]
  本稿では,テストサンプルの難易度に適応して,統計的リスクの近似的条件制御を実現する手法を提案する。 我々のフレームワークは、ユーザが提供するコンディショニングイベントに基づく従来のコンディショニングリスク制御を超えて、コンディショニングに適した関数クラスのアルゴリズム的、データ駆動決定を行う。
  論文  参考訳（メタデータ） (2024-06-25T08:29:32Z)
• Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic Dynamical Models with Epistemic Uncertainty [68.00748155945047]
  複雑な力学系のモデルにおける不確実性を捉えることは、安全なコントローラの設計に不可欠である。 いくつかのアプローチでは、安全と到達可能性に関する時間的仕様を満たすポリシーを形式的な抽象化を用いて合成する。 我々の貢献は、ノイズ、不確実なパラメータ、外乱を含む連続状態モデルに対する新しい抽象的制御法である。
  論文  参考訳（メタデータ） (2022-10-12T07:57:03Z)
• Robust Policy Learning over Multiple Uncertainty Sets [91.67120465453179]
  強化学習(RL)エージェントは、安全クリティカルな環境の変動に対して堅牢である必要がある。 システム識別とロバストRLの両方の利点を享受するアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-02-14T20:06:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。