論文の概要: Beyond Aggregate Risk: Role-Stratified Conformal Risk Control for LLM Tool Calls

• arxiv url: http://arxiv.org/abs/2607.24343v1
• Date: Mon, 27 Jul 2026 12:21:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.41515
• Title: Beyond Aggregate Risk: Role-Stratified Conformal Risk Control for LLM Tool Calls
• Title（参考訳）: 凝集リスクを超えて:LLMツールコールにおける役割抽出型コンフォーマルリスク制御
• Abstract要約: 我々は、フィールドごとの共形リスク制御、すなわち、フィールドごとの検知をラップし、セマンティックな議論の役割に対して異なるしきい値とリスク予算を設定するキャリブレーション層を導入する。 AgentDojoとInjecAgentを6つの言語モデルで組み合わせることで、モデルとアタック転送、検知ノイズ、段階的なドリフト、見えないツールスイート、適応アタックにおいて、最も一貫した役割特異的な予算コンプライアンスを実現する。
• 参考スコア（独自算出の注目度）: 0.7117468027095866
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language-model agents act through structured tool calls whose arguments carry different risks. Untrusted content may safely influence an email body but should not determine a recipient, account, command, or credential. Existing statistical methods typically control risk over the entire action, allowing failures in rare, high-risk fields to be obscured by benign arguments. We introduce role-stratified per-field conformal risk control, a calibration layer that wraps any per-field detector and sets separate thresholds and risk budgets for semantic argument roles. For a role with prevalence $p_r$, aggregate-only certification must use an effective budget of $αp_r$ to guarantee role-specific risk $α$, whereas role-stratified calibration certifies each sufficiently sampled role directly with a finite-sample guarantee; rarer roles are handled by pooled certification. Across AgentDojo and InjecAgent with six language models, the empirical utility gap tracks this predicted price of coarseness, and our method achieves the most consistent role-specific budget compliance under model and attack transfer, detector noise, gradual drift, unseen tool suites, and adaptive attacks. It provides formal per-role guarantees under exchangeability or after recalibration, and empirical compliance under frozen distribution shift. These results suggest that structured tool calls should be certified at the semantic-role level, not the whole action.
• Abstract（参考訳）: 言語モデルエージェントは、異なるリスクを持つ引数を持つ構造化ツールコールを介して行動する。 信頼できないコンテンツは、メール本体に安全に影響を与えるかもしれないが、受信者、アカウント、コマンド、クレデンシャルを決定するべきではない。 既存の統計手法は、通常、アクション全体のリスクを制御し、稀な高リスクなフィールドの障害を、良心的な議論によって隠蔽することを可能にする。 我々は、フィールドごとの共形リスク制御、すなわち、フィールドごとの検知をラップし、セマンティックな議論の役割に対して異なるしきい値とリスク予算を設定するキャリブレーション層を導入する。 有能な$p_r$の場合、アグリゲートのみの認定はロール固有のリスクを$α$で保証するために$αp_r$の効果的な予算を使わなければならない。 AgentDojoとInjecAgentには6つの言語モデルがあり、経験的ユーティリティギャップは、この予測された粗さの価格を追跡する。 これは、交換性または再校正後の正式なロール単位の保証と、凍結した流通シフトによる経験的コンプライアンスを提供する。 これらの結果は、構造化されたツールコールは、アクション全体ではなく、セマンティック・ロールレベルで認証されるべきであることを示唆している。

関連論文リスト

• Uncertainty Is Not Enough: Value-of-Information Routing for Mixtures of LoRA Experts [0.0]
  最近の動的ルータは、ルータや予測が不確実である場合に、より多くの専門家を活性化する。 ルーティングを認証情報割当として定式化する。 我々は,証明の有効性,認定ゲインの減少による最適グリーディーアロケーション,および値推定誤差による後悔のアロケーションを同時に証明する。
  論文  参考訳（メタデータ） (2026-08-03T17:24:27Z)
• Self-Certification of Representation Adequacy: Sequential Certification at Minimum Task Loss [4.6304326752276985]
  本稿では,表現の自己証明に関する4層理論を考案する。 シーケンシャルレイヤは、タスク損失の通貨において最適な停止問題として認定される。 最終的な境界層は、ポリシーの切り替えや表現の修復をカバーするのに必要なオープン定理を特定する。
  論文  参考訳（メタデータ） (2026-08-03T14:09:34Z)
• CAGE: Certified Authorization under Typed-Return Uncertainty for Tool-Using Agents [12.471369656645512]
  我々は、妥当な拘束力のあるリターンの宣言された地区で、候補者の行動が承認されるかどうかを問う。 分類チャネルと数値チャネルを別々に認証することは、構成されていないことを証明している。 CAGEは、この共同近所を直接認証し、個別の枝を正確に列挙する。
  論文  参考訳（メタデータ） (2026-07-31T09:11:56Z)
• ToolChain-CRC: Conformal Risk Control for Agentic AI Under Retrieval and Tool-Use Drift [0.0]
  ドリフト中の検索・ツール利用エージェントに対する共形リスク制御手法であるToolChain-CRCを提案する。 この方法は各エージェントを行動、観察、最終的な出力の完全な軌跡として扱う。 ステップレベルのリスクスコアを構築し、それらを軌道上のリスクスコアに組み合わせ、アクセプションまたはインターベンルールを校正し、いつでもアラームを追加します。
  論文  参考訳（メタデータ） (2026-06-16T20:27:37Z)
• Invisible Manipulation Channels in AI-Assisted Financial Advisory: Implications for Market Integrity and Regulatory Design [2.061257001243159]
  本稿では,LLM推論のサンプリング層で動作している目に見えない操作チャネルを実験的に検証する。 この推測段階の操作は統計的に検出が困難であることを示す。 リスクの高い金融AIシステムに対するQRNG認証を必須とする4つの規制改正を提案する。
  論文  参考訳（メタデータ） (2026-06-15T02:27:42Z)
• Interactive Critique-Revision Training for Reliable Structured LLM Generation [18.00222080273147]
  DPA-GRPOは,構成された検証器の介入による2人プレイヤジェネレータゲームのためのペアアクショントレーニング手法である。 我々は,非正規化ゲームを分析し,厳格に低いリワード介入やリビジョン行動に対する肯定的な確率が,一側偏差を生み出すことを示す。 TaxCalc TY24の実験では、DPA-GRPOはゼロショット生成とジェネレータのみのRLベースラインよりも構造化された決定精度を向上させる。
  論文  参考訳（メタデータ） (2026-05-08T17:00:38Z)
• Escaping the Diversity Trap in Robotic Manipulation via Anchor-Centric Adaptation [50.23374353859762]
  多様な単発デモを収集することで「最大限のカバレッジ」を達成できる。 我々は、この現象を包括的-密度トレードオフとして定式化する。 Anchor-Centric Adaptation (ACA) は、2段階のフレームワークで、まずコアアンカーでの繰り返しデモを通じてポリシースケルトンを安定化し、次に教師力によるエラーマイニングと制約付き残差更新を通じて高リスク境界までカバー範囲を広げる。
  論文  参考訳（メタデータ） (2026-05-08T07:35:24Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
  有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。 CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。 このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
  論文  参考訳（メタデータ） (2026-04-10T09:41:21Z)
• Adversarial Intent is a Latent Variable: Stateful Trust Inference for Securing Multimodal Agentic RAG [5.4716896485317195]
  マルチモーダルエージェントRAGに対する現在のステートレスディフェンスは、悪意のあるセマンティクスを配布する敵の戦略を検出するのに失敗する。 MMA-RAGTは,MTA (Modular Trust Agent) が管理する推定時制御フレームワークで,ほぼ信頼状態を維持している。
  論文  参考訳（メタデータ） (2026-02-24T23:52:27Z)
• Conformal Thinking: Risk Control for Reasoning on a Compute Budget [60.65072883773352]
  大規模言語モデル(LLM)の推論により、トークンの予算が増加するにつれて、データセットレベルの精度が向上する。 我々は、予算設定問題をリスクコントロールとして再設定し、計算を最小化しながらエラー率を制限する。 我々のフレームワークは、モデルが自信のあるときに推論を停止する上位しきい値と、未解決のインスタンスを事前に停止させる新しい下位しきい値を導入する。
  論文  参考訳（メタデータ） (2026-02-03T18:17:22Z)
• Mitigating Safety Tax via Distribution-Grounded Refinement in Large Reasoning Models [63.368505631152594]
  安全調整は、大きな推論モデル(LRM)の一般的な推論能力を乱す安全税を発生させる。 LRMの安全アライメントに使われる既存のデータセットは、通常、外部のLRMまたは人間のラベルから安全推論の痕跡と回答を蒸留することによって構築される。 本稿では,DGRと呼ばれる安全アライメントデータセット構築手法を提案する。DGRは,既存のアウト・オブ・ディストリビューション型安全推論データセットを改良し,目標のLLM内部分布に適合させる。
  論文  参考訳（メタデータ） (2026-02-02T14:18:48Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• Audit the Whisper: Detecting Steganographic Collusion in Multi-Agent LLMs [0.0]
  Audit the Whisperは、理論、ベンチマーク設計、検出、検証にまたがるカンファレンスグレードの研究成果物である。 i) パラフレーズ, レート制限, 役割置換などの介入が, ペアリングしたKullback-Leibler診断によって定量的なペナルティの操作を課すことを示すチャネル容量分析を行った。 我々は、匿名化された再生スクリプト、匿名化されたマニフェスト、ドキュメントをリリースし、外部監査官がすべての図を再現し、二重盲検要件を満たし、最小限の努力でフレームワークを拡張します。
  論文  参考訳（メタデータ） (2025-10-05T17:51:52Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Conditional Conformal Risk Adaptation [9.559062601251464]
  セグメンテーションタスクの条件付きリスク制御を大幅に改善する適応予測セットを作成するための新しいスコア関数を開発する。 画素単位での包含推定の信頼性を高めるための特殊確率校正フレームワークを提案する。 ポリープセグメンテーション実験により, 3つの手法が有意な限界リスク制御を提供し, より一貫した条件リスク制御を実現することを示した。
  論文  参考訳（メタデータ） (2025-04-10T10:01:06Z)
• Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
  言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。 本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。 回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
  論文  参考訳（メタデータ） (2025-03-03T09:16:26Z)
• Safe Deployment for Counterfactual Learning to Rank with Exposure-Based Risk Minimization [63.93275508300137]
  本稿では,安全な配置を理論的に保証する新たなリスク認識型対実学習ランク法を提案する。 提案手法の有効性を実験的に検証し,データが少ない場合の動作不良の早期回避に有効であることを示す。
  論文  参考訳（メタデータ） (2023-04-26T15:54:23Z)
• How does the Combined Risk Affect the Performance of Unsupervised Domain Adaptation Approaches? [33.65954640678556]
  unsupervised domain adaptation (uda)は、ソースドメインからのラベル付きサンプルとターゲットドメインからのラベルなしサンプルでターゲット分類器をトレーニングすることを目的としている。 e-mixnetは、ラベル付きソースサンプルと疑似ラベル付きターゲットサンプルに汎用的なビビナル分布である強化ミックスアップを使用して、複合リスクのプロキシを計算する。
  論文  参考訳（メタデータ） (2020-12-30T00:46:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。