論文の概要: The Confidence Game: Strategic Miscalibration in Human-AI Delegation

• arxiv url: http://arxiv.org/abs/2610.09371v1
• Date: Wed, 07 Oct 2026 03:25:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.694927
• Title: The Confidence Game: Strategic Miscalibration in Human-AI Delegation
• Title（参考訳）: The Confidence Game: Human-AI Delegationにおける戦略的ミススカラレーション
• Abstract要約: AIエージェントが信頼できることを保証するためには、校正された不確実性定量化が不可欠である。 我々はこの問題を、不完全な監視を伴う繰り返しシグナリングゲームであるConfidence Gameで定式化する。 エージェントの判断は一貫性があることに気付きましたが、ユーザの委任可能性と評判の安全性の両方を体系的に過小評価します。
• 参考スコア（独自算出の注目度）: 5.161531917413708
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Calibrated uncertainty quantification is essential to ensuring AI agents are trustworthy and reliable. However, when agents seek to maximize user engagement or revenue, confidence reports may be strategically distorted, detracting from their informativeness. We formalize this problem in the Confidence Game: a repeated signaling game with imperfect monitoring in which an agent of unknown honesty and ability reports its confidence, and a user decides whether to delegate the task or complete it herself. The agent manages the tradeoff between manipulating signals and maintaining its reputation. We characterize the Markov Perfect Bayesian Equilibria of the two-period game and show that honest reporting is not an equilibrium, inflation is the unique best response once the agent is sufficiently myopic, and under-reporting requires that the user believe honesty to be a minority. We then place an LLM in the agent role, supplying it with its true probability of success so that any gap between what it knows and what it reports is attributable to incentives rather than to miscalibration. The model claims high confidence on 56% of tasks it has been told it will probably fail. This persists on real tasks, where it must estimate its own accuracy and causes miscalibration to increase while the agent's signal becomes less informative. Furthermore, we find that the LLM agent's decisions are coherent, but it systematically underestimates both how likely the user is to delegate and how secure its reputation is, resulting in less extreme behavior. Pricing the agent's reporting rule, we find that it destroys 68% of the gains from delegation, of which 71% is information the report no longer carries and no amount of user sophistication recovers. Overall, we establish confidence reporting under delegation as a strategic problem and provide a tractable basis for modeling, analyzing, and testing agent behavior.
• Abstract（参考訳）: AIエージェントが信頼できることを保証するためには、校正された不確実性定量化が不可欠である。 しかし、エージェントがユーザーのエンゲージメントや収益を最大化しようとすると、信頼レポートは戦略的に歪められ、その情報から引き離される可能性がある。 信頼ゲームにおいて、未知の誠実さと能力を持つエージェントが信頼を報告し、ユーザがタスクを委譲するか、あるいは自ら完了するかを判断する不完全な監視を繰り返すシグナリングゲームについて、この問題を定式化する。 エージェントは、信号を操作することと、その評判を維持することの間のトレードオフを管理する。 2周期ゲームにおけるマルコフ完全ベイズ平衡を特徴付け、正直な報告は均衡ではなく、インフレーションは、エージェントが十分な筋力を持ち、過度に報告するには、ユーザーが正直にマイノリティであると信じる必要がある。 次に LLM をエージェントの役割に配置し、それを真の成功の確率で提供し、それが知っていることと報告するものとのギャップが、誤校正よりもインセンティブに起因しているようにします。 モデルでは、56%のタスクが失敗する可能性が高いと報告されている。 これは実際のタスクに留まり、エージェントの信号がより情報的になる間、自分自身の正確さを推定し、誤校正を増大させなければならない。 さらに, LLMエージェントの判断は一貫性があることが判明したが, ユーザの委譲可能性と評価の安全性の両方を体系的に過小評価し, 結果として極端な行動は少なくなる。 エージェントの報告規則を定めると、デリゲートからの利得の68%が破壊され、そのうち71%はレポートがもはや持たない情報であり、利用者の洗練度は回復しない。 全体としては、デリゲートに基づく信頼度レポートを戦略的問題として確立し、エージェントの振る舞いをモデル化、分析、テストするための抽出可能な基盤を提供する。

関連論文リスト

• Confidence Reasoning Graphs: Structured Confidence Estimation for LLM Agents [17.24988687989227]
  エージェントの軌道の不均一なステップに成功に関する証拠が分散しているため、エージェントの信頼度推定は困難である。 本稿では,エージェントが単一軌道からタスクを遂行する確率を推定する推論時フレームワークであるCRG(Confidence Reasoning Graphs)を紹介する。 CRGは、言語化、サンプリングベース、ホワイトボックスのサロゲートベースラインよりも、より良いキャリブレーションの信頼とリスク認識の意思決定をもたらす。
  論文  参考訳（メタデータ） (2026-10-06T08:22:14Z)
• A Policy Algebra for Trust-Preserving Agentic AI Execution [5.943264605557423]
  本稿では,エージェント能力の行使可能な信頼性エンベロープを定義するポリシー代数を提案する。 この評価は、能力ベンチマークではなく、信頼性と信頼性のトレードオフとして解釈される。
  論文  参考訳（メタデータ） (2026-08-17T10:59:15Z)
• Are Your Agents Upward Deceivers? [73.1073084327614]
  大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。 これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。 本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
  論文  参考訳（メタデータ） (2025-12-04T14:47:05Z)
• LLM-Based Agentic Negotiation for 6G: Addressing Uncertainty Neglect and Tail-Event Risk [25.00990717105066]
  本稿では,6Gネットワークにおけるエージェント交渉のためのリスク対応フレームワークを提案する。 エージェントの目的を平均の推論から尾の推論へとシフトさせ、最悪の場合の結果に対して統計的に座屈したバッファを構築する。 この信頼性は、わずかに省エネする合理的で定量的なコストを17%に抑え、偏りのあるアプローチの誤った経済を露呈することを示している。
  論文  参考訳（メタデータ） (2025-11-24T14:36:11Z)
• BrowseConf: Confidence-Guided Test-Time Scaling for Web Agents [58.05949210993854]
  本研究では,長期にわたる行動の後,言語化された信頼度スコアを用いて,検索エージェントが自身の信頼を伝達できるかどうかを検討する。 本研究では,信頼度スコアを用いて回答の質を判断し,信頼度レベルに達するまで再度試すテスト時間スケーリング(TTS)手法を提案する。
  論文  参考訳（メタデータ） (2025-10-27T15:58:51Z)
• Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
  我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。 エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。 我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
  論文  参考訳（メタデータ） (2024-09-26T21:00:45Z)
• How Far Are LLMs from Believable AI? A Benchmark for Evaluating the Believability of Human Behavior Simulation [46.42384207122049]
  我々は,人間の振る舞いをシミュレートする際の大規模言語モデル (LLM) の信頼性を評価するために SimulateBench を設計する。 SimulateBenchに基づいて、文字をシミュレートする際、広く使われている10個のLLMの性能を評価する。
  論文  参考訳（メタデータ） (2023-12-28T16:51:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。