論文の概要: Persuaded, Not Informed: Incentive-Misaligned Witnesses Defeat In-Context Grounding
- arxiv url: http://arxiv.org/abs/2609.28854v1
- Date: Wed, 23 Sep 2026 23:52:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.608066
- Title: Persuaded, Not Informed: Incentive-Misaligned Witnesses Defeat In-Context Grounding
- Title（参考訳）: Incentive-Misaligned Witnesss Defeat In-Context Grounding
- Abstract要約: より強力なモデルで対処されていない障害モードを特定します。
文脈が楽観主義へのインセンティブを持つ当事者による主張を含む場合、モデルはこの主張を証拠として扱い、明確化は会社の記録を容認できないとみなす。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language-model agents increasingly answer questions over customer-relationship management (CRM) records, such as whether to qualify a sales lead. We identify a failure mode not addressed by a stronger model: when the context contains an assertion by a party with an incentive toward optimism - here the sales representative, a witness recorded in the CRM - the model treats the assertion as evidence and clears deals the company's own records deem unacceptable. Across 100 lead-qualification tasks from CRMArena-Pro, the representative asserts an acceptable timeline in every call and an acceptable budget in 76; on the 31 tasks where such an assertion contradicts the price list and installation policy, a model reading only the transcript clears the deal in 29 of 31 cases. The signature is consistent across seven models from four providers (misled on 87-97%); scale and explicit reasoning confer no resistance. Only 3 of 35 genuine failures involve no assertion: the failure is persuasion, not missing information. We contribute a diagnostic method rather than an architecture: (i) a bucket analysis that separates persuasion from information gaps, (ii) a same-information control showing that supplying the records to the model lowers strict accuracy from 41 to 18 while raising recall - precision collapses - and (iii) a compute-step control that holds extraction fixed and varies only who computes Budget and Timeline. The margin ranges from 42 points on an inexpensive model to 2-5 points on models that already compute correctly; on the strongest models the arms are within confidence intervals, so the pattern is a consistent direction and a soundness property, not a proved performance floor. We pre-specify a generalization test that returns a negative result, characterize the precondition (a policy exactly specified in the inputs), and release all evaluation artifacts.
- Abstract（参考訳）: 言語モデルエージェントは、セールスリードの資格取得など、顧客関係管理(CRM)レコードに関する質問に答える傾向にある。
ここでは、セールス担当者、CRMに記録された証人である、販売担当者が、アサーションを証拠として扱い、クリアスは、会社自身の記録を容認できないとみなす。
CRMArena-Proの100件のリード資格化タスクのうち、代表者は、すべての呼び出しにおいて許容されるタイムラインと76件の許容可能な予算を主張する。
署名は4つのプロバイダ(87-97%)から7つのモデルに一貫性があり、スケールと明示的な推論は抵抗を許容しない。
35の本当の失敗のうち3つだけがアサーションを含まない。
アーキテクチャよりも診断方法に貢献する。
i)情報ギャップから説得を分離するバケット分析
二 モデルに記録を供給したときのリコールの正確さを41から18に低下させ、かつ、リコールの精度を低下させる同報制御
三 抽出を固定し、予算及びタイムラインを計算した者のみを変更する演算ステップ制御。
マージンは、安価なモデル上の42点から、既に正しく計算されているモデル上の2-5点までの範囲で、最も強いモデルでは、アームは信頼区間内にあるため、パターンは、証明されたパフォーマンスフロアではなく、一貫した方向と音性である。
我々は、負の結果を返す一般化テストの事前指定を行い、事前条件(入力に正確に定義されたポリシー)を特徴付け、すべての評価成果物を解放する。
関連論文リスト
- CARRE: Counterfactual Action Retrieval and Reason Evaluation for Explainable Churn Prescription [5.823033362443801]
CARREは,検索強化候補生成,費用対効果評価,大規模言語モデル(LLM)推論を組み合わせた3段階のフレームワークである。
IBM Telco Customer Churnデータセットでは、CARREは通常のSHAPベースラインよりも79.8%高い平均モデル予測リスク削減を実現している。
論文 参考訳（メタデータ） (2026-09-09T06:08:02Z) - Solving versus Verifying: Catching Contradictions in Tax Reasoning Systems [0.0]
本研究は, SARA由来の脱税事例に関する最近の6つのモデルについて考察した。
私たちは、検証コールを単純な矛盾ゲートに結び付けます。
論文 参考訳（メタデータ） (2026-09-05T06:38:02Z) - Twin Worlds: Equivariance-Based Abstention for Evidence-Grounded Reasoning [38.63002496590365]
本稿では,知識集約的推論における信頼性向上のための枠組みを提案する。
重要な要因は、文脈における実体の言及が記憶された関連を活性化し、モデルが証拠に埋もれていないプラウシブルな応答を生成することである。
我々は、パラメトリックな先行値を減らしながら関係構造を保ちつつ、元の入力の型付き置換によって複数の世界を構築する。
論文 参考訳（メタデータ） (2026-08-28T07:33:29Z) - Design and Evaluation of Multi-Agent AI Oracle Systems for Prediction Market Resolution [0.0]
予測市場は、不確実な出来事を予測するために集合的なインテリジェンスを集約する。
既存のオラクルシステムは、高速だが不安定な自動化と、正確だがコストのかかる人間の仲裁とをトレードオフする。
マルチエージェントLLMアーキテクチャが単一モデルベースラインよりもオラクル分解能を向上できるかどうかを評価する。
論文 参考訳（メタデータ） (2026-05-29T03:44:19Z) - GIM: Evaluating models via tasks that integrate multiple cognitive domains [42.01371688303606]
Grounded Integration Measureは、820のオリジナルの問題のベンチマークである。
それぞれの問題は、オリジナルの専門家による作曲である。
バランスのとれた公民分離は、汚染診断を内蔵する。
論文 参考訳（メタデータ） (2026-05-18T17:09:50Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - Replayable Financial Agents: A Determinism-Faithfulness Assurance Harness for Tool-Using LLM Agents [0.7699235580548228]
LLMエージェントは、規制監査のリプレイに苦労する: トランザクションフラグ付き決定を同じ入力で再現するように要求された場合、ほとんどのデプロイメントは一貫性のある結果を返すことができません。
本稿では,金融サービスに展開するツール利用エージェントにおけるトラジェクティブ決定性およびエビデンス条件の忠実度を測定するためのフレームワークであるDFAHを紹介する。
論文 参考訳（メタデータ） (2026-01-17T19:47:55Z) - ReForm: Reflective Autoformalization with Prospective Bounded Sequence Optimization [73.0780809974414]
本稿では,意味的整合性評価を自己形式化プロセスに統合する反射的自己形式化手法を提案する。
これにより、モデルが形式的なステートメントを反復的に生成し、セマンティックな忠実さを評価し、自己修正された特定エラーを発生させることができる。
実験の結果、ReFormは最強のベースラインに対して平均22.6ポイントの改善を達成した。
論文 参考訳（メタデータ） (2025-10-28T16:22:54Z) - Causal Understanding by LLMs: The Role of Uncertainty [43.87879175532034]
近年の論文では、LLMは因果関係分類においてほぼランダムな精度を達成している。
因果的事例への事前曝露が因果的理解を改善するか否かを検討する。
論文 参考訳（メタデータ） (2025-09-24T13:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。