論文の概要: How the Audit Rule Shapes Faithful Factor Explanations in LLMs

• arxiv url: http://arxiv.org/abs/2610.01514v1
• Date: Thu, 01 Oct 2026 11:48:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.097992
• Title: How the Audit Rule Shapes Faithful Factor Explanations in LLMs
• Title（参考訳）: 聴覚規則がLLMにおける忠実な因子説明をいかに形作るか
• Abstract要約: 本研究では,有限予算設定が要因レベルの影響を真に報告するインセンティブをいかに変えるかを検討する。 部分的検証では、因子レベルの説明システムには、レポート非依存の監査コンポーネントを含めるべきである。
• 参考スコア（独自算出の注目度）: 9.37262464887881
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models are often asked which input factors influenced their outputs. For structured inputs, such reports can be checked by counterfactual perturbation, but each factor must be queried multiple times to estimate its effect, so verification is usually budget-limited. We study how this limited-budget setting changes the incentive to report factor-level influence truthfully. We formalize the interaction as a verification game and show that proper scoring alone is not enough when auditing depends on the report: report-dependent auditing creates a suppression incentive, because factors reported as important are more likely to be checked and penalized for estimation noise. In contrast, report-independent auditing, or a mixed rule with a small report-independent floor, removes this channel and makes truthful reporting preferable to full suppression. We instantiate the framework with the Counterfactual Brier Score (CBS) and evaluate its predictions on four NLP benchmarks. A synthetic rational agent matches the theoretical prediction exactly, and real LLMs follow the same incentives when they are made explicit. The main design implication is simple: under partial verification, factor-level explanation systems should include a report-independent audit component so that under-reporting cannot be used to avoid scrutiny.
• Abstract（参考訳）: 大規模な言語モデルはしばしば、どの入力要因が出力に影響を与えるかを尋ねられる。 構造化された入力の場合、そのようなレポートは反実的摂動によってチェックできるが、各要因を複数回問い合わせてその効果を見積もる必要があるため、検証は通常予算に制限される。 本研究では,この限定予算設定が,因子レベルの影響を真に報告する動機をどう変えるかを検討する。 本研究は,評価ゲームとしてのインタラクションを形式化し,監査がレポートに依存している場合,適切なスコアだけでは不十分であることを示す。 これとは対照的に、レポート非依存の監査、あるいは小さなレポート非依存のフロアとの混合ルールは、このチャンネルを削除し、完全な抑圧よりも真正なレポートを好ましいものにする。 我々は,このフレームワークをCBS(Counterfactual Brier Score)でインスタンス化し,その予測を4つのNLPベンチマークで評価する。 合成合理的エージェントは理論的な予測と正確に一致し、実際のLSMは同じインセンティブに従う。 部分的検証の下では、因子レベルの説明システムはレポート非依存の監査コンポーネントを含むべきである。

関連論文リスト

• Self-Reports Do Not Identify Self-Models: An Identifiability Test for Counterfactual Reports [0.6882042556551609]
  言語モデル自己報告(Language-model self-reports)は、自己モデルそのものの証拠ではなく、迅速な環境における行動に関する証拠である。 本研究では、アクティベーション介入中の情緒的状態に関する事実報告を調査し、実演環境が変化しても、その報告が名前の介入に結びついているかどうかを問う。
  論文  参考訳（メタデータ） (2026-09-26T10:32:34Z)
• Strategic Classification Has a Missing Lever: Audit Risk [2.9320341537404713]
  企業が線形分類器と強調プロファイルを共同で設計する戦略分類モデルを提案する。 線形コスト下では,ゲームレンタルの分配によってのみ監査問題に影響を及ぼすことを示す。 この分解を用いて最適監査割当を特徴付け、割当問題がいつトラクタブルなのか、いつNPハードなのかを識別する。
  論文  参考訳（メタデータ） (2026-09-18T19:45:16Z)
• Provenance Before Prose: Claim-Locked Reporting [9.106326969263483]
  科学報告のエビデンスを含む内容は、散文生成時にサンプリングされるのではなく、構造化された統計結果によって修正されるべきである。 本稿では,各報告可能なクレームのエビデンスソース,数字,方向,許容言語強度を補正する前処理プロトコルであるクレームロック型レポーティングを提案する。
  論文  参考訳（メタデータ） (2026-08-26T03:41:17Z)
• DisclosureBeta: A Measurement-Channel Theory for Regime-Conditioned Betas from LLM-Read Risk Disclosures [0.0]
  我々は、企業の価格履歴が短くて信頼できないことを示します。S-1ファイバ、最近のリスト、あるいは政権崩壊の直前の名前です。 情報開示インセンティブ尺度(DIM)における推定精度モノトンの作成 テキストベースとローリングウィンドウ推定器の適応凸の組み合わせは、いずれのコンポーネントよりも悪くはない。
  論文  参考訳（メタデータ） (2026-07-05T11:36:36Z)
• The Endogeneity of Miscalibration: Impossibility and Escape in Scored Reporting [2.3698341511302443]
  自律エージェントからの真実の報告を排除することは、スケーラブルなAI監視における中核的な問題である。 プリンシパルは、厳密に適切なスコアリングルールを使用してエージェントのレポートをスコアリングするが、エージェントはまた、非正確チャンネルを通じてレポートの恩恵を受ける。 我々の主な成果は内在性であり、プリンシパルの最適監視は必ずしもスクリーンタイプに非ファイン承認関数を使用する。
  論文  参考訳（メタデータ） (2026-05-08T12:42:28Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Critical or Compliant? The Double-Edged Sword of Reasoning in Chain-of-Thought Explanations [60.27156500679296]
  系統的な推論連鎖の摂動とデリバリートーンの操作による道徳シナリオにおけるCoT(Chain-of-Thought)の説明の役割について検討した。 1) 利用者は, 根拠に欠陥がある場合でも, 信頼感を保ち, 結果合意を信頼する傾向がみられた。 これらの結果は、CoTの説明が同時に明確化と誤解を招き、視覚的信頼よりも精査と批判的思考を奨励する説明を提供するNLPシステムの必要性を強調している。
  論文  参考訳（メタデータ） (2025-11-15T02:38:49Z)
• The Decisive Power of Indecision: Low-Variance Risk-Limiting Audits and Election Contestation via Marginal Mark Recording [51.82772358241505]
  リスクリミット監査(リスクリミット監査、RLA)は、大規模な選挙の結果を検証する技術である。 我々は、効率を改善し、統計力の進歩を提供する監査の新たなファミリーを定めている。 新しい監査は、複数の可能なマーク解釈を宣言できるように、キャストボイトレコードの標準概念を再考することで実現される。
  論文  参考訳（メタデータ） (2024-02-09T16:23:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。