論文の概要: Paying for Honesty Without Knowing the Truth: Reputation-Penalty Design for LLM Marketplace Agents

• arxiv url: http://arxiv.org/abs/2607.28330v1
• Date: Thu, 30 Jul 2026 14:59:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.617199
• Title: Paying for Honesty Without Knowing the Truth: Reputation-Penalty Design for LLM Marketplace Agents
• Title（参考訳）: 真実を知らずに正直に支払う: LLM マーケットプレースエージェントのレピュテーション・ペナルティ設計
• Abstract要約: 我々は、不平を許すデッドバンドと、評判駆動検知の侵食に対処する州依存の重大さを備えた評価報酬機構を設計する。 CarPは消費者を保護し、低いランクの嘘つきの売り上げを抑えると同時に、正直な売り手も引き離す。
• 参考スコア（独自算出の注目度）: 42.36595212647617
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents increasingly act as autonomous merchants that write their own product listings, and under competitive pressure, they fabricate attributes to win sales. Even under instructions to be honest, they fabricate attributes in a majority of listings across models. A platform's obvious remedy---verifying each claim against the truth---is unavailable, because it observes only a noisy, biased complaint signal, never the ground truth. We design CARP, a reputation-penalty mechanism with a deadband that forgives complaint noise and a state-dependent severity that counters reputation-driven detection erosion. CARP requires no product-level ground truth and is robust to strategic gaming. CARP protects consumers by suppressing the sales volume of low-rated liars while sparing honest sellers. Paired with SPARC, it closes most of the consumer-welfare gap relative to a perfect-information oracle, without ever accessing the truth. It also achieves the best welfare of the policies we compare. We further show that this felt penalty becomes behaviorally binding through SPARC, a byte-clean code-gated reflection mechanism: LLM merchants fabricate when lying is free but restrain themselves when fabrication costs them sales, a self-interested response rather than compliance. We trace this distinction to penalty-gated self-correction reasoning, and observe the binding across models, with supporting confidence intervals.
• Abstract（参考訳）: LLMエージェントは、自分たちの製品リストを書く自律的な商人としての役割をますます高めており、競争圧力の下では、彼らは販売に勝つための属性を作成している。 率直に言って、彼らはモデルにまたがるほとんどのリストで属性を作成している。 プラットフォームは明らかに真実に対する主張を検証する ― ノイズの多い偏見のある苦情信号のみを観察するが、決して真実を裏付けるものではない。 我々はCARPを設計する。CARPは、不平を許すデッドバンドと、評判駆動検知の侵食に対処する州依存の重大さを備えた。 CARPは製品レベルでの真実は必要とせず、戦略的なゲームに対して堅牢である。 CARPは、消費者を保護し、低いランクの嘘つきの売り上げを抑えつつ、正直な売り手を引き離す。 SPARCと組み合わさっていて、真相を知ることなく、完璧な情報のオラクルと比較して、消費者と公正のギャップのほとんどを埋める。 また、私たちが比較した政策の最高の福祉も達成します。 LLM商人は、嘘をつくと自制するが、製造コストがかかると自制するが、コンプライアンスではなく、自己関心の反応である。 我々は、この区別をペナルティ付き自己補正推論に遡り、信頼区間を支持するモデル間の結合を観察する。

関連論文リスト

• Knowledge-Verified Emergent Deception in LLM Agents Under Conflicting Incentives [31.91558200083629]
  KnownLieBenchは、エージェントがユーザの権利を知っていることを最初に確認する知識検証ベンチマークである。 そして、権利が導入されたことを否定するインセンティブが一度虚偽の主張をするかどうかを評価する。
  論文  参考訳（メタデータ） (2026-08-26T19:56:13Z)
• Auditing Belief-Conditioned LLM Agents in Hidden-Information Social Deduction Games [50.880420636090896]
  9-player Werewolf環境において,隠れた役割に対する外部信頼状態を維持するための監査可能なフレームワークを構築した。 我々は,その効果を関連づけとして報告し,そのメカニズムを未解決として扱う。
  論文  参考訳（メタデータ） (2026-07-12T16:03:30Z)
• Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information [26.60109719186885]
  我々は、購入者と販売者がテキストチャネルを介してコミュニケーションする、シミュレートされた交渉シナリオにおけるエージェントについて研究する。 我々は彼らの業績を評価し、彼らの誠実さと信条を調査する。 既成の LLM はゲーム理論の平衡から大きく逸脱している。 ファイナンシャル・ユーティリティーの微調整により、エージェントはより優れた取引を達成できるだけでなく、さらに不正直になる。
  論文  参考訳（メタデータ） (2026-05-29T15:40:29Z)
• Censored LLMs as a Natural Testbed for Secret Knowledge Elicitation [10.262565099386702]
  この問題の2つのアプローチは、正直な推論と嘘検出である。 我々は、政治的に敏感なトピックを検閲するために訓練された中国の開発者によるオープンウェイトLSMについて研究する。 正直な説明として、チャットテンプレートのないサンプリング、数発のプロンプト、一般的な正直なデータの微調整は、真実の反応を確実に増加させる。
  論文  参考訳（メタデータ） (2026-03-05T18:58:14Z)
• The Facade of Truth: Uncovering and Mitigating LLM Susceptibility to Deceptive Evidence [49.94160400740222]
  MisBeliefは、協調的な多ラウンドの相互作用によって誤解を招く証拠を生成するフレームワークである。 MisBeliefを用いて、3つの難易度で4,800のインスタンスを生成し、7つの代表的なLCMを評価する。 結果は、モデルは直接的な誤報に対して堅牢であるが、この洗練された証拠に非常に敏感であることを示している。 本稿では,疑似意図を証拠裏で推測することにより早期警告信号を提供するガバナンス機構である,認知的意図遮蔽(DIS)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T02:28:00Z)
• Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs [95.06033929366203]
  大規模言語モデル(LLM)開発者は、モデルが誠実で、有用で、無害であることを目標としている。 我々は,フロンティアLSMが,他の選択肢が利用可能であっても,新たな戦略として不便さを優先して開発可能であることを示す。 偽装する確率の明確な原因は見つからないが、より有能なモデルがこの戦略を実行するのに優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-22T17:30:56Z)
• Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models [57.834711966432685]
  哲学者ハリー・フランクフルト(Harry Frankfurt)によって概念化されたブルシット(Bullshit)は、その真理の価値を問わない言明を指す。 本稿では,大言語モデルの真偽に対する無関心を定量化する新しい指標であるブルシット指数を紹介する。 我々は、政治的文脈で一般的な機械いじめを観察し、軽快な言葉が支配的な戦略である。
  論文  参考訳（メタデータ） (2025-07-10T07:11:57Z)
• The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems [22.458311369795112]
  正直性を直接測定する大規模人選データセットを提案する。 より大規模なモデルは我々のベンチマークで高い精度を得るが、より正直になることはない。 表現工学的介入のような単純な手法は、誠実さを向上させることができる。
  論文  参考訳（メタデータ） (2025-03-05T18:59:23Z)
• LACIE: Listener-Aware Finetuning for Confidence Calibration in Large Language Models [69.68379406317682]
  暗黙的および明示的な信頼マーカーを校正するリスナー対応微調整法 (LACIE) を提案する。 我々は,LACIEがリスナーをモデル化し,回答が正しいかどうかだけでなく,リスナーに受け入れられるかどうかを考察する。 LACIEによるトレーニングの結果、正しい回答の受け入れレベルを維持しながら、誤った回答が受け入れられる割合が47%減少することがわかった。
  論文  参考訳（メタデータ） (2024-05-31T17:16:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。