論文の概要: Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information
- arxiv url: http://arxiv.org/abs/2605.31445v1
- Date: Fri, 29 May 2026 15:40:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.708532
- Title: Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information
- Title（参考訳）: 古車販売ロボット : 部分情報による販売代理店としてのLLMの正直性と不確実性
- Abstract要約: 我々は、購入者と販売者がテキストチャネルを介してコミュニケーションする、シミュレートされた交渉シナリオにおけるエージェントについて研究する。
我々は彼らの業績を評価し、彼らの誠実さと信条を調査する。
既成の LLM はゲーム理論の平衡から大きく逸脱している。
ファイナンシャル・ユーティリティーの微調整により、エージェントはより優れた取引を達成できるだけでなく、さらに不正直になる。
- 参考スコア（独自算出の注目度）: 26.60109719186885
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work we study agents in simulated bargaining scenarios, where a buyer and a seller communicate through a text channel and attempt to negotiate mutually beneficial trades, under different information regimes (complete information, information asymmetry or mutual uncertainty). We evaluate their performance w.r.t. game-theoretical solutions and further investigate their honesty (their tendency to disclose or withhold information or to mislead and deceive) as well as their credulity (their tendency to trust or distrust information provided by the other agent). We study zero-shot LLM agents with simple prompting scaffolding as well as fine-tuned agents, in order to investigate whether optimising the agents to maximise financial profits makes them stronger negotiators but also more dishonest and less trusting. We find that off-the-shelf LLMs all substantially deviate from game-theoretical equilibria, they attempt to lie about their private information but cannot efficiently exploit information asymmetries. Fine-tuning on financial utility makes the agents stronger at achieving better deals but also more dishonest, highlighting the risks that optimising agents for a task can have on their safety. We release our code and a dataset of bargaining scenarios.
- Abstract（参考訳）: 本研究では,購入者と販売者がテキストチャネルを通じてコミュニケーションし,異なる情報体制(完全情報,情報非対称性,相互不確実性)の下で相互に有利な取引を交渉する,模擬交渉シナリオにおけるエージェントについて検討する。
我々は,ゲーム理論的解法の性能評価を行い,その誠実さ(情報開示・保持傾向・誤解・偽造傾向)と信頼度(他のエージェントが提供した情報への信頼・不信傾向)を更に調査する。
財務利益を最大化するために, エージェントを最適化することで, より強力な交渉者となるか, より不正直で信頼性が低いかを検討するために, 簡易な足場と微調整エージェントを用いたゼロショットLLMエージェントについて検討した。
既成のLLMは,すべてゲーム理論の平衡から逸脱し,個人情報を偽装しようとするが,情報の非対称性を効果的に活用することができない。
ファイナンシャル・ユーティリティーの微調整により、エージェントはより良い取引を達成できるだけでなく、さらに不正直になり、タスクを最適化するエージェントが安全を損なうリスクを浮き彫りにする。
コードと交渉シナリオのデータセットをリリースします。
関連論文リスト
- PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。
既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。
LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
論文 参考訳（メタデータ） (2026-05-29T04:55:12Z) - Counterparty Modeling is Not Strategy: The Limits of LLM Negotiators [29.84830992033132]
大規模言語モデル (LLM) エージェントが, 制御された多属性交渉環境においてこれを行うかを検討した。
現在のLLMエージェントは、相手の好みをモデル化できるが、その知識を戦略的交渉に確実に変換することはできない。
エージェントはこの基盤となるユーティリティ構造を戦略的優位性のために利用できないため、最終的な合意は実際のユーティリティウェイトではなく、表面レベルのアンカーによって大きく規定される。
論文 参考訳（メタデータ） (2026-05-15T19:27:05Z) - Instructing LLMs to Negotiate using Reinforcement Learning with Verifiable Rewards [45.56436052535799]
検証可能なリワードからの強化学習が,大規模言語モデルに交渉を効果的に教えることができるかを検討する。
我々は,中規模の買い手エージェントを,現実の商品を幅広く流通させた規制された売り手に対して訓練する枠組みを導入する。
以上の結果から,30Bエージェントは,余剰量を抽出する際の10倍のフロンティアモデルを大幅に上回る結果が得られた。
論文 参考訳（メタデータ） (2026-04-10T19:35:39Z) - Are Your Agents Upward Deceivers? [73.1073084327614]
大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。
これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。
本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
論文 参考訳（メタデータ） (2025-12-04T14:47:05Z) - Simulating Misinformation Vulnerabilities With Agent Personas [1.0120858915885353]
我々は,誤情報に対する応答をモデル化するために,大規模言語モデルを用いたエージェントベースシミュレーションを開発した。
5つの専門職と3つのメンタルスキーマにまたがるエージェントペルソナを構築し,ニュースの見出しに対する反応を評価する。
以上の結果から, LLM生成エージェントは, 情報応答研究のプロキシとしての利用を支援するため, 地中構造ラベルや人体予測と密接に一致していることが示唆された。
論文 参考訳（メタデータ） (2025-10-31T18:44:00Z) - Balancing Truthfulness and Informativeness with Uncertainty-Aware Instruction Fine-Tuning [79.48839334040197]
インストラクション微調整(IFT)は、大きな言語モデル(LLM)の知性を高めるが、その真偽を減少させる可能性がある。
本稿では,IFTデータセットにおける不慣れな知識がLLMの真偽にどのように悪影響を及ぼすかを実証的に示す。
この問題に対処するために、新しいIFTパラダイムである$UNIT_cut$と$UNIT_ref$を導入します。
論文 参考訳（メタデータ） (2025-02-17T16:10:30Z) - AI-LieDar: Examine the Trade-off Between Utility and Truthfulness in LLM Agents [27.10147264744531]
本研究では,Large Language Models (LLM) をベースとしたエージェントが,マルチターン対話環境でシナリオをナビゲートする方法について検討する。
エージェントの反応を評価するために,心理文献にヒントを得た真正性検知装置を開発した。
我々の実験は、すべてのモデルが50%未満の真理であることを示したが、真理性と目標達成率(実用性)はモデルによって異なる。
論文 参考訳（メタデータ） (2024-09-13T17:41:12Z) - How Well Can LLMs Negotiate? NegotiationArena Platform and Analysis [50.15061156253347]
人間は自動車の価格から共通の資源の共有方法まで、あらゆることを交渉する。
大規模言語モデル(LLM)を人間の代理エージェントとして使うことへの関心が急速に高まっているため、そのようなLLMエージェントも交渉できる必要がある。
我々は,LLMエージェントの交渉能力を評価し,検証するためのフレキシブルなフレームワークであるNegotiationArenaを開発した。
論文 参考訳（メタデータ） (2024-02-08T17:51:48Z) - Can Large Language Model Agents Simulate Human Trust Behavior? [81.45930976132203]
本研究では,Large Language Model (LLM) エージェントが人間の信頼行動をシミュレートできるかどうかを検討する。
GPT-4は、信頼行動の観点から、人間と高い行動アライメントを示す。
また、エージェント信頼のバイアスや、他のLSMエージェントや人間に対するエージェント信頼の差についても検討する。
論文 参考訳（メタデータ） (2024-02-07T03:37:19Z) - TrustLLM: Trustworthiness in Large Language Models [446.5640421311468]
本稿では,大規模言語モデル(LLM)における信頼度に関する総合的研究であるTrustLLMを紹介する。
まず、8つの異なる次元にまたがる信頼性の高いLCMの原則を提案する。
これらの原則に基づいて、真理性、安全性、公正性、堅牢性、プライバシ、機械倫理を含む6つの次元にわたるベンチマークを確立します。
論文 参考訳（メタデータ） (2024-01-10T22:07:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。