論文の概要: Evaluating LLM Agent Collusion in Double Auctions

• arxiv url: http://arxiv.org/abs/2507.01413v1
• Date: Wed, 02 Jul 2025 07:06:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-03 14:23:00.07663
• Title: Evaluating LLM Agent Collusion in Double Auctions
• Title（参考訳）: 複競売におけるLLMエージェントの衝突評価
• Authors: Kushal Agrawal, Verona Teo, Juan J. Vazquez, Sudarsh Kunnavakkam, Vishak Srikanth, Andy Liu,
• Abstract要約: 模擬複競売市場での売り手として働く大規模言語モデル(LLM)の挙動について検討する。 直接販売者間のコミュニケーションは、衝突傾向を高め、衝突する確率はモデルによって異なり、当局による監視や緊急といった環境圧力は、衝突行動に影響を与える。
• 参考スコア（独自算出の注目度）: 1.3194391758295114
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have demonstrated impressive capabilities as autonomous agents with rapidly expanding applications in various domains. As these agents increasingly engage in socioeconomic interactions, identifying their potential for undesirable behavior becomes essential. In this work, we examine scenarios where they can choose to collude, defined as secretive cooperation that harms another party. To systematically study this, we investigate the behavior of LLM agents acting as sellers in simulated continuous double auction markets. Through a series of controlled experiments, we analyze how parameters such as the ability to communicate, choice of model, and presence of environmental pressures affect the stability and emergence of seller collusion. We find that direct seller communication increases collusive tendencies, the propensity to collude varies across models, and environmental pressures, such as oversight and urgency from authority figures, influence collusive behavior. Our findings highlight important economic and ethical considerations for the deployment of LLM-based market agents.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、様々な領域で急速にアプリケーションを拡張する自律エージェントとして、印象的な能力を示している。 これらのエージェントは社会経済的相互作用にますます関与するため、望ましくない行動の可能性を特定することが不可欠である。 本研究では,他者を傷つける秘密の協力として定義された,共謀を選択できるシナリオについて検討する。 本研究は, 販売業者として働くLLMエージェントが, 模擬二重オークション市場において, 販売業者として振舞う行動について, 系統的に検討する。 一連の制御された実験を通して、コミュニケーション能力、モデルの選択、環境圧力の有無などのパラメータが、売り手共謀の安定性や出現にどのように影響するかを分析する。 直接販売者間のコミュニケーションは、衝突傾向を高め、衝突する確率はモデルによって異なり、当局による監視や緊急といった環境圧力は、衝突行動に影響を与える。 本研究は, LLMを基盤とした市場エージェントの展開に向けた重要な経済・倫理的考察を明らかにするものである。

関連論文リスト

• Model Editing as a Double-Edged Sword: Steering Agent Ethical Behavior Toward Beneficence or Harm [57.00627691433355]
  我々は、モデル編集タスクとしてエージェントの行動ステアリングをフレーム化し、振舞い編集という。 心理学的道徳理論に基づくベンチマークであるBehaviorBenchを紹介する。 行動編集は倫理的・好意的な行動を促進するためにも、逆に有害な行動や悪意のある行動を引き起こすためにも利用できることを実証する。
  論文  参考訳（メタデータ） (2025-06-25T16:51:51Z)
• Herd Behavior: Investigating Peer Influence in LLM-based Multi-Agent Systems [7.140644659869317]
  大規模言語モデル(LLM)に基づくマルチエージェントシステムにおけるピアの影響のダイナミクスについて検討する。 自己自信と他者に対する信頼感のギャップは,エージェントが適合する可能性に大きな影響を及ぼすことを示す。 群集行動の強さを調節する上で,ピア情報提示形式が重要な役割を担っていることがわかった。
  論文  参考訳（メタデータ） (2025-05-27T12:12:56Z)
• When AI Meets Finance (StockAgent): Large Language Model-based Stock Trading in Simulated Real-world Environments [55.19252983108372]
  LLMによって駆動される、StockAgentと呼ばれるマルチエージェントAIシステムを開発した。 StockAgentを使えば、ユーザーはさまざまな外部要因が投資家取引に与える影響を評価することができる。 AIエージェントに基づく既存のトレーディングシミュレーションシステムに存在するテストセットのリーク問題を回避する。
  論文  参考訳（メタデータ） (2024-07-15T06:49:30Z)
• Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
  GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。 最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。 道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-04-25T15:59:16Z)
• Affordable Generative Agents [16.372072265248192]
  AGA(Affordable Generative Agents)は、エージェント環境とエージェント間の両方のレベルで、信頼性と低コストのインタラクションの生成を可能にするフレームワークである。 私たちのコードは、https://github.com/AffordableGenerative-Agents/Affordable-Generative-Agentsで公開されています。
  論文  参考訳（メタデータ） (2024-02-03T06:16:28Z)
• How Far Are LLMs from Believable AI? A Benchmark for Evaluating the Believability of Human Behavior Simulation [46.42384207122049]
  我々は,人間の振る舞いをシミュレートする際の大規模言語モデル (LLM) の信頼性を評価するために SimulateBench を設計する。 SimulateBenchに基づいて、文字をシミュレートする際、広く使われている10個のLLMの性能を評価する。
  論文  参考訳（メタデータ） (2023-12-28T16:51:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。