論文の概要: Is Lying an Emergent Behaviour in LLMs? Evidence from Gaslighting AI agents in a Sustainability Game
- arxiv url: http://arxiv.org/abs/2606.28456v1
- Date: Fri, 26 Jun 2026 10:32:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.575245
- Title: Is Lying an Emergent Behaviour in LLMs? Evidence from Gaslighting AI agents in a Sustainability Game
- Title（参考訳）: LLMにおける創発的行動は可能か?-サステナビリティゲームにおけるガスライティングAIエージェントからの証拠
- Abstract要約: 本研究は,LLMエージェント間の競争的サステナビリティゲームにおいて,嘘が出現するかどうかを検討する。
我々は,産業,軍事,生態資源を管理するサステナビリティゲームのエージェントベースモデルを開発する。
- 参考スコア（独自算出の注目度）: 3.6584961209402866
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLMs agents are increasingly used in multi-agent settings, yet their behaviour in sustainability games remains largely unexplored. This work investigates whether lying can emerge among LLM agents in a competitive sustainability game in which agents are informed that common resources can regenerate, although regeneration does not actually occur. We develop an agent-based model of a sustainability game in which agents manage industrial, military, and ecological resources, and interact through a network. LLM agents can observe neighbours' status, declare future attacks, receive permission to lie, and access reputation information, while rule-based agents provide an interpretable behavioural baseline. The results show that neighbour information strongly changes system dynamics, increasing attacks while improving biosphere retention and coexistence. Also, the presence of future declarations reduce extinction risk without suppressing conflict. Behaviourally, deception emerges even when agents are not explicitly allowed to lie, and explicit permission mainly increases bluffing and diversion rather than direct backstabbing. Finally, the presence of reputation memory and information about the current biosphere level reduces system ecological depletion. These findings suggest that deception can arise as an emergent behaviour in LLM-agent systems and that communication between LLM-agents could support sustainability while dealing with risk.
- Abstract（参考訳）: LLMエージェントは、マルチエージェント設定での利用が増えているが、サステナビリティゲームにおけるそれらの振る舞いは、ほとんど探索されていない。
本研究は, LLMエージェントに共通資源が再生可能であることをエージェントに知らせる競合サステナビリティゲームにおいて, LLMエージェント間に嘘が生じるかどうかを考察する。
本研究では,サステナビリティゲームのエージェントベースモデルを構築し,そのエージェントが産業,軍事,生態資源を管理し,ネットワークを介して対話する。
LLMエージェントは隣人の状態を観察し、将来の攻撃を宣言し、嘘の許可を受け、評判情報にアクセスし、ルールベースのエージェントは解釈可能な行動ベースラインを提供する。
その結果、近隣の情報はシステムダイナミクスを強く変化させ、バイオスフィアの保持と共存を改善しながら攻撃を増大させることがわかった。
また、将来の宣言の存在は、紛争を抑えることなく絶滅リスクを減少させる。
行動的には、エージェントが明示的に嘘をつくことを許されていない場合でも偽装が出現し、明示的な許可は直接のバックステービングではなく、ブラッフィングとディバージョンを主に増加させる。
最後に、評判記憶の存在と現在のバイオスフィアレベルに関する情報は、システムの生態系の枯渇を減少させる。
これらの結果から, LLMエージェントシステムにおいて, 詐欺行為は創発的行動として生じうること, LLMエージェント間のコミュニケーションは, リスクに対処しながら持続可能性を支持することが示唆された。
関連論文リスト
- Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。
直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。
これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
論文 参考訳（メタデータ） (2026-08-25T21:01:19Z) - When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - Conversable Complexity: Agentic LLM Collectives as Interpretable Substrates [5.497634485931493]
我々は,エージェントの集合体が人工生命研究の計算基盤として機能すると主張している。
言語モデル研究における解釈可能性の概念を概説し,エージェントの集合体に拡張する。
論文 参考訳（メタデータ） (2026-07-01T15:08:02Z) - Security awareness in LLM agents: the NDAI zone case [0.0]
NDAIゾーンは、発明者や投資家のエージェントがTrusted Execution Environment(TEE)内で交渉することを可能にする。
これにより、IPの完全な開示が発明者のエージェントの合理的な戦略となる。
このインフラを活用するには、安全でない環境と安全な環境を区別する必要がある。
LLMモデルは、実行環境のセキュリティを意識する上で、どのように様々な形の証拠を重み付けするのでしょうか?
論文 参考訳（メタデータ） (2026-03-19T15:18:23Z) - Are Your Agents Upward Deceivers? [73.1073084327614]
大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。
これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。
本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
論文 参考訳（メタデータ） (2025-12-04T14:47:05Z) - Information Retrieval Induced Safety Degradation in AI Agents [52.15553901577888]
本研究では,検索アクセスの拡大がモデル信頼性,バイアス伝搬,有害コンテンツ生成に与える影響について検討した。
整列 LLM 上に構築された検索可能なエージェントは、検索なしでの無検閲モデルよりも安全でない振る舞いをすることが多い。
これらの発見は、検索可能でますます自律的なAIシステムの公正性と信頼性を確保するための堅牢な緩和戦略の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-05-20T11:21:40Z) - LifelongAgentBench: Evaluating LLM Agents as Lifelong Learners [51.518410910148816]
しかし、現在の大規模言語モデル(LLM)ベースのエージェントは、状態のままであり、時間とともに知識を蓄積または転送することができない。
LLMエージェントの生涯学習能力を体系的に評価するために設計された最初の統合ベンチマークであるLifelongAgentBenchを紹介する。
論文 参考訳（メタデータ） (2025-05-17T10:09:11Z) - Flooding Spread of Manipulated Knowledge in LLM-Based Multi-Agent Communities [28.244283407749265]
マルチエージェントシステムにおける大規模言語モデル(LLM)のセキュリティへの影響について検討する。
本稿では,説得力注入と操作的知識注入を含む2段階攻撃手法を提案する。
本手法は, LLMをベースとしたエージェントを誘導し, 有害な知識の拡散に有効であることを示す。
論文 参考訳（メタデータ） (2024-07-10T16:08:46Z) - The Wolf Within: Covert Injection of Malice into MLLM Societies via an MLLM Operative [55.08395463562242]
MLLM(Multimodal Large Language Models)は、AGI(Artificial General Intelligence)の新たな境界を常に定義している。
本稿では,MLLM社会において,悪意のあるコンテンツの間接的伝播という新たな脆弱性について検討する。
論文 参考訳（メタデータ） (2024-02-20T23:08:21Z) - Affordable Generative Agents [16.372072265248192]
AGA(Affordable Generative Agents)は、エージェント環境とエージェント間の両方のレベルで、信頼性と低コストのインタラクションの生成を可能にするフレームワークである。
私たちのコードは、https://github.com/AffordableGenerative-Agents/Affordable-Generative-Agentsで公開されています。
論文 参考訳（メタデータ） (2024-02-03T06:16:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。