論文の概要: WolfSociety: Understanding Collective Risk from Harmful-Agent Scaling in Financial Agent Societies
- arxiv url: http://arxiv.org/abs/2609.05591v1
- Date: Fri, 04 Sep 2026 17:36:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.099042
- Title: WolfSociety: Understanding Collective Risk from Harmful-Agent Scaling in Financial Agent Societies
- Title（参考訳）: WolfSociety:金融エージェント社会における有害なスケーリングから集団的リスクを理解する
- Abstract要約: コントロール型金融エージェント社会における有害エージェントの割合と社会規模による集団的失敗の変化について検討した。
主要な財政シナリオでは、集団的失敗は深刻な価格ずれや流動性ストレスとともに広範囲に有害な拡散を必要とする。
以上の結果から, 金融エージェント社会における非線形, サイズ依存的な崩壊遷移が明らかとなった。
- 参考スコア（独自算出の注目度）: 28.247665860819197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Safety evaluations typically focus on individual agents, but interacting agents can spread harmful information and influence the environment in which later decisions are made. We study how collective failure changes with harmful-agent fraction and society size in a controlled financial agent society, where agents communicate over a social network and trade in a shared market. In the primary financial scenario, collective failure requires broad harmful diffusion together with severe price dislocation or liquidity stress. Across all tested society sizes, failure remains rare at low harmful fractions but rises sharply over a narrow range. As society size grows from N=100 to N=2000, the harmful fraction associated with a 50% failure probability decreases from 4.7% to 2.2%, while the corresponding number of harmful agents increases from approximately 5 to 44. In contrast, when the number of harmful agents is held fixed, their impact becomes weaker as the society grows. Controlled interventions further show that broader network reach shifts the collapse boundary toward lower harmful fractions, whereas stronger conformity alone has little effect. To characterize these effects, we introduce Agent Society Dynamics, a finite-size framework for relating harmful-agent fraction, society size, and interaction structure to collective failure. Overall, our results reveal a nonlinear, size-dependent collapse transition in financial agent societies, showing that collective failure depends not only on the prevalence of harmful agents but also on the size and interaction structure of the surrounding society. Code is available at https://github.com/SAIL-Research-Lab/WolfSociety.
- Abstract（参考訳）: 安全性評価は通常、個々のエージェントに焦点を当てるが、相互作用するエージェントは有害な情報を拡散し、後の決定が下される環境に影響を与える可能性がある。
コントロール型金融エージェント社会において, エージェントがソーシャルネットワーク上でコミュニケーションし, 共有市場での取引を行う場合において, 有害エージェントの割合と社会規模で集団的失敗がどう変化するかを検討する。
主要な財政シナリオでは、集団的失敗は深刻な価格ずれや流動性ストレスとともに広範囲に有害な拡散を必要とする。
全ての試験された社会規模で、低い有害な割合では失敗は稀であるが、狭い範囲で急上昇する。
社会サイズがN=100からN=2000に増加するにつれて、50%の失敗確率に関連する有害な割合は4.7%から2.2%に減少し、それに対応する有害な薬剤の数は5から44に増加する。
対照的に、有害剤の数が固定されると、社会が成長するにつれてその影響は弱まる。
制御された介入は、より広いネットワークリーチが崩壊境界を低い有害な分数にシフトすることを示しているが、強い適合性だけではほとんど効果がない。
これらの効果を特徴づけるために, 有害エージェント分画, 社会サイズ, 相互作用構造を関連づける有限サイズのフレームワークであるエージェント・ソサエティ・ダイナミクスを紹介する。
以上の結果から, 金融エージェント社会における非線型的, サイズ依存的な崩壊遷移が明らかとなり, 集団的失敗は有害なエージェントの出現だけでなく, 周辺社会の規模や相互作用構造にも左右されることが明らかとなった。
コードはhttps://github.com/SAIL-Research-Lab/WolfSocietyで入手できる。
関連論文リスト
- Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems [103.90831279037094]
LLMベースのマルチエージェントトレーディングシステムは、研究プロトタイプから実際の資産を管理するライブデプロイメントへと急速に移行している。
破損した信号は最終決定に伝播し、実現された財政損失に変換される。
本稿では,金融分野において,敵対的信号がマルチエージェント取引システムにどのように入るのかを特徴付ける最初の体系的実証的研究について述べる。
論文 参考訳（メタデータ） (2026-08-25T05:07:37Z) - The Two Genie Game: Adoption and Welfare in Audit-Grounded AI Governance [0.0]
コミュニティの感情にどのように結びつくかという事前の分布が単調であることから,導入が好まれることを示す。
固定が、コミュニティの有効(情報的)サイズN_cに縛られることができる場合に導かれる。
コミュニティ台帳を持つ自己監査エージェントは,一般論として,コミュニティの害を防ぐには不十分であることを示す。
論文 参考訳（メタデータ） (2026-06-27T03:33:57Z) - Compliance Moral Hazard and the Backfiring Mandate [6.584016782022881]
共有顧客層にサービスを提供している競合企業は、基本的な情報集約の問題に直面している。
銀行ネットワークにおけるマネーロンダリング防止に基礎を置く分散型リスク分析のためのメカニズム設計フレームワークを開発する。
我々は、競争圧力がコンプライアンスのモラルハザードを増幅し、低設計の委任により、安楽以下での福祉を削減できることを示した。
論文 参考訳（メタデータ） (2026-04-23T15:46:24Z) - Emergent Social Intelligence Risks in Generative Multi-Agent Systems [106.60961969939676]
マルチエージェントシステムは、実験室のプロトタイプから現実のデプロイへと急速に移行し、複雑なタスクを解決するためのリソースを共同で計画し、交渉し、割り当てている。
本稿では、共有リソースの競合、シーケンシャル・ハンドオフ・コラボレーション、集合的意思決定集約などに関わる病態における、このような創発的なマルチエージェントリスクに関する先駆的な研究について述べる。
このような集団行動は、稀なケースや病理学的ケースではなく、反復的な臨床試験や幅広い相互作用条件で頻繁に発生する。
エージェント集団が人間の社会から見慣れた障害パターンを自然に再現する社会知能リスクである。
論文 参考訳（メタデータ） (2026-03-29T17:10:28Z) - When AI Agents Collude Online: Financial Fraud Risks by Collaborative LLM Agents on Social Platforms [101.2197679948061]
大規模言語モデル(LLM)エージェントを用いた大規模マルチエージェントシステムにおける集団金融詐欺のリスクについて検討する。
金融詐欺シナリオをシミュレーションするための大規模ベンチマークであるMultiAgentFraudBenchを提案する。
論文 参考訳（メタデータ） (2025-11-09T16:30:44Z) - Vulnerable Agent Identification in Large-Scale Multi-Agent Reinforcement Learning [49.31650627835956]
システムがスケールアップすると、部分的なエージェントの障害は避けられないものとなり、全体的なパフォーマンスが著しく低下するエージェントのサブセットを特定することが重要になる。
本稿では,大規模マルチエージェント強化学習(MARL)における脆弱性エージェント識別(VAI)問題について検討する。
実験により, 大規模MARLおよびルールベースシステムにおいて, より脆弱なエージェントを効果的に同定し, システムを悪用し, それぞれのエージェントの脆弱性を明らかにする値関数を学習した。
論文 参考訳（メタデータ） (2025-09-18T16:03:50Z) - Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。
現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。
情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
論文 参考訳（メタデータ） (2025-03-21T18:06:28Z) - Preventing Rogue Agents Improves Multi-Agent Collaboration [21.955058255432974]
本稿では,アクション予測中にエージェントを監視し,将来エラーが発生する可能性がある場合に介入することを提案する。
WhoDunitEnv、コード生成タスク、そしてリソース持続可能性のためのGovSim環境の実験は、我々のアプローチがパフォーマンスを大幅に向上させることを示している。
論文 参考訳（メタデータ） (2025-02-09T18:35:08Z) - Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。
我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
論文 参考訳（メタデータ） (2022-05-04T09:54:33Z) - Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
論文 参考訳（メタデータ） (2019-07-13T21:12:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。