論文の概要: Financial Fragility in Societies of LLM Agents: Coordination Failures and Stabilizing Mechanisms

• arxiv url: http://arxiv.org/abs/2609.30940v1
• Date: Fri, 25 Sep 2026 07:55:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.282326
• Title: Financial Fragility in Societies of LLM Agents: Coordination Failures and Stabilizing Mechanisms
• Title（参考訳）: LLM剤の社会における金融的不安定性:調整失敗と安定化機構
• Abstract要約: 大規模言語モデル(LLM)エージェントは、金融決定においてより大きな役割を果たす。 制御された実験フレームワークであるFRAILを用いてこの問題を研究する。 エージェントがシステムの不安定化を指示されていなくても,集団的脆弱性が広く見られる。
• 参考スコア（独自算出の注目度）: 4.415782359537784
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Individually protective decisions can produce avoidable collective failures. As large language model (LLM) agents take on greater roles in financial decision-making, financial AI safety must therefore be considered not only at the level of individual agents, but also at the level of the systems they jointly create. We study this problem with FRAIL, a controlled experimental framework that places LLM agents in three dynamic financial environments---bank runs, debt rollover, and reward crowdfunding---where agents' decisions reshape the financial conditions faced by others. Across seven leading LLMs, we find widespread collective fragility even when no agent is instructed to destabilize the system: 77\% of baseline bank-run episodes and 83\% of debt-rollover episodes end in failure. We then compare three interaction mechanisms based on compensated commitments, centralized commitment agreements, and participant-led coalitions. All three improve aggregate outcomes, but no single mechanism performs best across all financial structures. Across mechanisms, successful stabilization shares a common temporal pattern: broad commitment forms early, before defensive behavior becomes self-reinforcing. Our findings show that individually capable agents do not automatically form safe financial systems, highlighting system-level evaluation and interaction design as central problems for financial AI safety. Code is available at https://anonymous.4open.science/r/FinFrail-CF26.
• Abstract（参考訳）: 個人の保護的な決定は、回避可能な集団的失敗を引き起こす可能性がある。 大規模言語モデル(LLM)エージェントが金融意思決定においてより大きな役割を果たすため、金融AIの安全性は個々のエージェントのレベルだけでなく、彼らが共同で作成するシステムのレベルでも考慮されなければならない。 本研究では, LLMエージェントを3つの動的金融環境 – 銀行のランニング, 債務のロールオーバー, クラウドファンディング – に配置する制御された実験的枠組みであるFRAILを用いてこの問題を研究する。 7つのLLMにおいて, エージェントがシステムの不安定化を指示されない場合においても, ベースラインバンクランエピソードの77%, 債務転倒エピソードの83%が失敗に終わっている。 次に、補償されたコミットメント、集中的なコミットメント契約、参加者主導の連立に基づく3つのインタラクションメカニズムを比較します。 3つとも総合的な結果を改善するが、すべての財務構造において最高のメカニズムは存在しない。 メカニズム全体では、成功の安定化は共通の時間的パターンを共有している: 防御行動が自己強化される前に、幅広いコミットメントが早期に形成される。 本研究は,個別能力を有するエージェントが自動的に安全な金融システムを形成するのではなく,システムレベルの評価とインタラクション設計が金融AIの安全性の中心的な問題であることを示すものである。 コードはhttps://anonymous.4open.science/r/FinFrail-CF26で公開されている。

関連論文リスト

• SoK: Trading Agents or Market Crashers? Dissecting Robustness and Security Failures in Academic Financial LLM Trading Schemes [4.960728685452451]
  本稿では,市場乱れ下での金融エージェントの堅牢性のスキームレベル評価を行う枠組みを提案する。 ほとんどの学術的なスキームは、堅牢性と現実的な敵の脅威を見落としている。 小さな不正判断は市場全体のクラッシュを自力で起こすことができ、敵は故意に同じ崩壊を最小限のコストで引き起こすことができる。
  論文  参考訳（メタデータ） (2026-09-17T04:59:08Z)
• Herculean: An Agentic Benchmark for Financial Intelligence [114.33879935277217]
  代表的な4つのスキルセットにまたがるエージェント金融インテリジェンスのための最初の熟練したベンチマークであるHerculeanを紹介します。 フェデラーエージェント全体では、TradingやMarket Insightsではエージェントが比較的うまく機能するが、HedgingやAuditingではかなり苦労している。 全体としては、財務的推論を信頼性のあるワークフロー実行に変換する上で、現在のエージェントに重要なギャップがあることを示している。
  論文  参考訳（メタデータ） (2026-05-14T04:30:49Z)
• Compliance Moral Hazard and the Backfiring Mandate [6.584016782022881]
  共有顧客層にサービスを提供している競合企業は、基本的な情報集約の問題に直面している。 銀行ネットワークにおけるマネーロンダリング防止に基礎を置く分散型リスク分析のためのメカニズム設計フレームワークを開発する。 我々は、競争圧力がコンプライアンスのモラルハザードを増幅し、低設計の委任により、安楽以下での福祉を削減できることを示した。
  論文  参考訳（メタデータ） (2026-04-23T15:46:24Z)
• OOM-RL: Out-of-Money Reinforcement Learning Market-Driven Alignment for LLM-Based Multi-Agent Systems [4.970665847294818]
  目的的アライメントパラダイムとして textbfOut-of-Money Reinforcement Learning (OOM-RL) を導入する。 本研究は,ハイターン・サイコファンティック・ベースラインから,ロバストで流動性に配慮したアーキテクチャへのシステム進化を詳述する。 我々は、厳格な経済罰と主観的人間選好の代用が、実環境における自律的エージェントの整合のための堅牢な方法論を提供すると結論付けている。
  論文  参考訳（メタデータ） (2026-04-13T13:45:42Z)
• FinVault: Benchmarking Financial Agent Safety in Execution-Grounded Environments [29.19862712902908]
  FinVaultは、金融エージェントのための最初の実行基盤セキュリティベンチマークである。 現実的な金融エージェント設定では,既存の防衛機構が依然として有効ではないことを示す。
  論文  参考訳（メタデータ） (2026-01-09T03:25:45Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。