論文の概要: Auditing Cascading Risks in Multi-Agent Systems via Semantic-Geometric Co-evolution

• arxiv url: http://arxiv.org/abs/2603.13325v1
• Date: Wed, 04 Mar 2026 16:45:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:42.306337
• Title: Auditing Cascading Risks in Multi-Agent Systems via Semantic-Geometric Co-evolution
• Title（参考訳）: 意味幾何学的共進化によるマルチエージェントシステムのカスケードリスクの評価
• Authors: Zixun Luo, Yuhang Fan, Hengyu Lin, Yufei Li, Youzhi Zhang,
• Abstract要約: セマンティック・幾何学的共進化に基づくカスケードリスク検出の原理的枠組みを提案する。 このフレームワークは、セマンティックフロー信号とグラフ幾何学を結合することにより、信頼されたコラボレーションの通常の共進化力学を学習する。
• 参考スコア（独自算出の注目度）: 5.051136155296043
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language model (LLM)-based Multi-Agent Systems (MAS) are prone to cascading risks, where early-stage interactions remain semantically fluent and policy-compliant, yet the underlying interaction dynamics begin to distort in ways that amplify latent instability or misalignment. Traditional auditing methods that focus on per-message semantic content are inherently reactive and lagging, failing to capture these early structural precursors. In this paper, we propose a principled framework for cascading-risk detection grounded in semantic--geometric co-evolution. We model MAS interactions as dynamic graphs and introduce Ollivier--Ricci Curvature (ORC) -- a discrete geometric measure -- to characterize information redundancy and bottleneck formation in communication topologies. By coupling semantic flow signals with graph geometry, the framework learns the normal co-evolutionary dynamics of trusted collaboration and treats deviations from this coupled manifold as early-warning signals. Experiments on a suite of cascading-risk scenarios aligned with the risk category demonstrate that curvature anomalies systematically precede explicit semantic violations by several interaction turns, enabling proactive intervention. Furthermore, the local nature of Ricci curvature provides principled interpretability for root-cause attribution, identifying specific agents or links that precipitate the collapse of trustworthy collaboration.
• Abstract（参考訳）: 大規模言語モデル (LLM) ベースのマルチエージェントシステム (MAS) は、初期段階の相互作用が意味論的に流動的でポリシーに準拠したままでありながら、下位の相互作用のダイナミクスは遅延不安定性や不整合を増幅する方法で歪み始めるリスクをカスケードする傾向にある。 メッセージごとのセマンティックコンテンツにフォーカスする従来の監査手法は、本質的に反応性と遅延があり、これらの初期の構造的前駆体を捕捉することができない。 本稿では,意味的-幾何学的共進化に基づくカスケードリスク検出の原理的枠組みを提案する。 我々は,MASの相互作用を動的グラフとしてモデル化し,Ollivier--Ricci Curvature (ORC)を導入し,通信トポロジにおける情報冗長性とボトルネック形成を特徴付ける。 このフレームワークは、セマンティックフロー信号とグラフ幾何学を結合することにより、信頼された協調の通常の共進化力学を学び、この結合多様体からの偏差を早期警戒信号として扱う。 リスクカテゴリと整合したカスケードリスクシナリオの実験では、曲率異常がいくつかの相互作用による明示的な意味的違反を体系的に先行し、積極的な介入を可能にすることが示されている。 さらに、リッチ曲率の局所的性質は、信頼できるコラボレーションの崩壊を誘発する特定のエージェントやリンクを特定する、根起因の帰属に対する原則的解釈可能性を提供する。

関連論文リスト

• LLM-Grounded Explainable AI for Supply Chain Risk Early Warning via Temporal Graph Attention Networks [0.5653106385738822]
  重要な物流ノードの破壊は、世界的なサプライチェーンに深刻なリスクをもたらす。 本稿では,ボトルネック予測と忠実な自然言語リスク説明を共同で行うエビデンス基盤フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-05T05:07:40Z)
• From Spark to Fire: Modeling and Mitigating Error Cascades in LLM-Based Multi-Agent Collaboration [27.233204826914243]
  協調的なメカニズムは、小さな不正確さを繰り返しを通じてシステムレベルの偽のコンセンサスに固化させる可能性がある。 既存の保護は、シングルエージェントの検証やコラボレーションアーキテクチャの変更を必要とすることが多い。 本稿では、協調を有向依存グラフとして抽象化するLLM-MASに適した伝搬ダイナミクスモデルを提案する。
  論文  参考訳（メタデータ） (2026-03-04T11:45:27Z)
• The Emergence of Lab-Driven Alignment Signatures: A Psychometric Framework for Auditing Latent Bias and Compounding Risk in Generative AI [0.0]
  本稿では,不確実性の下での潜在特性推定を定量化する新しい監査フレームワークを提案する。 この研究は最適化バイアス、Sycophancy、Status-Quo Legitimizationを含む9つの次元にわたる主要なモデルを監査している。
  論文  参考訳（メタデータ） (2026-02-19T06:56:01Z)
• FlexCausal: Flexible Causal Disentanglement via Structural Flow Priors and Manifold-Aware Interventions [1.7114074082429929]
  因果解離表現学習(Causal Disentangled Representation Learning)は、観測から低次元表現を学習し、解離することを目的とする。 本稿では,ブロック対角共分散VAEに基づく新しいCDRLフレームワークFlexCausalを提案する。 本フレームワークは,学習した潜在部分空間と基底-真理因果関係の正確な構造的対応を保証する。
  論文  参考訳（メタデータ） (2026-01-29T11:30:53Z)
• Generative Human-Object Interaction Detection via Differentiable Cognitive Steering of Multi-modal LLMs [85.69785384599827]
  人間と物体の相互作用(Human-object Interaction、HOI)の検出は、人と物体のペアとそれらの相互作用を局在させることを目的としている。 既存のメソッドはクローズドワールドの仮定の下で動作し、タスクを未定義の小さな動詞集合上の分類問題として扱う。 本稿では,閉集合分類タスクから開語彙生成問題へのHOI検出を再構成する新しい生成推論・ステアブル知覚フレームワークGRASP-HOを提案する。
  論文  参考訳（メタデータ） (2025-12-19T14:41:50Z)
• Topology Identification and Inference over Graphs [61.06365536861156]
  グラフ上で進化するプロセスのトポロジの同定と推論は、脳、輸送、金融、電力、および社会的および情報ネットワークを含むタイムリーな応用に現れる。 本章では,多次元データに対するグラフトポロジ同定と統計的推測手法の概要について述べる。
  論文  参考訳（メタデータ） (2025-12-11T00:47:09Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Latent Diffusion Model Based Denoising Receiver for 6G Semantic Communication: From Stochastic Differential Theory to Application [11.385703484113552]
  生成人工知能(GAI)を利用した新しい意味コミュニケーションフレームワークを提案する。 意味的特徴抽出のための変分オートエンコーダを組み合わせた潜在拡散モデル(LDM)に基づくセマンティックコミュニケーションフレームワークを提案する。 提案システムはゼロショットの一般化をサポートし,低SNRおよびアウト・オブ・ディストリビューション条件下での優れた性能を実現する訓練自由フレームワークである。
  論文  参考訳（メタデータ） (2025-06-06T03:20:32Z)
• Certified Neural Approximations of Nonlinear Dynamics [51.01318247729693]
  安全クリティカルな文脈では、神経近似の使用は、基礎となるシステムとの密接性に公式な境界を必要とする。 本稿では,認証された一階述語モデルに基づく新しい,適応的で並列化可能な検証手法を提案する。
  論文  参考訳（メタデータ） (2025-05-21T13:22:20Z)
• Adapted projection operator technique for the treatment of initial correlations [0.0]
  本稿では,システム環境相互作用の微視的モデリングに適用可能な摂動的手法を提案する。 提案手法は,従来の投射法よりも長期体制において期待される動的挙動を再現する2つのケーススタディによってさらに説明される。
  論文  参考訳（メタデータ） (2021-07-28T18:01:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。