論文の概要: Stability of AI Governance Systems: A Coupled Dynamics Model of Public Trust and Social Disruptions

• arxiv url: http://arxiv.org/abs/2603.20248v1
• Date: Tue, 10 Mar 2026 12:24:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 02:36:12.933147
• Title: Stability of AI Governance Systems: A Coupled Dynamics Model of Public Trust and Social Disruptions
• Title（参考訳）: AIガバナンスシステムの安定性: パブリックトラストとソーシャルディスラプションの結合ダイナミクスモデル
• Authors: Jiaqi Lai, Hou Liang, Weihong Huang,
• Abstract要約: 本稿では,離散時間ホークスプロセスを統合する厳密な結合力学モデルを提案する。 信頼の低下はその後の論争の激しさを増幅する。 数値実験により、エコーチャンバーネットワーク構造とメディア増幅がガバナンスの失敗を加速する方法が明らかにされた。
• 参考スコア（独自算出の注目度）: 0.49157446832511503
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As artificial intelligence (AI) is increasingly deployed in high-stakes public decision-making (from resource allocation to welfare distribution), public trust in these systems has become a critical determinant of their legitimacy and sustainability. Yet existing AI governance research remains largely qualitative, lacking formal mathematical frameworks to characterize the precise conditions under which public trust collapses. This paper addresses that gap by proposing a rigorous coupled dynamics model that integrates a discrete-time Hawkes process -- capturing the self-exciting generation of AI controversy events such as perceived algorithmic unfairness or accountability failures -- with a Friedkin-Johnsen opinion dynamics model that governs the evolution of institutional trust across social networks. A key innovation is the bidirectional feedback mechanism: declining trust amplifies the intensity of subsequent controversy events, which in turn further erode trust, forming a self-reinforcing collapse loop. We derive closed-form equilibrium solutions and perform formal stability analysis, establishing the critical spectral condition rho(J_{2nt}) < 1 that delineates the boundary between trust resilience and systemic collapse. Numerical experiments further reveal how echo chamber network structures and media amplification accelerate governance failure. Our core contribution to the AI governance field is a baseline collapse model: a formal stability analysis framework demonstrating that, absent strong institutional intervention, even minor algorithmic biases can propagate through social networks to trigger irreversible trust breakdown in AI governance systems.
• Abstract（参考訳）: 人工知能(AI)は、資源配分から福祉分配まで、高額な公共意思決定にますます投入されているため、これらのシステムに対する公的信頼は、その正当性と持続可能性の重要な決定要因となっている。 しかし、既存のAIガバナンスの研究は定性的であり、公的信頼が崩壊する正確な条件を特徴づける正式な数学的枠組みが欠如している。 本稿では、離散時間ホークスプロセスを統合した厳密な結合力学モデル(アルゴリズムの不公平さや説明責任障害などのAI論争の自己誘発を捉えた)と、ソーシャルネットワーク間の機関的信頼の進化を規定するFriedkin-Johnsen意見力学モデルとのギャップを論じる。 信頼の低下は、その後の論争イベントの強度を増幅し、さらに信頼の喪失を招き、自己強化的な崩壊ループを形成する。 閉形式平衡解を導出し、形式安定性解析を行い、信頼の回復力とシステム崩壊の境界を定める臨界スペクトル条件 rho(J_{2nt}) < 1 を確立する。 数値実験により、エコーチャンバーネットワーク構造とメディア増幅がガバナンスの失敗をいかに加速するかが明らかにされた。 フォーマルな安定性分析フレームワークは、強力な制度的介入がなく、小さなアルゴリズムバイアスさえも、ソーシャルネットワークを通じて伝播し、AIガバナンスシステムにおける不可逆的な信頼の崩壊を引き起こすことを実証します。

関連論文リスト

• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• Agentic AI, Retrieval-Augmented Generation, and the Institutional Turn: Legal Architectures and Financial Governance in the Age of Distributional AGI [0.0]
  本稿では,エージェントAI,Retrieval-Augmented Generation(RAG)の交わりと,法的説明責任と金融市場の整合性との関連について検討する。 我々は、調整された構成値ではなく、ランタイムガバナンスグラフ、制裁関数、観察可能な行動制約を含むメカニズム設計問題として、アライメントを再認識しなければならないと論じる。
  論文  参考訳（メタデータ） (2026-02-20T11:58:43Z)
• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• The Principle of Proportional Duty: A Knowledge-Duty Framework for Ethical Equilibrium in Human and Artificial Systems [0.0]
  本稿では,倫理的責任がエージェントのてんかん状態とどのようにスケールするかをモデル化する新しい枠組みであるProportional Duty(PPD)について紹介する。 不確実性の増加に伴い、Action Duty(決定的に行動する義務)は、補修デューティ(不確実性を確認し、調査し、解決する活動的義務)に比例的に変換される。 本稿では,臨床倫理,受取権法,経済ガバナンス,人工知能の4分野にまたがる枠組みを適用し,学際的妥当性を実証する。
  論文  参考訳（メタデータ） (2025-12-07T02:37:07Z)
• Benchmarking is Broken -- Don't Let AI be its Own Judge [22.93026946593552]
  私たちは、AIを評価するための現在のlaissez-faireアプローチは持続不可能である、と論じます。 PeerBenchは、コミュニティが管理し、熟達した評価青写真である。 私たちのゴールは、完全性を回復し、真に信頼できるAI進歩の手段を提供するための評価の道を開くことです。
  論文  参考訳（メタデータ） (2025-10-08T21:41:37Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Human-AI Governance (HAIG): A Trust-Utility Approach [0.0]
  本稿では,人間とAIの関係が進化する中で,信頼のダイナミクスを分析するためのHAIGフレームワークを紹介する。 我々の分析は、自己監督、推論権限、分散意思決定の技術的進歩が、不均一な信頼の進化をいかに引き起こすかを明らかにする。
  論文  参考訳（メタデータ） (2025-05-03T01:57:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。