論文の概要: An approach to systemic risks of AI through the lens of emergence, collective action problems, and externalities
- arxiv url: http://arxiv.org/abs/2607.18170v1
- Date: Mon, 20 Jul 2026 17:12:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.718589
- Title: An approach to systemic risks of AI through the lens of emergence, collective action problems, and externalities
- Title（参考訳）: 創発・集団行動問題・外部性のレンズによるAIのシステム的リスクへのアプローチ
- Abstract要約: 一般的には、システム的リスク、特にAIの定義は受け入れられていない。
人権や基本的権利に対するシステム的リスクアプローチの適用は、EU AI Actのように、比較的新しい。
これまでのところ、いくつかの概念は複雑さと出現を考慮に入れていない。
- 参考スコア（独自算出の注目度）: 41.99844472131922
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The integration of general-purpose artificial intelligence models into downstream AI systems, among other developments, has given rise to new forms of risk that are more systemic in nature than conventional AI risks. However, there is no generally accepted definition of systemic risks in general and for AI in particular. Conceptualisations of these risks vary across research and regulation. Especially the application of the systemic risk approach to human rights or fundamental rights, like in the EU AI Act, is relatively new, just as the research on the contribution of AI to systemic forms of discrimination, privacy violations, erosions of democracy, or climate and environmental degradation. We argue that some concepts so far have not sufficiently take complexity and emergence into account. Furthermore, this variety of concepts might hinder responsible actors to adequately assess the systemic risks of AI, leading to inadequate prevention and mitigation measures and ineffective governance. To contribute to the understanding of systemic risks of AI, we propose a conceptualisation of systemic risks of AI that considers complex phenomena that lead to the emergence of harms at the societal or global level. We outline systemic risks mainly as complex externalities and collective action problems. Of particular interest are feedback dynamics, processes that lead to market concentration like network effects, algorithmic monocultures, and integration processes of AI supply chains or 'AI ecosystems' and across societal sectors, which can result in structural dominance, (inter-) dependencies, and cascading risks. Further phenomena contributing to systemic risks are information asymmetries, informational emergence, and deficits of the governance and institutional framework.
- Abstract（参考訳）: 汎用人工知能モデルの下流AIシステムへの統合は、従来のAIリスクよりも本質的に体系的な新しいタイプのリスクを生み出している。
しかし、一般にはシステム的リスク、特にAIについて一般的に受け入れられている定義はない。
これらのリスクの概念化は研究や規制によって異なる。
特に、人権や基本的権利に対するシステム的リスクアプローチの適用は、EUのAI法のように比較的新しいものであり、AIのシステム的差別、プライバシー侵害、民主主義の侵食、気候と環境の劣化への貢献に関する研究と同様にである。
これまでのところ、いくつかの概念は複雑さと出現を考慮に入れていない。
さらに、こうした様々な概念は、責任あるアクターがAIのシステム的リスクを適切に評価するのを妨げ、不適切な予防と緩和策と非効率的なガバナンスをもたらす可能性がある。
本稿では,AIのシステム的リスクの理解に寄与するため,社会や世界レベルでの害の出現につながる複雑な現象を考慮した,AIのシステム的リスクの概念化を提案する。
システム的リスクは主に複雑な外部性や集団行動問題として概説する。
特に興味深いのは、フィードバックのダイナミクス、ネットワーク効果、アルゴリズムによるモノカルチャー、AIサプライチェーンや'AIエコシステム'といった市場集中に繋がるプロセス、社会的セクター間の統合プロセスなどです。
システム的リスクに寄与するその他の現象は、情報非対称性、情報発生、ガバナンスと制度の枠組みの欠陥である。
関連論文リスト
- Understanding Cognition-Induced Risks in Agentic AI Systems [46.75121501746157]
大規模言語モデル(LLM)を利用したエージェントシステムは、人間のような認知パターンを示す。
これらのシステムが様々な領域に深く統合されるにつれて、認知的関与は、研究が不十分なままの人間の社会にとって重要な関心を喚起する。
認知レベルに応じた人事、自律、制御能力に対する潜在的なリスクについて検討する。
論文 参考訳（メタデータ） (2026-08-15T16:16:29Z) - Identifying the Supply Chain of AI for Trustworthiness and Risk Management in Critical Applications [0.0]
Gapは、現代のAIシステムの出力に寄与するデータソース、事前訓練されたモデル、エージェント、サービス、その他のシステムの複雑なWebに関連するサプライチェーンリスクの体系的評価に存在する。
我々は、AIのサプライチェーンとAIシステムの振る舞いとアウトプットに関連するリスクに着目し、AIリスク評価と管理の現状を調査する。
本稿では,AIサプライチェーンを分類するための分類法を提案する。
論文 参考訳（メタデータ） (2025-11-19T14:52:02Z) - An Artificial Intelligence Value at Risk Approach: Metrics and Models [0.0]
人工知能のリスク管理技術の現状は、今後のAI規制により、非常に未熟であるようだ。
本稿の目的は、AIリスク管理の深さについて、AIステークホルダーを指向させることである。
論文 参考訳（メタデータ） (2025-09-22T20:27:29Z) - AI, Digital Platforms, and the New Systemic Risk [2.0090452213078445]
我々は、AI、プラットフォーム、ハイブリッドシステムガバナンスにおけるシステムリスクを理解するための厳格なフレームワークを開発する。
我々は、EUのAI法やデジタルサービス法を含む最近の法律は、体系的なリスクを呼び起こすが、狭小または曖昧な特徴に依存していると主張している。
我々のフレームワークは、複数のAIエージェントの相互作用に起因するシステム障害の可能性を含む、新しいリスクパスを強調している。
論文 参考訳（メタデータ） (2025-09-22T15:14:23Z) - Embodied AI: Emerging Risks and Opportunities for Policy Action [46.48780452120922]
EAI(Embodied AI)システムは、物理的な世界で存在し、そこから学び、推論し、行動することができる。
EAIシステムには、悪意のある使用による身体的被害、大量監視、経済的・社会的破壊など、重大なリスクが伴う。
論文 参考訳（メタデータ） (2025-08-28T17:59:07Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - A Taxonomy of Systemic Risks from General-Purpose AI [2.5956465292067867]
我々は、システム的リスクを、社会全体や経済に影響を及ぼす大規模な脅威と見なしている。
システム的リスクの主な源は、知識ギャップ、害を認識するための課題、そしてAI開発における予測不可能な軌道から生まれる。
本稿では,汎用AIの大規模負の社会的影響を理解し,対処するための構造的基盤を提供することで,AIの安全性研究に寄与する。
論文 参考訳（メタデータ） (2024-11-24T22:16:18Z) - AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies [88.32153122712478]
我々は4階層の分類に分類された314のユニークなリスクカテゴリを特定した。
最高レベルでは、この分類はシステム・アンド・オペレーショナル・リスク、コンテンツ・セーフティ・リスク、社会的なリスク、法と権利のリスクを含む。
我々は、セクター間の情報共有と、生成型AIモデルとシステムのリスク軽減におけるベストプラクティスの推進を通じて、AIの安全性を向上することを目指している。
論文 参考訳（メタデータ） (2024-06-25T18:13:05Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - AI Hazard Management: A framework for the systematic management of root
causes for AI risks [0.0]
本稿ではAI Hazard Management(AIHM)フレームワークを紹介する。
AIのハザードを体系的に識別し、評価し、治療するための構造化されたプロセスを提供する。
総合的な最先端分析からAIハザードリストを構築する。
論文 参考訳（メタデータ） (2023-10-25T15:55:50Z) - Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。
リスクは技術コミュニティのメトリクスを使って定量化できます。
本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
論文 参考訳（メタデータ） (2022-09-13T21:47:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。