論文の概要: Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2406.14873v1
• Date: Fri, 21 Jun 2024 05:44:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-06-24 14:42:51.111046
• Title: Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence
• Title（参考訳）: 事故と誤用を超えて:人工知能の構造的リスクダイナミクスをデコードする
• Authors: Kyle A Kilian,
• Abstract要約: 本稿では,社会・経済・政治システム間の高度AIシステムの迅速な統合に伴う構造的リスクの概念について考察する。 技術的進歩と社会的ダイナミクスの相互作用を分析することにより、構造リスクの3つの主要なカテゴリを分離する。 これらのリスクを駆動する因果連鎖を理解するための包括的枠組みを提示し、構造的力の相互依存と、誤用やシステム障害のより近親的なリスクを強調した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The integration of artificial intelligence (AI) across contemporary industries is not just a technological upgrade but a transformation with profound structural implications. This paper explores the concept of structural risks associated with the rapid integration of advanced AI systems across social, economic, and political systems. This framework challenges the conventional perspectives that primarily focus on direct AI threats such as accidents and misuse and suggests that these more proximate risks are interconnected and influenced by a larger sociotechnical system. By analyzing the interactions between technological advancements and social dynamics, this study isolates three primary categories of structural risk: antecedent structural causes, antecedent system causes, and deleterious feedback loops. We present a comprehensive framework to understand the causal chains that drive these risks, highlighting the interdependence between structural forces and the more proximate risks of misuse and system failures. The paper articulates how unchecked AI advancement can reshape power dynamics, trust, and incentive structures, leading to profound and often unpredictable shifts. We introduce a methodological research agenda for mapping, simulating, and gaming these dynamics aimed at preparing policymakers and national security officials for the challenges posed by next-generation AI technologies. The paper concludes with policy recommendations.
• Abstract（参考訳）: 現代産業における人工知能(AI)の統合は、単なる技術的アップグレードではなく、重要な構造的な意味を持つ変革である。 本稿では,社会・経済・政治システム間の高度AIシステムの迅速な統合に伴う構造的リスクの概念について考察する。 この枠組みは、事故や誤用などの直接的なAI脅威に主に焦点をあてる従来の視点に挑戦し、これらより近縁なリスクはより大きな社会技術システムによって相互に関連付けられ、影響されることを示唆している。 本研究は, 技術的進歩と社会的ダイナミクスの相互作用を分析することにより, 構造的リスクの3つの主要なカテゴリ, 先行的構造的原因, 先行的システム原因, 有害なフィードバックループを分離する。 これらのリスクを駆動する因果連鎖を理解するための包括的枠組みを提示し、構造的力の相互依存と、誤用やシステム障害のより近親的なリスクを強調した。 この論文は、未確認のAI進歩がパワーダイナミクス、信頼、インセンティブ構造を再形成し、深遠で予測不可能な変化につながることを明記している。 我々は、次世代AI技術がもたらす課題に対して、政策立案者や国家安全保障担当者を準備することを目的とした、これらのダイナミクスのマッピング、シミュレーション、ゲームのための方法論研究アジェンダを導入する。 論文は政策勧告で締めくくっている。

関連論文リスト

• Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
  本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。 本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。 我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
  論文  参考訳（メタデータ） (2026-02-12T12:52:49Z)
• Responsible AI: The Good, The Bad, The AI [1.932555230783329]
  本稿では,戦略的情報システムのレンズを通して,AIの二重性に関する包括的考察を行う。 我々は,(1)AI導入の戦略的利益,(2)固有のリスクと意図しない結果,(3)組織がこれらの緊張をナビゲートできるガバナンスメカニズムを具体化する,パラドックスベースの責任AIガバナンス(PRAIG)フレームワークを開発する。 この論文は、責任あるAIガバナンスの奨学金を進めるための研究課題で締めくくっている。
  論文  参考訳（メタデータ） (2026-01-28T22:33:27Z)
• From Educational Analytics to AI Governance: Transferable Lessons from Complex Systems Interventions [0.0]
  我々は、CAPIRE内で開発された5つのコア原則が、AIシステム管理の課題に直接移行すると主張している。 どちらの領域も非線形性、出現、フィードバックループ、戦略的適応、経路依存を示す。 我々は、これらの原則を規制設計のために運用する統合フレームワークとして、複合システムAIガバナンス(CSAIG)を提案する。
  論文  参考訳（メタデータ） (2025-12-15T12:16:57Z)
• From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance [0.0]
  リスクベースのAI規制は、予想される損害に対応する比例制御を約束する。 本稿では、そのようなフレームワークは構造上の理由から失敗することが多いと論じる。 我々は,規制を制御ではなく介入として扱う,AIガバナンスのための複雑性ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-14T14:19:21Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
  大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。 これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
  論文  参考訳（メタデータ） (2025-06-30T13:34:34Z)
• Toward Adaptive Categories: Dimensional Governance for Agentic AI [0.0]
  次元ガバナンスは、意思決定の権威、プロセスの自律性、説明責任(3A)が人間とAIの関係を動的に分散する方法を追跡するフレームワークである。 このアプローチの重要な利点は、主要なガバナンスしきい値に対するシステムの動きを明示的に監視できることです。 我々は、重要な側面、重要な信頼しきい値、厳格な分類のフレームワークがどこで失敗するかを示す実践例を概説する。
  論文  参考訳（メタデータ） (2025-05-16T14:43:12Z)
• Adapting Probabilistic Risk Assessment for AI [0.0]
  汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。 現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。 本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
  論文  参考訳（メタデータ） (2025-04-25T17:59:14Z)
• SYMBIOSIS: Systems Thinking and Machine Intelligence for Better Outcomes in Society [0.0]
  SYMBIOSISはAIを利用したフレームワークとプラットフォームで、システム思考が社会的な課題に対処できるように設計されている。 そこで我々は,複雑なシステム表現を自然言語に変換する生成コパイロットを開発した。 SYMBIOSISは、責任と社会中心のAIに関する将来の研究を解き放つための基礎的なステップとして機能することを目指している。
  論文  参考訳（メタデータ） (2025-03-07T17:07:26Z)
• AI Risk Atlas: Taxonomy and Tooling for Navigating AI Risks and Resources [24.502423087280008]
  AIリスクアトラス(AI Risk Atlas)は、さまざまなソースからAIリスクを統合し、それらをガバナンスフレームワークと整合させる、構造化された分類法である。 私たちはまた、リスク定義、ベンチマーク、データセット、緩和戦略の分割を橋渡しするために設計されたオープンソースのツールのコレクションであるR Risk Atlas Nexusを紹介します。
  論文  参考訳（メタデータ） (2025-02-26T12:23:14Z)
• Multi-Agent Risks from Advanced AI [90.74347101431474]
  先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。 エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。 各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
  論文  参考訳（メタデータ） (2025-02-19T23:03:21Z)
• Safety is Essential for Responsible Open-Ended Systems [47.172735322186]
  オープンエンドレスネス(Open-Endedness)とは、AIシステムが新規で多様なアーティファクトやソリューションを継続的に自律的に生成する能力である。 このポジションペーパーは、Open-Ended AIの本質的に動的で自己伝播的な性質は、重大な、未発見のリスクをもたらすと主張している。
  論文  参考訳（メタデータ） (2025-02-06T21:32:07Z)
• Lessons from complexity theory for AI governance [1.6122472145662998]
  複雑性理論は、政策立案者にとって中心的な課題となるAIの特徴を照らすのに役立つ。 我々は、AI管理の取り組みが深刻な不確実性によってどのように特徴付けられるかを検討する。 我々は,AIガバナンスのタイミングと構造に関して,複雑性に適合する一連の原則を提案する。
  論文  参考訳（メタデータ） (2025-01-07T07:56:40Z)
• Considerations Influencing Offense-Defense Dynamics From Artificial Intelligence [0.0]
  AIは防御能力を向上するだけでなく、悪意ある搾取と大規模な社会的危害のための道も提示する。 本稿では、AIシステムが主に脅威を生じているか、社会に保護的利益をもたらすかに影響を及ぼす主要な要因をマップし、検証するための分類法を提案する。
  論文  参考訳（メタデータ） (2024-12-05T10:05:53Z)
• A Taxonomy of Systemic Risks from General-Purpose AI [2.5956465292067867]
  我々は、システム的リスクを、社会全体や経済に影響を及ぼす大規模な脅威と見なしている。 システム的リスクの主な源は、知識ギャップ、害を認識するための課題、そしてAI開発における予測不可能な軌道から生まれる。 本稿では,汎用AIの大規模負の社会的影響を理解し,対処するための構造的基盤を提供することで,AIの安全性研究に寄与する。
  論文  参考訳（メタデータ） (2024-11-24T22:16:18Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
  生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。 新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。 レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。 この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-23T10:18:10Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• The Transformation Risk-Benefit Model of Artificial Intelligence: Balancing Risks and Benefits Through Practical Solutions and Use Cases [0.0]
  筆者らは「人工知能の変換リスクベネフィットモデル」と呼ばれる新しい枠組みを提案する。 モデルの特徴を利用することで、メリットがリスクを上回る実践的で革新的なソリューションを強調します。
  論文  参考訳（メタデータ） (2024-04-11T19:19:57Z)
• Quantifying AI Vulnerabilities: A Synthesis of Complexity, Dynamical Systems, and Game Theory [0.0]
  システム複雑度指数(SCI)、Lyapunov Exponent for AI stability(LEAIS)、Nash Equilibrium Robustness(NER)の3つの指標を導入する新しいアプローチを提案する。 SCIはAIシステムの固有の複雑さを定量化し、LEAISはその安定性と摂動に対する感受性を捉え、NERは敵の操作に対する戦略的堅牢性を評価する。
  論文  参考訳（メタデータ） (2024-04-07T07:05:59Z)
• Emergent Explainability: Adding a causal chain to neural network inference [0.0]
  本稿では,創発的コミュニケーション(EmCom)による説明可能な人工知能(xAI)の強化のための理論的枠組みを提案する。 我々は、EmComのAIシステムへの新たな統合を探求し、入力と出力の間の従来の連想関係から、より微妙で因果的解釈へのパラダイムシフトを提供する。 本稿は、このアプローチの理論的基盤、潜在的に広い応用、そして、責任と透明なAIシステムに対するニーズの増大と整合性について論じる。
  論文  参考訳（メタデータ） (2024-01-29T02:28:39Z)
• A Framework for Exploring the Consequences of AI-Mediated Enterprise Knowledge Access and Identifying Risks to Workers [3.4568218861862556]
  本稿では、AIを利用した企業知識アクセスシステムから労働者のリスクを特定するためのConsequence-Mechanism-Riskフレームワークを提案する。 我々は、労働者に対するリスクを詳述した幅広い文献を執筆し、労働者の価値、力、幸福に対するリスクを分類した。 今後の作業は、この枠組みを他の技術システムに適用し、労働者や他のグループの保護を促進する可能性がある。
  論文  参考訳（メタデータ） (2023-12-08T17:05:40Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Digital Deception: Generative Artificial Intelligence in Social Engineering and Phishing [7.1795069620810805]
  本稿では,社会工学(SE)攻撃における生成AIの変革的役割について考察する。 我々は、社会工学の理論を用いて、ジェネレーティブAIがSE攻撃の影響を増幅する3つの柱を特定する。 本研究は, この新たなパラダイムに関連するリスク, 人的影響, 対策について, より深く理解することを目的としている。
  論文  参考訳（メタデータ） (2023-10-15T07:55:59Z)
• Predictable Artificial Intelligence [77.1127726638209]
  本稿では予測可能なAIのアイデアと課題を紹介する。 それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
  論文  参考訳（メタデータ） (2023-10-09T21:36:21Z)
• Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
  再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。 現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。 我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
  論文  参考訳（メタデータ） (2020-07-13T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。