論文の概要: AGI, Governments, and Free Societies

• arxiv url: http://arxiv.org/abs/2503.05710v2
• Date: Thu, 13 Mar 2025 16:15:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-14 17:08:08.246585
• Title: AGI, Governments, and Free Societies
• Title（参考訳）: AGI、政府、自由社会
• Authors: Justin B. Bullock, Samuel Hammond, Seb Krier,
• Abstract要約: 我々は、AGIが社会を「専制的レヴィアサン」または「従属レヴィアサン」に向かわせるという明確なリスクを生んでいると論じる。 これらのダイナミクスが3つの重要なチャネルを通してどのように展開できるかを分析します。 AGIによる国家の能力増強は、前例のない監視と統制を可能にし、権威主義的な慣行を定着させる可能性がある。 逆に、非国家アクターへのAGI機能の急速な拡散は、国家の正当性と統治性を損なう可能性がある。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper examines how artificial general intelligence (AGI) could fundamentally reshape the delicate balance between state capacity and individual liberty that sustains free societies. Building on Acemoglu and Robinson's 'narrow corridor' framework, we argue that AGI poses distinct risks of pushing societies toward either a 'despotic Leviathan' through enhanced state surveillance and control, or an 'absent Leviathan' through the erosion of state legitimacy relative to AGI-empowered non-state actors. Drawing on public administration theory and recent advances in AI capabilities, we analyze how these dynamics could unfold through three key channels: the automation of discretionary decision-making within agencies, the evolution of bureaucratic structures toward system-level architectures, and the transformation of democratic feedback mechanisms. Our analysis reveals specific failure modes that could destabilize liberal institutions. Enhanced state capacity through AGI could enable unprecedented surveillance and control, potentially entrenching authoritarian practices. Conversely, rapid diffusion of AGI capabilities to non-state actors could undermine state legitimacy and governability. We examine how these risks manifest differently at the micro level of individual bureaucratic decisions, the meso level of organizational structure, and the macro level of democratic processes. To preserve the narrow corridor of liberty, we propose a governance framework emphasizing robust technical safeguards, hybrid institutional designs that maintain meaningful human oversight, and adaptive regulatory mechanisms.
• Abstract（参考訳）: 本稿では,自由社会を支える国家の能力と個人の自由の微妙なバランスを,人工知能(AGI)が根本的に再構築する方法について検討する。 我々は、アセモグルとロビンソンの「狭い回廊」の枠組みに基づいて、AGIは国家の監視と統制の強化を通じて社会を「専制的レヴィアサン」へ向かわせる、あるいはAGIを動力とする非国家アクターに対する国家の正当性の侵食によって「無所属レヴィアサン」へ向かわせるという明確なリスクを生んでいると論じる。 公共行政理論と最近のAI能力の進歩に基づいて、これらのダイナミクスが3つの主要なチャネルを通じてどのように展開されるかを分析する。 我々の分析は、リベラルな制度を不安定にできる特定の障害モードを明らかにしている。 AGIによる国家の能力増強は、前例のない監視と統制を可能にし、権威主義的な慣行を定着させる可能性がある。 逆に、非国家アクターへのAGI機能の急速な拡散は、国家の正当性と統治性を損なう可能性がある。 これらのリスクが、個々の官僚的決定のミクロレベル、組織構造のメソレベル、民主的プロセスのマクロレベルにおいてどのように異なるかを検討する。 自由の狭い回廊を維持するために,ロバストな技術的保護,有意義な人間の監視を維持するハイブリッドな制度設計,適応的な規制機構を強調するガバナンスフレームワークを提案する。

関連論文リスト

• Dial E for Ethical Enforcement: institutional VETO power as a governance primitive [16.505918019260964]
  この論文は、軍事利用に最も脆弱なコミュニティはガバナンス設計を導く必要があると主張している。 機関の拒否権は、象徴的な保護を強制的な責任に変換するための前提条件であると主張している。
  論文  参考訳（メタデータ） (2026-02-28T12:18:55Z)
• The Digital Gorilla: Rebalancing Power in the Age of AI [0.0]
  第4条では、このようなシステムを第4の社会的アクターとして扱うことにより、AIガバナンスの概念的基盤を提供する。 このフレームワークは、これらのアクター間の5つのパワーモダリティ間の電力の流れをマッピングするフォー・ソシエタル・アクター・フレームワークを開発している。 連邦化され多中心的なガバナンスアーキテクチャを推進し、動的チェックとバランスを制度化する。
  論文  参考訳（メタデータ） (2026-02-23T17:46:54Z)
• How should AI knowledge be governed? Epistemic authority, structural transparency, and the case for open cognitive graphs [10.759885069667066]
  本稿では,教育AIを公共教育認知基盤として再認識する。 ガバナンス条件へのアクセスに注意を移すことで、提案されたフレームワークは、教育AIと民主的な説明責任と公共の責任を整合させる構造的アプローチを提供する。
  論文  参考訳（メタデータ） (2026-02-18T23:27:01Z)
• Democracy-in-Silico: Institutional Design as Alignment in AI-Governed Polities [2.1485350418225244]
  デモクラシー・イン・シリコ(Democracy-in-Silico)は、先進的なAIエージェントの社会が異なる制度の枠組みの下で自らを統治するエージェントベースのシミュレーションである。 我々は、大規模言語モデル(LLM)を課題とし、外傷性記憶、隠れた議題、心理的トリガーを持つエージェントを具現化することによって、AI時代の人間であることの意味を探求する。 我々は、エージェントが公共福祉よりも自らの権限を優先する不整合行動の定量化を目的として、新しい指標であるPPI(Power-Preservation Index)を提案する。
  論文  参考訳（メタデータ） (2025-08-27T04:44:41Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
  行政における人工知能の利用は急速に拡大している。 AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。 この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
  論文  参考訳（メタデータ） (2025-05-02T07:46:41Z)
• A Framework for the Private Governance of Frontier Artificial Intelligence [0.0]
  本稿では,ハイブリッド・パブリック・プライベート・システムによるフロンティアAIシステムのガバナンスについて提案する。 政府によって認可され、監督される民間機関は、オプトインベースでフロンティアAIシステムの開発者に認証を提供する。 オプトインと引き換えに、フロンティアAI企業は、顧客のモデル誤用に対するトルト責任から保護を受ける。
  論文  参考訳（メタデータ） (2025-04-15T02:56:26Z)
• Transfeminist AI Governance [0.0]
  記事は、トランスフェミニストレンズを通して人工知能(AI)のガバナンスを再想像する。 トランスフェミニストとフェミニストの倫理理論に基づいて、トランスフェミニストのAIガバナンスへのアプローチを紹介します。
  論文  参考訳（メタデータ） (2025-03-19T20:25:59Z)
• Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
  本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。 進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-03-12T21:39:38Z)
• AI and the Transformation of Accountability and Discretion in Urban Governance [1.9152655229960793]
  この論文は、人間の裁量を再配置し、特定のタイプの説明責任を再形成するAIの可能性を強調している。 責任あるAI採用のためのフレームワークを推進し、都市のガバナンスが適応的で透明性があり、パブリックな価値と一致し続けることを保証します。
  論文  参考訳（メタデータ） (2025-02-18T18:11:39Z)
• Decentralized Governance of Autonomous AI Agents [0.0]
  ETHOSは、ブロックチェーン、スマートコントラクト、分散自律組織(DAO)など、Web3テクノロジを活用する分散ガバナンス(DeGov)モデルである。 AIエージェントのグローバルレジストリを確立し、動的リスク分類、比例監視、自動コンプライアンス監視を可能にする。 合理性、倫理的根拠、ゴールアライメントの哲学的原則を統合することで、ETHOSは信頼、透明性、参加的ガバナンスを促進するための堅牢な研究アジェンダを作ることを目指している。
  論文  参考訳（メタデータ） (2024-12-22T18:01:49Z)
• Toward Democracy Levels for AI [4.048639768405042]
  我々は、あるドメインにおける決定が民主的に行われる程度を評価するための「民主主義レベル」フレームワークを提供する。 このフレームワークは (i) 民主的なAI、多元的AI、および公的なAIエコシステムのロードマップで定義するために、 (ii) 難しいAIガバナンスの質問に対する意思決定の正当性を高める必要がある組織を指導するために、 (iii) AI組織を評価して責任を負うことを目指す人々による粗悪品として使用することができる。
  論文  参考訳（メタデータ） (2024-11-14T06:37:45Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Do Responsible AI Artifacts Advance Stakeholder Goals? Four Key Barriers Perceived by Legal and Civil Stakeholders [59.17981603969404]
  責任あるAI(RAI)コミュニティは、透明性を促進し、AIシステムのガバナンスをサポートするために、多数のプロセスとアーティファクトを導入している。 我々は、責任あるAI活動に関する政策と擁護を通知する19の政府、法律、市民社会の利害関係者と半構造化されたインタビューを行う。 我々は、これらの信念を4つの障壁にまとめて、RAIアーティファクトが(必然的に)市民社会、政府、産業間での権力関係を再構成する方法を説明する。
  論文  参考訳（メタデータ） (2024-08-22T00:14:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Both eyes open: Vigilant Incentives help Regulatory Markets improve AI Safety [69.59465535312815]
  Regulatory Markets for AIは、適応性を考慮して設計された提案である。 政府はAI企業が達成すべき結果に基づく目標を設定する必要がある。 我々は、規制市場がこの目標を達成するのを阻止するインセンティブについて、非常に簡単に対応できることを警告する。
  論文  参考訳（メタデータ） (2023-03-06T14:42:05Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance [0.0]
  AIシステムの開発と利用を目標とする,AIガバナンスフレームワークを提案する。 このフレームワークは、AIシステムをデプロイする組織が倫理的AI原則を実践に翻訳するのを助けるように設計されている。
  論文  参考訳（メタデータ） (2022-06-01T08:55:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。