論文の概要: From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design

• arxiv url: http://arxiv.org/abs/2606.17286v1
• Date: Mon, 15 Jun 2026 20:50:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-17 17:15:32.140784
• Title: From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design
• Title（参考訳）: 民主主義からオートクラシーへ:AIシステムはいかにして設計による権威主義を可能にするか
• Authors: Jeba Sania, Marta Ziosi, Fazl Barez,
• Abstract要約: 米国から中国まで、さまざまな政治体制に展開されている6つのAIシステムのライフサイクルをマップします。 我々は,法執行及び政治的処罰のための行政データの中央集権化と共同利用を可能とした。 また、中央集権的なAIシステムと断片化されたAIシステムは、ガバナンスのギャップを活用することによって、権威主義に寄与する。
• 参考スコア（独自算出の注目度）: 8.539323348149509
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-enabled authoritarianism is not confined to autocracies. In this paper, we provide greater transparency by investigating and mapping the lifecycles of six AI systems deployed in different political regimes, ranging from the US to China. By drawing on an extensive range of sources (academic publications, investigative research reports, third-party evaluations, media interviews, government procurement notices), we conduct a systematic, qualitative comparison across systems to identify the critical technical and operational features that enable authoritarianism within their respective political contexts. We find that enabling features include the centralization and co-optation of administrative data for law enforcement and political punishment, regulatory gaps that fail to deter misuse, weak user compliance that nullifies human oversight mechanisms, and the encoding of protected group traits that identify members of vulnerable populations. We find that these features are present across systems deployed in autocratic and democratic regimes, albeit in varying configurations. We also find that both centralized and fragmented AI systems can contribute to authoritarianism by exploiting governance gaps: centralized systems directed by executive authorities, particularly within security and military institutions, are often not subjected to formal oversight mechanisms, while fragmented systems diffuse accountability between stakeholders, paving the way for entrenchment. These findings reveal that AI-enabled authoritarianism is distributed, resulting from design and operational choices made by developers, administrators, and users alike. We conclude with recommendations for developers and policymakers to mitigate these risks.
• Abstract（参考訳）: AI対応の権威主義は専制政治に限らない。 本稿では,米国から中国に至るまで,さまざまな政治体制に展開されている6つのAIシステムのライフサイクルを調査し,マッピングすることで,透明性を高める。 学術出版物、調査研究報告、第三者の評価、メディアインタビュー、政府の調達通知など、幅広い情報源に基づいて、我々は、それぞれの政治状況の中で権威主義を可能にする重要な技術的・運用的特徴を特定するために、システム間で体系的に質的な比較を行う。 我々は,法執行機関と政治的処罰のための行政データの集中化と共同最適化,不正使用を抑えることのできない規制のギャップ,人間の監視機構を無効にするユーザコンプライアンスの弱さ,脆弱な集団のメンバーを識別する保護されたグループ特性の符号化などを実現する。 これらの機能は、さまざまな構成にもかかわらず、独裁的かつ民主的な体制で展開されたシステムにまたがって存在していることが分かっています。 また、中央集権的なAIシステムと断片化されたAIシステムは、ガバナンスギャップを活用することによって、権威主義に寄与する。行政当局が指揮する中央集権的なシステム、特にセキュリティや軍事機関は、しばしば正式な監視機構に従わないが、断片化されたシステムはステークホルダー間で説明責任を分散させ、エントレメントへの道を開く。 これらの結果は,開発者や管理者,ユーザなどによる設計と運用上の選択から,AI対応の権威主義が分散していることを示している。 開発者や政策立案者に対して、これらのリスクを軽減するための勧告で締めくくります。

関連論文リスト

• How to Detect and Measure the AI Dangers to Democracy [0.0]
  本稿では,AIの民主的制御の中心的条件として,制度的評価性に着目した分析的枠組みを提案する。 AIをデリゲート問題として扱うことは、説明責任ギャップやその他のガバナンスの失敗を特定するのに役立つ。 我々は、危害がどれほど深刻で、どの程度のリスクが受け入れられるかは、現在の方法論が承認も運用もしない評価的判断である、と強調する。
  論文  参考訳（メタデータ） (2026-06-14T22:59:50Z)
• Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
  本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。 本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。 我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
  論文  参考訳（メタデータ） (2026-02-12T12:52:49Z)
• Democracy-in-Silico: Institutional Design as Alignment in AI-Governed Polities [2.1485350418225244]
  デモクラシー・イン・シリコ(Democracy-in-Silico)は、先進的なAIエージェントの社会が異なる制度の枠組みの下で自らを統治するエージェントベースのシミュレーションである。 我々は、大規模言語モデル(LLM)を課題とし、外傷性記憶、隠れた議題、心理的トリガーを持つエージェントを具現化することによって、AI時代の人間であることの意味を探求する。 我々は、エージェントが公共福祉よりも自らの権限を優先する不整合行動の定量化を目的として、新しい指標であるPPI(Power-Preservation Index)を提案する。
  論文  参考訳（メタデータ） (2025-08-27T04:44:41Z)
• A Moral Agency Framework for Legitimate Integration of AI in Bureaucracies [0.0]
  公務員官僚は人工知能(AI)の恩恵を享受しようとする 本稿では,官僚構造におけるAIの合法的な統合のための3点のモラルエージェンシー・フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-11T17:49:19Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
  本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。 進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-03-12T21:39:38Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Aligning AI with Public Values: Deliberation and Decision-Making for Governing Multimodal LLMs in Political Video Analysis [48.14390493099495]
  AIモデルが政治的トピックにどう対処すべきかは議論されているが、依然として困難であり、より優れたガバナンスが必要である。 本稿では、政治的に敏感なビデオを中心に、個人的および集団的な議論を通じて、大規模言語モデルのガバナンスについて検討する。
  論文  参考訳（メタデータ） (2024-09-15T03:17:38Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。