論文の概要: How to Detect and Measure the AI Dangers to Democracy
- arxiv url: http://arxiv.org/abs/2606.16054v1
- Date: Sun, 14 Jun 2026 22:59:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.00873
- Title: How to Detect and Measure the AI Dangers to Democracy
- Title（参考訳）: 民主主義に対するAIの危険性の検出と測定方法
- Abstract要約: 本稿では,AIの民主的制御の中心的条件として,制度的評価性に着目した分析的枠組みを提案する。
AIをデリゲート問題として扱うことは、説明責任ギャップやその他のガバナンスの失敗を特定するのに役立つ。
我々は、危害がどれほど深刻で、どの程度のリスクが受け入れられるかは、現在の方法論が承認も運用もしない評価的判断である、と強調する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Research on artificial intelligence and democracy has grown quickly over the last decade. A shared conclusion in this literature is that AI does not create new democratic problems so much as it makes old ones worse. We now see this across information ecosystems, in elections, and in public administration. However, despite growing evidence, we lack a clear way to prioritize risks in this area, compare them across domains, and identify where democratic control is most likely to break down. So, our problem is: How can we systematize the problems that AI systems pose to democratic processes? This paper argues that principal agent theory may fit the task. In many phases of democratic systems, principals delegate key functions to AI systems and their providers without really being able to monitor how these systems operate or the outputs they produce. Treating AI as a delegation problem helps identify accountability gaps and other governance failures. Most importantly, as we shall illustrate, it provides metrics for empirical assessments of AI impact on democracy. As a second analytical element, we draw on the NIST AI Risk Management Framework and its seven characteristics of trustworthy AI, which supply substantive criteria for evaluating delegated tasks. Operationalized across the three domains through measurable indicators and domain specific trustworthiness criteria, we propose an analytical framework that centers on institutional assessability as the central condition for democratic control over AI. However, we stress that how severe a harm is, and how much risk is acceptable, are evaluative judgments that current methodologies neither acknowledge nor operationalize. This becomes acute when such evaluative judgments are (silently) delegated to private vendors. We identify this as a strong limitation left for future work.
- Abstract（参考訳）: 人工知能と民主主義の研究はこの10年間で急速に成長してきた。
この文献で共通する結論は、AIは古いものを悪化させるほど、新しい民主的な問題を創出しないということだ。
今では、情報エコシステム、選挙、行政など、さまざまな分野にまたがっている。
しかし、証拠の増大にもかかわらず、この領域のリスクを優先順位付けし、ドメイン間で比較し、民主的な支配が崩壊する可能性が最も高い場所を特定する明確な方法が欠けている。
では、私たちの問題は、AIシステムが民主的プロセスにもたらす問題をどうやって体系化できるのか、ということです。
本稿では、主エージェント理論がその課題に適合するかもしれないと論じる。
民主的なシステムの多くの段階において、プリンシパルはAIシステムとそのプロバイダに重要な機能を委譲する。
AIをデリゲート問題として扱うことは、説明責任ギャップやその他のガバナンスの失敗を特定するのに役立つ。
最も重要なのは、私たちが説明するように、AIが民主主義に与える影響を実証的に評価するための指標を提供することです。
第2の分析要素として、NIST AI Risk Management Frameworkとその信頼性の高いAIの7つの特徴を取り上げ、委任されたタスクを評価するための実体的基準を提供する。
測定可能な指標と領域固有の信頼性基準によって3つの領域にわたって運用され、我々は、AIの民主的制御の中心的条件としての制度的評価性に焦点を当てた分析的枠組みを提案する。
しかし、我々は、被害がどれほど深刻で、どの程度のリスクが受け入れられるかは、現在の方法論が認識も運用もできない評価的判断である、と強調する。
このような評価的判断が民間ベンダーに(サイレントに)委譲されると、これは急激になる。
私たちはこれを、将来の作業に残された強力な制限であると認識しています。
関連論文リスト
- Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Reciprocal Trust and Distrust in Artificial Intelligence Systems: The Hard Problem of Regulation [0.0]
記事は、AIシステムは、ある形態のエージェンシーを実行することができるアーティファクトとして認識されるべきである、と論じている。
この研究は、AIシステムの監視を担当する規制当局に対して、これらの相互信頼のダイナミクスがもたらす意味を考察する。
論文 参考訳（メタデータ） (2026-04-07T12:57:16Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Aligning Trustworthy AI with Democracy: A Dual Taxonomy of Opportunities and Risks [26.916552909766118]
本稿では、AIと民主主義の複雑な関係を評価するための二重分類法を提案する。
AIRD分類法は、AIが自律性、公正性、信頼といった中核的な民主主義の原則を台無しにする方法を特定する。
AIPD分類は、透明性、参加、効率、エビデンスに基づく政策決定を強化するAIの可能性を強調している。
論文 参考訳（メタデータ） (2025-05-19T10:51:08Z) - Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
行政における人工知能の利用は急速に拡大している。
AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。
この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
論文 参考訳（メタデータ） (2025-05-02T07:46:41Z) - Democratic AI is Possible. The Democracy Levels Framework Shows How It Might Work [10.45161883458636]
このポジションペーパーでは、事実上「AIを民主化する」には、民主的なガバナンスとAIの整合性が必要だと論じている。
私たちは、民主的なAIが今後どうなるかを探るため、"民主主義レベル"フレームワークと関連するツールを提供しています。
論文 参考訳（メタデータ） (2024-11-14T06:37:45Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - Aligning AI with Public Values: Deliberation and Decision-Making for Governing Multimodal LLMs in Political Video Analysis [48.14390493099495]
AIモデルが政治的トピックにどう対処すべきかは議論されているが、依然として困難であり、より優れたガバナンスが必要である。
本稿では、政治的に敏感なビデオを中心に、個人的および集団的な議論を通じて、大規模言語モデルのガバナンスについて検討する。
論文 参考訳（メタデータ） (2024-09-15T03:17:38Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - Never trust, always verify : a roadmap for Trustworthy AI? [12.031113181911627]
我々はAIベースのシステムのコンテキストにおける信頼を検証し、AIシステムが信頼に値するものとなることの意味を理解する。
我々は、AIに対する信頼(resp. zero-trust)モデルを提案し、AIシステムの信頼性を保証するために満足すべき特性のセットを提案する。
論文 参考訳（メタデータ） (2022-06-23T21:13:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。