論文の概要: The Accountability Horizon: An Impossibility Theorem for Governing Human-Agent Collectives

• arxiv url: http://arxiv.org/abs/2604.07778v1
• Date: Thu, 09 Apr 2026 04:08:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-10 18:34:05.685808
• Title: The Accountability Horizon: An Impossibility Theorem for Governing Human-Agent Collectives
• Title（参考訳）: アカウンタビリティ・ホライゾン:人文集団を統治する不合理理論
• Authors: Haileleol Tibebu,
• Abstract要約: AIシステム、法的、倫理的、規制に関する既存の説明責任フレームワークは、共有された前提に基づいている。 本稿では,エージェントAIシステムが計算可能なしきい値を超えた数学的必要条件として,この仮定に違反していることを証明する。 我々は,エージェントを国家政治としてモデル化する共同AIシステムの形式化であるHuman-Agent Collectivesを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing accountability frameworks for AI systems, legal, ethical, and regulatory, rest on a shared assumption: for any consequential outcome, at least one identifiable person had enough involvement and foresight to bear meaningful responsibility. This paper proves that agentic AI systems violate this assumption not as an engineering limitation but as a mathematical necessity once autonomy exceeds a computable threshold. We introduce Human-Agent Collectives, a formalisation of joint human-AI systems where agents are modelled as state-policy tuples within a shared structural causal model. Autonomy is characterised through a four-dimensional information-theoretic profile (epistemic, executive, evaluative, social); collective behaviour through interaction graphs and joint action spaces. We axiomatise legitimate accountability through four minimal properties: Attributability (responsibility requires causal contribution), Foreseeability Bound (responsibility cannot exceed predictive capacity), Non-Vacuity (at least one agent bears non-trivial responsibility), and Completeness (all responsibility must be fully allocated). Our central result, the Accountability Incompleteness Theorem, proves that for any collective whose compound autonomy exceeds the Accountability Horizon and whose interaction graph contains a human-AI feedback cycle, no framework can satisfy all four properties simultaneously. The impossibility is structural: transparency, audits, and oversight cannot resolve it without reducing autonomy. Below the threshold, legitimate frameworks exist, establishing a sharp phase transition. Experiments on 3,000 synthetic collectives confirm all predictions with zero violations. This is the first impossibility result in AI governance, establishing a formal boundary below which current paradigms remain valid and above which distributed accountability mechanisms become necessary.
• Abstract（参考訳）: 既存のAIシステム、法的、倫理的、規制のアカウンタビリティフレームワークは、共有された仮定に基づいています。 本稿では,エージェントAIシステムが工学的限界ではなく,自律性が計算可能なしきい値を超えたときの数学的必要条件として,この仮定に違反していることを証明する。 エージェントを共有構造因果モデル内で州立タプルとしてモデル化する,共同型ヒューマンAIシステムの形式化であるヒューマンエージェント集合体を紹介する。 自律性は、4次元の情報理論プロファイル(認識、実行、評価、社会的)を通して特徴づけられる。 帰属可能性(責任は因果的貢献を必要とする)、予見可能性境界(責任は予測能力を超えることはできない)、非空白性(少なくとも1つのエージェントが非自明な責任を負う)、完全性(すべての責任は全責任を割り当てなければならない)である。 我々の中心的な成果である説明責任不完全性理論(Accountability Incompleteness Theorem)は、複合的な自律性がAccountability Horizonを超え、相互作用グラフが人間とAIのフィードバックサイクルを含んでいる集団に対して、同時に4つの特性をすべて満たすフレームワークが存在しないことを証明している。 透明性、監査、監視は、自律性を損なうことなく解決することはできません。 しきい値の下には、正当なフレームワークが存在し、急激なフェーズ移行を確立します。 3000の合成集合体の実験は、全ての予測をゼロ違反で確認した。 これはAIガバナンスにおける最初の不可能な結果であり、現在のパラダイムが有効であることと、その上で分散アカウンタビリティメカニズムが必要なことの下の正式な境界を確立する。

関連論文リスト

• Position: Human-Centric AI Requires a Minimum Viable Level of Human Understanding [26.14684888478043]
  本稿では、透明性、ユーザコントロール、リテラシー、ガバナンスに対する一般的なアプローチは、人間が持続的なAIデリゲートの下で監視し続けなければならないという基本的な理解を定義していない、と論じる。 これを形式化するために、認知統合閾値(CIT)を、AI支援下での監視、自律性、説明責任な参加を維持するために必要な最小限の理解として定義する。
  論文  参考訳（メタデータ） (2026-01-31T18:37:33Z)
• Fluid Agency in AI Systems: A Case for Functional Equivalence in Copyright, Patent, and Tort [0.31061678033205636]
  現代の人工知能(AI)システムには、人間の意識や能力が欠如している。 流体機関は貴重な出力を生成するが、帰属は崩壊する。 本条では,機能的等価性だけが教義を安定させると主張している。
  論文  参考訳（メタデータ） (2026-01-06T01:06:07Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Computational Irreducibility as the Foundation of Agency: A Formal Model Connecting Undecidability to Autonomous Behavior in Complex Systems [0.0]
  我々は正確な数学的つながりを確立し 真に自律的なシステムに対して その将来の行動に関する疑問は 基本的に決定不可能であることを証明します この発見は、人工知能、生物学的モデリング、そして自由意志のような哲学的概念に重大な影響を及ぼす。
  論文  参考訳（メタデータ） (2025-05-05T21:24:50Z)
• Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
  行政における人工知能の利用は急速に拡大している。 AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。 この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
  論文  参考訳（メタデータ） (2025-05-02T07:46:41Z)
• Stochastic, Dynamic, Fluid Autonomy in Agentic AI: Implications for Authorship, Inventorship, and Liability [0.2209921757303168]
  エージェントAIシステムは、暗黙の学習を通じて戦略を適応し、自律的に目標を追求する。 人間と機械の貢献は、相互に絡み合った創造的なプロセスに不可避的に絡まってしまう。 法律と政策の枠組みは、人間と機械の貢献を機能的に同等に扱う必要があるかもしれないと我々は主張する。
  論文  参考訳（メタデータ） (2025-04-05T04:44:59Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。