論文の概要: Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures

• arxiv url: http://arxiv.org/abs/2604.00081v1
• Date: Tue, 31 Mar 2026 17:25:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:31.669944
• Title: Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures
• Title（参考訳）: シンボリックコントロールを超えて:AI駆動型ワークフォース変位の社会的コンセプションと、ヒューマン・オーバシック・アーキテクチャーの創出
• Authors: Richard J. Mitchell,
• Abstract要約: 人工知能(AI)とロボットシステムによる人的労働の移動の加速は、構造的変革を表している。 本稿では,経済構造,心理的幸福,政治的安定,教育,医療,地政学的秩序に対する潜在的影響の多分野的考察を行う。 私たちは、AIシステムの名目上の人間の監視と真の人間の監督との間のガバナンスのギャップという、この移行の批判的かつ過小評価された次元を特定します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The accelerating displacement of human labor by artificial intelligence (AI) and robotic systems represents a structural transformation whose societal consequences extend far beyond conventional labor market analysis. This paper presents a systematic multi-domain examination of the likely effects on economic structure, psychological well-being, political stability, education, healthcare, and geopolitical order. We identify a critical and underexamined dimension of this transition: the governance gap between nominal human oversight of AI systems -- where humans occupy positions of formal authority over AI decisions -- and genuine human oversight, where those humans possess the cognitive access, technical capability, and institutional authority to meaningfully understand, evaluate, and override AI outputs. We argue that this distinction, largely absent from current governance frameworks including the EU AI Act and NIST AI Risk Management Framework 1.0, represents the primary architectural failure mode in deployed AI governance. The societal consequences of labor displacement intensify this problem by concentrating consequential AI decision-making among an increasingly narrow class of technical and capital actors. We propose five architectural requirements for genuine human oversight systems and characterize the governance window -- estimated at 10-15 years -- before current deployment trajectories risk path-dependent social, economic, and institutional lock-in.
• Abstract（参考訳）: 人工知能(AI)とロボットシステムによる人的労働の移動の加速は、社会的な結果が従来の労働市場分析を超えて広がる構造的変化を表している。 本稿では,経済構造,心理的幸福,政治的安定,教育,医療,地政学的秩序に対する潜在的影響の多分野的考察を行う。 AIシステムの名目上の人的監督 – 人間がAI決定に関する正式な権威の立場を占める – と、AIのアウトプットを有意義に理解し、評価し、覆い隠すための認知的アクセス、技術的能力、制度的な権限を持つ真の人的監督 – との間の、ガバナンスのギャップを識別する。 この区別は、EU AI ActやNIST AI Risk Management Framework 1.0など、現在のガバナンスフレームワークにはほとんど欠落している。 労働転職による社会的帰結は、ますます限られた技術的・資本的アクターの集団の中で、連続したAI意思決定に集中させることによってこの問題を強化する。 我々は,真の人的監視システムに対する5つのアーキテクチャ要件を提案し,現在の展開経路が社会的,経済的,制度的ロックインのリスクを負う前に,ガバナンスの窓口(推定10～15年)を特徴付ける。

関連論文リスト

• AI Autonomy Coefficient ($α$): Defining Boundaries for Responsible AI Systems [0.15293427903448018]
  現代のAIシステムの統合性は、Human-in-the-Loopモデルの誤用によって損なわれる。 機能独立の定量的レベルを示すためにAIシステムを必要とするAI-First, Human-Empowered(AFHE)パラダイムを導入する。 AFHEは、現代のAIシステムにおいて、検証可能な自律性、透明性、持続的な保守性を保証するためのメトリック駆動型アプローチを提供する、と結論付けています。
  論文  参考訳（メタデータ） (2025-12-12T05:41:20Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development [15.701299669203618]
  我々は、AI能力の漸進的な改善が、社会が依存する大規模システムに対する人間の影響力を損なうことができるかを分析する。 このダイナミクスは、重要な社会システムに対する人間の影響を効果的に不可逆的に喪失させ、人類の恒久的な分散を通じて、実在する大惨事を引き起こす可能性がある、と我々は主張する。
  論文  参考訳（メタデータ） (2025-01-28T13:45:41Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Examining the Differential Risk from High-level Artificial Intelligence and the Question of Control [0.0]
  将来のAI能力の範囲と範囲は、依然として重要な不確実性である。 AIの不透明な意思決定プロセスの統合と監視の程度には懸念がある。 本研究では、AIリスクをモデル化し、代替先分析のためのテンプレートを提供する階層的な複雑なシステムフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-06T15:46:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。