論文の概要: Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures
- arxiv url: http://arxiv.org/abs/2604.00081v1
- Date: Tue, 31 Mar 2026 17:25:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:31.669944
- Title: Beyond Symbolic Control: Societal Consequences of AI-Driven Workforce Displacement and the Imperative for Genuine Human Oversight Architectures
- Title（参考訳）: シンボリックコントロールを超えて:AI駆動型ワークフォース変位の社会的コンセプションと、ヒューマン・オーバシック・アーキテクチャーの創出
- Abstract要約: 人工知能(AI)とロボットシステムによる人的労働の移動の加速は、構造的変革を表している。
本稿では,経済構造,心理的幸福,政治的安定,教育,医療,地政学的秩序に対する潜在的影響の多分野的考察を行う。
私たちは、AIシステムの名目上の人間の監視と真の人間の監督との間のガバナンスのギャップという、この移行の批判的かつ過小評価された次元を特定します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The accelerating displacement of human labor by artificial intelligence (AI) and robotic systems represents a structural transformation whose societal consequences extend far beyond conventional labor market analysis. This paper presents a systematic multi-domain examination of the likely effects on economic structure, psychological well-being, political stability, education, healthcare, and geopolitical order. We identify a critical and underexamined dimension of this transition: the governance gap between nominal human oversight of AI systems -- where humans occupy positions of formal authority over AI decisions -- and genuine human oversight, where those humans possess the cognitive access, technical capability, and institutional authority to meaningfully understand, evaluate, and override AI outputs. We argue that this distinction, largely absent from current governance frameworks including the EU AI Act and NIST AI Risk Management Framework 1.0, represents the primary architectural failure mode in deployed AI governance. The societal consequences of labor displacement intensify this problem by concentrating consequential AI decision-making among an increasingly narrow class of technical and capital actors. We propose five architectural requirements for genuine human oversight systems and characterize the governance window -- estimated at 10-15 years -- before current deployment trajectories risk path-dependent social, economic, and institutional lock-in.
- Abstract（参考訳）: 人工知能(AI)とロボットシステムによる人的労働の移動の加速は、社会的な結果が従来の労働市場分析を超えて広がる構造的変化を表している。
本稿では,経済構造,心理的幸福,政治的安定,教育,医療,地政学的秩序に対する潜在的影響の多分野的考察を行う。
AIシステムの名目上の人的監督 – 人間がAI決定に関する正式な権威の立場を占める – と、AIのアウトプットを有意義に理解し、評価し、覆い隠すための認知的アクセス、技術的能力、制度的な権限を持つ真の人的監督 – との間の、ガバナンスのギャップを識別する。
この区別は、EU AI ActやNIST AI Risk Management Framework 1.0など、現在のガバナンスフレームワークにはほとんど欠落している。
労働転職による社会的帰結は、ますます限られた技術的・資本的アクターの集団の中で、連続したAI意思決定に集中させることによってこの問題を強化する。
我々は,真の人的監視システムに対する5つのアーキテクチャ要件を提案し,現在の展開経路が社会的,経済的,制度的ロックインのリスクを負う前に,ガバナンスの窓口(推定10～15年)を特徴付ける。
関連論文リスト
- When Does AI Augment Work? A Workflow-Level Framework for Human-Agent Collaboration [78.16115745870405]
職場における人工知能の価値を特徴付けることを目的としている。
現在の研究は、この価値を、現在の自動化能力とAIの公的な採用の観点から大きく測定している。
これを考慮するためには、今日の微粒化タスクを超えて分析の範囲を広げなければならない。
論文 参考訳（メタデータ） (2026-09-11T06:29:34Z) - The Human-AI Substitution Principle: When will you be replaced by AI in your organization? [1.9927371365552295]
階層型組織におけるヒューマン-AIタスク割り当ての研究のための分析モデルを提案する。
我々は、AIの採用が突然の労働移行、ハイブリッドな人間-AI組織を生み出すことを示している。
この論文は、自動化経済学、組織設計、AIガバナンス、労働計画をAI駆動型組織変革の統一理論に結びつけている。
論文 参考訳（メタデータ） (2026-07-22T23:04:26Z) - Keeping an Eye on AI: A Framework for Effective Human Oversight of AI Systems [46.60248293123689]
本稿では,AIシステムの効果的な人的監視のための実践的枠組みを推し進める。
コンピュータ科学、人間とコンピュータの相互作用、心理学、哲学、法学から洞察を得ている。
論文 参考訳（メタデータ） (2026-04-09T22:35:41Z) - Governing frontier general-purpose AI in the public sector: adaptive risk management and policy capacity under uncertainty through 2030 [0.0]
論文では、フロンティアAIのための公共ガバナンスは、適応的なリスク管理、シナリオ対応の規制、社会技術的変革に基づくべきであると論じている。
政府におけるAIの採用は、組織の監視、公共セクター機関のダイナミクス、データコラボレーション能力にどのように依存するかを調べる。
効果的なAIガバナンスには、より強力なポリシキャパシティ、より明確な責任割り当て、さまざまな技術的未来にわたって堅牢なガバナンスメカニズムが必要である、と結論付けている。
論文 参考訳（メタデータ） (2026-03-16T19:03:26Z) - AI Autonomy Coefficient ($α$): Defining Boundaries for Responsible AI Systems [0.15293427903448018]
現代のAIシステムの統合性は、Human-in-the-Loopモデルの誤用によって損なわれる。
機能独立の定量的レベルを示すためにAIシステムを必要とするAI-First, Human-Empowered(AFHE)パラダイムを導入する。
AFHEは、現代のAIシステムにおいて、検証可能な自律性、透明性、持続的な保守性を保証するためのメトリック駆動型アプローチを提供する、と結論付けています。
論文 参考訳（メタデータ） (2025-12-12T05:41:20Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development [15.701299669203618]
我々は、AI能力の漸進的な改善が、社会が依存する大規模システムに対する人間の影響力を損なうことができるかを分析する。
このダイナミクスは、重要な社会システムに対する人間の影響を効果的に不可逆的に喪失させ、人類の恒久的な分散を通じて、実在する大惨事を引き起こす可能性がある、と我々は主張する。
論文 参考訳（メタデータ） (2025-01-28T13:45:41Z) - Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making [47.33241893184721]
AIによる意思決定において、人間はしばしばAIの提案を受動的にレビューし、それを受け入れるか拒否するかを決定する。
意思決定における人間-AIの意見の対立に関する議論と人間のリフレクションを促進する新しい枠組みであるHuman-AI Deliberationを提案する。
人間の熟考の理論に基づいて、この枠組みは人間とAIを次元レベルの意見の引用、熟考的議論、意思決定の更新に携わる。
論文 参考訳（メタデータ） (2024-03-25T14:34:06Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Examining the Differential Risk from High-level Artificial Intelligence
and the Question of Control [0.0]
将来のAI能力の範囲と範囲は、依然として重要な不確実性である。
AIの不透明な意思決定プロセスの統合と監視の程度には懸念がある。
本研究では、AIリスクをモデル化し、代替先分析のためのテンプレートを提供する階層的な複雑なシステムフレームワークを提案する。
論文 参考訳（メタデータ） (2022-11-06T15:46:02Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳（メタデータ） (2022-06-08T12:32:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。