論文の概要: Policy myopia as a mechanism of gradual disempowerment in Post-AGI governance, Circa 2049

• arxiv url: http://arxiv.org/abs/2603.03267v1
• Date: Tue, 03 Mar 2026 18:54:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-04 21:38:10.939152
• Title: Policy myopia as a mechanism of gradual disempowerment in Post-AGI governance, Circa 2049
• Title（参考訳）: ポストAGI統治における段階的分散のメカニズムとしての政策ミオピア,2049年
• Authors: Subramanyam Sahoo,
• Abstract要約: ポストAGI情報システムは、資源割り当てへの有意義な参加から人間を取り除く方法で、制度が決定を下す方法を変える。 我々は、政策ミオピアは、注意管理の貧弱な症状ではなく、不可逆的な人的分散を生み出すメカニズムであることを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-AGI information systems won't merely distract governance from important problems. They will systematically transform how institutions make decisions in ways that progressively remove humans from meaningful participation in resource allocation. We show that policy myopia -- the tendency to prioritize visible crises over invisible structural risks -- is not a symptom of poor attention management but a mechanism producing irreversible human disempowerment. Through three entangled mechanisms (salience capture displaces consequentialist reasoning, capacity cascade makes recovery structurally infeasible, value lock-in crystallizes outdated preferences), policy myopia couples with institutional dynamics to create a self-reinforcing equilibrium where human disempowerment becomes the rational outcome of institutional optimization. We formalize these mechanisms through coupled dynamical systems modeling and demonstrate through numerical simulation that these mechanisms operate simultaneously across economic, political, and cultural systems, amplifying each other through feedback loops.}
• Abstract（参考訳）: ポストAGI情報システムは、ガバナンスを重要な問題から逸脱させるものではない。 彼らは組織的に、資源割り当てへの有意義な参加から人間を段階的に取り除く方法で、組織が決定を下す方法を変えます。 政策ミオピアは、目に見えない構造的リスクよりも目に見える危機を優先する傾向にあり、注意管理の貧弱な兆候ではなく、不可逆的な人的分散を生み出すメカニズムであることを示している。 3つの絡み合ったメカニズム(サリエンスキャプチャーは連続的推論に取って代わるが、キャパシティ・カスケードはリカバリを構造的に不可能にし、値ロックインは時代遅れの好みを結晶化する)を通じて、政策ミオピアは制度的な力学と結合し、人間の分散が制度最適化の合理的な結果となる自己強化均衡を形成する。 結合力学系モデリングによりこれらのメカニズムを定式化し、これらのメカニズムが経済的、政治的、文化的システムにわたって同時に機能し、フィードバックループを通じて相互に増幅されることを数値シミュレーションにより実証する。 ※

関連論文リスト

• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance [0.0]
  リスクベースのAI規制は、予想される損害に対応する比例制御を約束する。 本稿では、そのようなフレームワークは構造上の理由から失敗することが多いと論じる。 我々は,規制を制御ではなく介入として扱う,AIガバナンスのための複雑性ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-14T14:19:21Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Situationally-Aware Dynamics Learning [57.698553219660376]
  隠れ状態表現のオンライン学習のための新しいフレームワークを提案する。 提案手法は、非観測パラメータが遷移力学と報酬構造の両方に与える影響を明示的にモデル化する。 シミュレーションと実世界の両方の実験は、データ効率、ポリシー性能、安全で適応的なナビゲーション戦略の出現を著しく改善した。
  論文  参考訳（メタデータ） (2025-05-26T06:40:11Z)
• AGI, Governments, and Free Societies [0.0]
  我々は、AGIが社会を「専制的レヴィアサン」または「従属レヴィアサン」に向かわせるという明確なリスクを生んでいると論じる。 これらのダイナミクスが3つの重要なチャネルを通してどのように展開できるかを分析します。 AGIによる国家の能力増強は、前例のない監視と統制を可能にし、権威主義的な慣行を定着させる可能性がある。 逆に、非国家アクターへのAGI機能の急速な拡散は、国家の正当性と統治性を損なう可能性がある。
  論文  参考訳（メタデータ） (2025-02-14T03:55:38Z)
• Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development [15.701299669203618]
  我々は、AI能力の漸進的な改善が、社会が依存する大規模システムに対する人間の影響力を損なうことができるかを分析する。 このダイナミクスは、重要な社会システムに対する人間の影響を効果的に不可逆的に喪失させ、人類の恒久的な分散を通じて、実在する大惨事を引き起こす可能性がある、と我々は主張する。
  論文  参考訳（メタデータ） (2025-01-28T13:45:41Z)
• Emergence of human-like polarization among large language model agents [79.96817421756668]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence [0.0]
  本稿では,複雑なシステム研究を基盤としたフレームワークを導入することにより,構造リスクの概念を推し進める。 構造リスクを、先行する構造的原因、先行するAIシステム原因、有害なフィードバックループの3つのカテゴリに分類する。 本稿では,これらのダイナミクスを予測し,支配するために,シナリオマッピング,シミュレーション,探索的展望を取り入れた方法論的アジェンダを提案する。
  論文  参考訳（メタデータ） (2024-06-21T05:44:50Z)
• Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
  可塑性の喪失は複数の独立したメカニズムに分解できることを示す。 種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
  論文  参考訳（メタデータ） (2024-02-29T00:02:33Z)
• Pessimism meets VCG: Learning Dynamic Mechanism Design via Offline Reinforcement Learning [114.36124979578896]
  オフライン強化学習アルゴリズムを用いて動的メカニズムを設計する。 我々のアルゴリズムは悲観主義の原理に基づいており、オフラインデータセットのカバレッジについて軽度な仮定しか必要としない。
  論文  参考訳（メタデータ） (2022-05-05T05:44:26Z)
• Multiscale Governance [0.0]
  ヒトデミクスは、異なるシステムを結ぶ経路のために伝播する。 システムの脆弱性や堅牢性は、この複雑なシステムのネットワークがどのように管理されているかによって異なります。
  論文  参考訳（メタデータ） (2021-04-06T19:23:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。