論文の概要: Policy myopia as a mechanism of gradual disempowerment in Post-AGI governance, Circa 2049

• arxiv url: http://arxiv.org/abs/2603.03267v1
• Date: Tue, 03 Mar 2026 18:54:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-04 21:38:10.939152
• Title: Policy myopia as a mechanism of gradual disempowerment in Post-AGI governance, Circa 2049
• Title（参考訳）: ポストAGI統治における段階的分散のメカニズムとしての政策ミオピア,2049年
• Abstract要約: ポストAGI情報システムは、資源割り当てへの有意義な参加から人間を取り除く方法で、制度が決定を下す方法を変える。 我々は、政策ミオピアは、注意管理の貧弱な症状ではなく、不可逆的な人的分散を生み出すメカニズムであることを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-AGI information systems won't merely distract governance from important problems. They will systematically transform how institutions make decisions in ways that progressively remove humans from meaningful participation in resource allocation. We show that policy myopia -- the tendency to prioritize visible crises over invisible structural risks -- is not a symptom of poor attention management but a mechanism producing irreversible human disempowerment. Through three entangled mechanisms (salience capture displaces consequentialist reasoning, capacity cascade makes recovery structurally infeasible, value lock-in crystallizes outdated preferences), policy myopia couples with institutional dynamics to create a self-reinforcing equilibrium where human disempowerment becomes the rational outcome of institutional optimization. We formalize these mechanisms through coupled dynamical systems modeling and demonstrate through numerical simulation that these mechanisms operate simultaneously across economic, political, and cultural systems, amplifying each other through feedback loops.}
• Abstract（参考訳）: ポストAGI情報システムは、ガバナンスを重要な問題から逸脱させるものではない。 彼らは組織的に、資源割り当てへの有意義な参加から人間を段階的に取り除く方法で、組織が決定を下す方法を変えます。 政策ミオピアは、目に見えない構造的リスクよりも目に見える危機を優先する傾向にあり、注意管理の貧弱な兆候ではなく、不可逆的な人的分散を生み出すメカニズムであることを示している。 3つの絡み合ったメカニズム(サリエンスキャプチャーは連続的推論に取って代わるが、キャパシティ・カスケードはリカバリを構造的に不可能にし、値ロックインは時代遅れの好みを結晶化する)を通じて、政策ミオピアは制度的な力学と結合し、人間の分散が制度最適化の合理的な結果となる自己強化均衡を形成する。 結合力学系モデリングによりこれらのメカニズムを定式化し、これらのメカニズムが経済的、政治的、文化的システムにわたって同時に機能し、フィードバックループを通じて相互に増幅されることを数値シミュレーションにより実証する。 ※

関連論文リスト

• Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges [87.04241991512386]
  本稿では、報酬ハッキングを理解するための統一フレームワークとして、PCH(Proxy Compression hypothesis)を提案する。 この観点では、報酬のハッキングは、客観的圧縮、最適化増幅、評価器-政治共適応の相互作用から生じる。 この視点は、RLHF、RLAIF、RLVR体制をまたいだ経験的現象を統一し、局所的ショートカット学習がより広範な誤認識へと一般化する方法について説明している。
  論文  参考訳（メタデータ） (2026-04-15T08:11:34Z)
• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• Stability of AI Governance Systems: A Coupled Dynamics Model of Public Trust and Social Disruptions [0.49157446832511503]
  本稿では,離散時間ホークスプロセスを統合する厳密な結合力学モデルを提案する。 信頼の低下はその後の論争の激しさを増幅する。 数値実験により、エコーチャンバーネットワーク構造とメディア増幅がガバナンスの失敗を加速する方法が明らかにされた。
  論文  参考訳（メタデータ） (2026-03-10T12:24:30Z)
• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance [0.0]
  リスクベースのAI規制は、予想される損害に対応する比例制御を約束する。 本稿では、そのようなフレームワークは構造上の理由から失敗することが多いと論じる。 我々は,規制を制御ではなく介入として扱う,AIガバナンスのための複雑性ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-14T14:19:21Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Situationally-Aware Dynamics Learning [57.698553219660376]
  隠れ状態表現のオンライン学習のための新しいフレームワークを提案する。 提案手法は、非観測パラメータが遷移力学と報酬構造の両方に与える影響を明示的にモデル化する。 シミュレーションと実世界の両方の実験は、データ効率、ポリシー性能、安全で適応的なナビゲーション戦略の出現を著しく改善した。
  論文  参考訳（メタデータ） (2025-05-26T06:40:11Z)
• AGI, Governments, and Free Societies [0.0]
  我々は、AGIが社会を「専制的レヴィアサン」または「従属レヴィアサン」に向かわせるという明確なリスクを生んでいると論じる。 これらのダイナミクスが3つの重要なチャネルを通してどのように展開できるかを分析します。 AGIによる国家の能力増強は、前例のない監視と統制を可能にし、権威主義的な慣行を定着させる可能性がある。 逆に、非国家アクターへのAGI機能の急速な拡散は、国家の正当性と統治性を損なう可能性がある。
  論文  参考訳（メタデータ） (2025-02-14T03:55:38Z)
• Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development [15.701299669203618]
  我々は、AI能力の漸進的な改善が、社会が依存する大規模システムに対する人間の影響力を損なうことができるかを分析する。 このダイナミクスは、重要な社会システムに対する人間の影響を効果的に不可逆的に喪失させ、人類の恒久的な分散を通じて、実在する大惨事を引き起こす可能性がある、と我々は主張する。
  論文  参考訳（メタデータ） (2025-01-28T13:45:41Z)
• Emergence of human-like polarization among large language model agents [79.96817421756668]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence [0.0]
  本稿では,複雑なシステム研究を基盤としたフレームワークを導入することにより,構造リスクの概念を推し進める。 構造リスクを、先行する構造的原因、先行するAIシステム原因、有害なフィードバックループの3つのカテゴリに分類する。 本稿では,これらのダイナミクスを予測し,支配するために,シナリオマッピング,シミュレーション,探索的展望を取り入れた方法論的アジェンダを提案する。
  論文  参考訳（メタデータ） (2024-06-21T05:44:50Z)
• Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
  可塑性の喪失は複数の独立したメカニズムに分解できることを示す。 種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
  論文  参考訳（メタデータ） (2024-02-29T00:02:33Z)
• Pessimism meets VCG: Learning Dynamic Mechanism Design via Offline Reinforcement Learning [114.36124979578896]
  オフライン強化学習アルゴリズムを用いて動的メカニズムを設計する。 我々のアルゴリズムは悲観主義の原理に基づいており、オフラインデータセットのカバレッジについて軽度な仮定しか必要としない。
  論文  参考訳（メタデータ） (2022-05-05T05:44:26Z)
• Multiscale Governance [0.0]
  ヒトデミクスは、異なるシステムを結ぶ経路のために伝播する。 システムの脆弱性や堅牢性は、この複雑なシステムのネットワークがどのように管理されているかによって異なります。
  論文  参考訳（メタデータ） (2021-04-06T19:23:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。