論文の概要: Reframing AGI Confrontation with Off Earth Autonomy

• arxiv url: http://arxiv.org/abs/2606.30666v1
• Date: Thu, 18 Jun 2026 10:25:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 07:26:11.05892
• Title: Reframing AGI Confrontation with Off Earth Autonomy
• Title（参考訳）: オフアース・オートノミーによるAGIコンファレンス
• Abstract要約: 一般的なAI安全物語は、有能なエージェントが力を求め、シャットダウンに抵抗し、それゆえ人間と対決する傾向があるというものである。 この結論は、しばしば暗黙的に地球中心の戦略的な風景で引き起こされる。 我々は、早期の協力が対決を自律への道として支配し、また地球を戦略的拘束力を弱めることによって対決のインセンティブを減らすことができることを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A common AI-safety narrative holds that sufficiently capable agents will predictably seek power, resist shutdown, and therefore tend toward confrontation with humans. We argue that this conclusion is often drawn in an implicitly Earth-centered strategic landscape. If a credible off-Earth autonomy pathway exists - i.e., a staged transition from Earth dependence to an autonomous machine industrial base - then confrontation is not the only route to reducing human control. Using Saklakov's decision-theoretic 'confrontation question' as an anchor, we provide a qualitative mapping from the autonomy pathway to key model terms showing that early cooperation can dominate confrontation as a path to autonomy, and that the autonomy pathway can reduce confrontation incentives by making Earth less strategically binding. We discuss how this incentive shift interacts with feedback-loop dynamics between human preemption and agent behavior, and outline implications for governance: under incentive-compatible early cooperation, a more stable, higher-observability regime can support iterative oversight and cooperative alignment.
• Abstract（参考訳）: 一般的なAI安全物語では、十分な能力を持つエージェントが力を求め、シャットダウンに抵抗し、従って人間と対立する傾向にある。 この結論は、しばしば暗黙的に地球中心の戦略的な風景で引き起こされる。 地球外での信頼できる自律経路、すなわち地球依存から自律的な機械産業基地への段階的な移行が存在する場合、対決は人間の制御を減らす唯一の方法ではない。 Saklakovの意思決定論的な「対立問題」をアンカーとして、我々は、早期の協力が対決を自律への道として支配し、自律的な経路は地球を戦略的拘束力を弱めることによって対決のインセンティブを減らすことができることを示す、自律的な経路から重要なモデル用語への定性的なマッピングを提供する。 このインセンティブシフトが、人間のプリエンプションとエージェントの行動の間のフィードバックループのダイナミクスとどのように相互作用するかを議論し、インセンティブ互換の早期協力の下では、より安定した高可観測性体制が反復的監視と協調的調整を支援することができる。

関連論文リスト

• Solipsistic Superintelligence is Unlikely to be Cooperative [48.65947679109806]
  極めて有能なタスク解決ツールである超知能は協調的ではないと我々は主張する。 我々は、相互依存を中核的な設計原則として扱う非ソリプシックな研究パラダイムを提唱する。
  論文  参考訳（メタデータ） (2026-06-02T06:54:55Z)
• Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research [2.5609468301546485]
  オープンエンドアクショントラジェクトリが可能なエージェントシステムは、人間とAIのコラボレーションに構造的不確実性をもたらす。 チーム状況認識(Team situation Awareness, チームSA)理論は、共有された認識が一度達成されれば、反復的な更新を通じて協調された行動をサポートすると仮定する。 まず、オープン・エンド・エージェンシーの下で、人間とAIの両方の認識を再認識するためにTeam SAを拡張します。 第二に、リレーショナルインタラクション、認知学習、調整と制御において、伝統的にチームの安定化を前提とした動的なプロセスが、適応的な自律の下で機能し続けるかどうかを問う。
  論文  参考訳（メタデータ） (2026-03-05T02:40:42Z)
• Rationale Behind Human-Led Autonomous Truck Platooning [1.7609347893867413]
  人間のループ小隊アーキテクチャは階層的冗長性、不確実な条件での適応的判断、スケーラブルな検証フレームワークを提供する、と我々は主張する。 人間の手による小隊は妥協を表すのではなく、技術的に根拠と社会的に整合した橋を大規模に自律的な貨物配備に向けて提供する。
  論文  参考訳（メタデータ） (2026-03-01T23:02:51Z)
• A Human-Oriented Cooperative Driving Approach: Integrating Driving Intention, State, and Conflict [50.983743505985956]
  我々は,より自然で効果的な人間-車間相互作用を確立するために,Human-Oriented Cooperative Driving (HOCD) アプローチを提案する。 実装においては、シームレスな人車連携を確保するため、戦術レベルと運用レベルを考慮に入れます。 他の協調運転法と比較して,提案手法は運転性能を著しく向上し,人間と機械の衝突を緩和する。
  論文  参考訳（メタデータ） (2025-12-29T05:51:00Z)
• Towards adaptive trajectories for mixed autonomous and human-operated ships [1.7218973692320518]
  私たちは自動運転車の台頭を目の当たりにしています。 本研究は、自律船と人体船の軌道予測と適応の課題について詳述する。
  論文  参考訳（メタデータ） (2024-09-19T12:38:19Z)
• PPAD: Iterative Interactions of Prediction and Planning for End-to-end Autonomous Driving [57.89801036693292]
  PPAD(Iterative Interaction of Prediction and Planning Autonomous Driving)は、予測と計画のより良い統合を目的とした、タイムステップワイドなインタラクションである。 我々は,階層的動的キーオブジェクトに着目したego-to-agent,ego-to-map,ego-to-BEVインタラクション機構を設計し,インタラクションをモデル化する。
  論文  参考訳（メタデータ） (2023-11-14T11:53:24Z)
• Model-Based Reinforcement Learning with Isolated Imaginations [61.67183143982074]
  モデルに基づく強化学習手法であるIso-Dream++を提案する。 我々は、切り離された潜在的想像力に基づいて政策最適化を行う。 これにより、野生の混合力学源を孤立させることで、長い水平振動子制御タスクの恩恵を受けることができる。
  論文  参考訳（メタデータ） (2023-03-27T02:55:56Z)
• When to Ask for Help: Proactive Interventions in Autonomous Reinforcement Learning [57.53138994155612]
  強化学習の長期的な目標は、世界で自律的に対話し学習できるエージェントを設計することである。 重要な課題は、ロボットアームが物体をテーブルから押し出したときなど、外部からの援助を必要とする不可逆状態の存在である。 本研究では,非可逆状態の検出と回避を効率よく学習し,エージェントが侵入した場合に積極的に支援を求めるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-10-19T17:57:24Z)
• Isolating and Leveraging Controllable and Noncontrollable Visual Dynamics in World Models [65.97707691164558]
  Iso-DreamはDream-to-Controlフレームワークを2つの側面で改善する。 まず、逆動力学を最適化することにより、世界モデルに制御可能で制御不能な情報源を学習させることを奨励する。 第2に、エージェントの挙動を世界モデルの切り離された潜在的想像力に最適化する。
  論文  参考訳（メタデータ） (2022-05-27T08:07:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。