論文の概要: Solipsistic Superintelligence is Unlikely to be Cooperative
- arxiv url: http://arxiv.org/abs/2606.03237v1
- Date: Tue, 02 Jun 2026 06:54:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.816963
- Title: Solipsistic Superintelligence is Unlikely to be Cooperative
- Title（参考訳）: ソリプシック超知能は協力的であるのとは対照的である
- Authors: Rakshit S Trivedi, Natasha Jaques, Logan Cross, Alexander Sasha Vezhnevets, Joel Z Leibo,
- Abstract要約: 極めて有能なタスク解決ツールである超知能は協調的ではないと我々は主張する。
我々は、相互依存を中核的な設計原則として扱う非ソリプシックな研究パラダイムを提唱する。
- 参考スコア（独自算出の注目度）: 48.65947679109806
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI's central challenge is shifting from capability to coexistence. The dominant paradigm in AI research focuses on developing powerful agents that treat the world as an exogenous and stationary source of feedback. We contend that superintelligence, an extremely capable task solver, born out of such a solipsistic approach to AI design, is unlikely to be cooperative. Deploying AI systems induces endogenous non-stationarity, resulting in a train-test-deploy gap where historical distributions diverge from the deployment context. We refer to this as the self-undermining property of unilateral optimization. Closing this gap requires AI that participates in cooperation: the equilibrium-selection process through which multiple actors navigate their interdependence. We call for a non-solipsistic research paradigm that treats this interdependence as a core design principle rather than approaching cooperation as a task to solve. This entails building dynamic evaluation testbeds involving adaptive counterparties, treating institutions as design primitives, and preserving human agency as a structural feature of the systems we build.
- Abstract（参考訳）: AIの主な課題は、能力から共存へとシフトすることだ。
AI研究における支配的なパラダイムは、世界を外生的かつ定常的なフィードバック源として扱う強力なエージェントの開発に焦点を当てている。
このようなAI設計に対するソリプシックなアプローチから生まれた、極めて有能なタスク問題解決者である超知能は、協力的ではない、と我々は主張する。
AIシステムのデプロイは、内在的な非定常性を誘導し、結果として、履歴分布がデプロイメントコンテキストから分岐する列車-テスト-デプロイギャップが生じる。
これを片側最適化の自己定義特性と呼ぶ。
このギャップを閉じるには、複数のアクターが相互依存関係をナビゲートする平衡選択プロセスという、協力に参加するAIが必要です。
我々は、この相互依存を解決すべき課題として協力にアプローチするのではなく、中核的な設計原則として扱う非脂質研究パラダイムを提唱する。
これには、適応的な組み合わせを含む動的評価テストベッドの構築、設計プリミティブとしての制度の扱い、構築するシステムの構造的特徴としての人間機関の保存が含まれます。
関連論文リスト
- Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems [65.90791804095561]
マルチエージェントシステムは、特殊エージェント間の構造化された協調を通じてこの問題に対処するが、より厳密な調整は、あまり検討されていないリスクを増幅する。
既存の調査では、個々のエージェント能力、マルチエージェントのコラボレーション、エージェントの自己進化を別々にカバーしている。
この調査は4つの因果関係のあるステージを中心にまとめられた統一されたレビューを提供する。これはLIFEの進展(Lay the capabilities foundation)、協力によるエージェントの統合、帰属による障害の発見、自律的な自己改善によるEvolveである。
論文 参考訳（メタデータ） (2026-05-14T14:36:13Z) - AI+HW 2035: Shaping the Next Decade [135.53570243498987]
人工知能(AI)とハードウェア(HW)は前例のない速度で進歩している。
このビジョンペーパーは、AI+HWの共同設計と共同開発のための10年間のロードマップをレイアウトし、アルゴリズム、アーキテクチャ、システム、持続可能性にまたがる。
主要な課題と機会を特定し、潜在的な障害や落とし穴を効果的に評価し、統合されたソリューションを提案する。
論文 参考訳（メタデータ） (2026-03-05T14:36:33Z) - From Agentification to Self-Evolving Agentic AI for Wireless Networks: Concepts, Approaches, and Future Research Directions [70.72279728350763]
自律進化型エージェント人工知能(AI)は、将来の無線システムに新しいパラダイムを提供する。
静的AIモデルとは異なり、自己進化エージェントは、モデルやツールを更新し、環境ダイナミクスに対応する自律進化サイクルを組み込む。
本稿では,自己進化型エージェントAIの概要を概説し,その階層化アーキテクチャ,ライフサイクル,鍵となる技術について述べる。
論文 参考訳（メタデータ） (2025-10-07T05:45:25Z) - The Collaboration Paradox: Why Generative AI Requires Both Strategic Intelligence and Operational Stability in Supply Chain Management [0.0]
経済環境における自律的、AI駆動エージェントの台頭は、その突発的な戦略行動に関する批判的な疑問を提起する。
本稿では,複数エケロン系サプライチェーンの協調的文脈におけるこれらのダイナミクスについて検討する。
私たちの中心的な発見は、"コラボレーションパラドックス"(colaboration paradox)です。これは、理論上優れた協調AIエージェントが非AIベースラインよりもさらにパフォーマンスが劣る、新しい、破滅的な障害モードです。
論文 参考訳（メタデータ） (2025-08-19T15:31:23Z) - A Unified Framework for Human AI Collaboration in Security Operations Centers with Trusted Autonomy [10.85035493967822]
本稿では,セキュリティ・オペレーション・センター(SOC)におけるヒューマン・AI連携のための構造化された枠組みについて述べる。
我々は,手動から完全自律までの5段階のAI自律性に基づく,新しい自律型フレームワークを提案する。
これにより、監視、保護、脅威検出、警告トリアージ、インシデント応答を含む、コアSOC関数間の適応的で説明可能なAI統合が可能になる。
論文 参考訳（メタデータ） (2025-05-29T12:35:08Z) - Modeling AI-Human Collaboration as a Multi-Agent Adaptation [0.0]
タスクの関数としてAIと人間のコラボレーションを形式化するエージェントベースのシミュレーションを開発する。
モジュラータスクでは、AIが人間の代わりになることが多いことを示します。
また、記憶や構造が欠如している「幻覚的」AIでさえ、ローカルオプティマから逃れることによって、低能力な人間を増強することで、結果を改善することも示しています。
論文 参考訳（メタデータ） (2025-04-29T16:19:53Z) - Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [8.177915265718703]
AIエージェントは、目的を動的に調整する権限を持つべきだ、と私たちは主張する。
私たちは、これらのマルチエージェントAIシステムの創発的で、自己組織化され、コンテキストに配慮した性質へのシフトを呼びかけます。
論文 参考訳（メタデータ） (2025-02-05T22:20:15Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。