論文の概要: Distributional AGI Safety

• arxiv url: http://arxiv.org/abs/2512.16856v1
• Date: Thu, 18 Dec 2025 18:29:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-19 18:10:32.208273
• Title: Distributional AGI Safety
• Title（参考訳）: 配電AGIの安全性
• Authors: Nenad Tomašev, Matija Franklin, Julian Jacobs, Sébastien Krier, Simon Osindero,
• Abstract要約: 我々は、このパッチワークAGI仮説を真剣に検討する必要があると論じる。 本稿では,個々のエージェントの評価・調整を超えて,分散AGI安全のためのフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 8.680471071138017
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI safety and alignment research has predominantly been focused on methods for safeguarding individual AI systems, resting on the assumption of an eventual emergence of a monolithic Artificial General Intelligence (AGI). The alternative AGI emergence hypothesis, where general capability levels are first manifested through coordination in groups of sub-AGI individual agents with complementary skills and affordances, has received far less attention. Here we argue that this patchwork AGI hypothesis needs to be given serious consideration, and should inform the development of corresponding safeguards and mitigations. The rapid deployment of advanced AI agents with tool-use capabilities and the ability to communicate and coordinate makes this an urgent safety consideration. We therefore propose a framework for distributional AGI safety that moves beyond evaluating and aligning individual agents. This framework centers on the design and implementation of virtual agentic sandbox economies (impermeable or semi-permeable), where agent-to-agent transactions are governed by robust market mechanisms, coupled with appropriate auditability, reputation management, and oversight to mitigate collective risks.
• Abstract（参考訳）: AIの安全性とアライメントの研究は、主に個々のAIシステムを保護する方法に焦点を当てており、最終的にはモノリシックな人工知能(AGI)の出現を前提としている。 代替のAGI出現仮説では、補助的なスキルと余裕を持つAGIサブエージェントのグループの調整によって、一般能力レベルが最初に現れるが、はるかに注目されていない。 ここでは、このパッチワークAGI仮説を真剣に検討し、対応する保護と緩和の進展を知らせる必要があると論じる。 ツール使用能力とコミュニケーションとコーディネート能力を備えた高度なAIエージェントの迅速な展開により、これは緊急の安全上の考慮事項となる。 そこで我々は,個々のエージェントの評価・調整を超えて,分散AGI安全性の枠組みを提案する。 この枠組みは、エージェント・ツー・エージェント・トランザクションがロバストな市場メカニズムによって管理され、適切な監査可能性、評価管理、集団的リスクを軽減するために監督される仮想エージェント・サンドボックス・エコノミー(透過性または半透過性)の設計と実装に焦点を当てている。

関連論文リスト

• Adaptation of Agentic AI [162.63072848575695]
  我々は、急速に拡大する研究環境を、エージェント適応とツール適応の両方にまたがる体系的な枠組みに統一する。 エージェントAIにおける適応戦略の設計空間を明らかにする上で,本フレームワークが有効であることを示す。 次に、各カテゴリの代表的アプローチをレビューし、その強みと限界を分析し、主要なオープン課題と今後の機会を強調します。
  論文  参考訳（メタデータ） (2025-12-18T08:38:51Z)
• AURA: An Agent Autonomy Risk Assessment Framework [0.0]
  AURA(Agent aUtonomy Risk Assessment)はエージェントAIによるリスクの検出、定量化、緩和を目的とした統合されたフレームワークである。 AURAは、1つまたは複数のAIエージェントを同期的に、あるいは非同期に実行するリスクをスコアし、評価し、緩和するインタラクティブなプロセスを提供する。 AURAはエージェントAIの責任と透過性をサポートし、計算リソースのバランスを保ちながら、堅牢なリスク検出と緩和を提供する。
  論文  参考訳（メタデータ） (2025-10-17T15:30:29Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• LLM Agents Should Employ Security Principles [60.03651084139836]
  本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T21:39:08Z)
• A Novel Zero-Trust Identity Framework for Agentic AI: Decentralized Authentication and Fine-Grained Access Control [7.228060525494563]
  本稿では,Agentic AI IAMフレームワークの提案について述べる。 リッチで検証可能なエージェント識別子(ID)に基づく包括的フレームワークを提案する。 また、Zero-Knowledge Proofs(ZKPs)によって、プライバシ保護属性の開示と検証可能なポリシーコンプライアンスを実現する方法について検討する。
  論文  参考訳（メタデータ） (2025-05-25T20:21:55Z)
• Safeguarding AI Agents: Developing and Analyzing Safety Architectures [0.0]
  本稿では,人間チームと連携するAIシステムにおける安全対策の必要性について論じる。 我々は,AIエージェントシステムにおける安全プロトコルを強化する3つのフレームワークを提案し,評価する。 これらのフレームワークはAIエージェントシステムの安全性とセキュリティを大幅に強化することができると結論付けている。
  論文  参考訳（メタデータ） (2024-09-03T10:14:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。