論文の概要: From Thinker to Society: Security in Hierarchical Autonomy Evolution of AI Agents
- arxiv url: http://arxiv.org/abs/2603.07496v1
- Date: Sun, 08 Mar 2026 06:45:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-10 15:13:14.691689
- Title: From Thinker to Society: Security in Hierarchical Autonomy Evolution of AI Agents
- Title（参考訳）: 思考から社会へ:AIエージェントの階層的自律進化におけるセキュリティ
- Authors: Xiaolei Zhang, Lu Zhou, Xiaogang Xu, Jiafei Wu, Tianyu Du, Heqing Huang, Hao Peng, Zhe Liu,
- Abstract要約: 本稿では,認知的操作,身体環境の破壊,マルチエージェントシステム障害を対象とする脅威の分類について述べる。
この発見は、信頼できるAIエージェントシステムのための多層自律型防衛アーキテクチャの開発を導くことを目的としている。
- 参考スコア（独自算出の注目度）: 36.1914922430313
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial Intelligence (AI) agents have evolved from passive predictive tools into active entities capable of autonomous decision-making and environmental interaction, driven by the reasoning capabilities of Large Language Models (LLMs). However, this evolution has introduced critical security vulnerabilities that existing frameworks fail to address. The Hierarchical Autonomy Evolution (HAE) framework organizes agent security into three tiers: Cognitive Autonomy (L1) targets internal reasoning integrity; Execution Autonomy (L2) covers tool-mediated environmental interaction; Collective Autonomy (L3) addresses systemic risks in multi-agent ecosystems. We present a taxonomy of threats spanning cognitive manipulation, physical environment disruption, and multi-agent systemic failures, and evaluate existing defenses while identifying key research gaps. The findings aim to guide the development of multilayered, autonomy-aware defense architectures for trustworthy AI agent systems.
- Abstract（参考訳）: 人工知能(AI)エージェントは、受動的予測ツールから、大規模言語モデル(LLM)の推論能力によって駆動される、自律的な意思決定と環境相互作用が可能なアクティブなエンティティへと進化してきた。
しかし、この進化は、既存のフレームワークが対処できない重大なセキュリティ脆弱性を導入している。
階層的自律進化(HAE)フレームワークはエージェントのセキュリティを3つの階層に分類する: 認知的自律(L1)は内部的推論の整合性を目標とし、実行自律(L2)はツールによる環境相互作用をカバーし、集合的自律(L3)はマルチエージェントエコシステムにおけるシステム的リスクに対処する。
本稿では,認知的操作,身体環境の破壊,マルチエージェントのシステム障害を含む脅威の分類について述べる。
この発見は、信頼できるAIエージェントシステムのための多層自律型防衛アーキテクチャの開発を導くことを目的としている。
関連論文リスト
- Human Society-Inspired Approaches to Agentic AI Security: The 4C Framework [19.576189199576053]
この記事では、社会的なガバナンスにインスパイアされたマルチエージェントAIセキュリティのための4Cフレームワークを紹介します。
AIのセキュリティを、システム中心の保護から、行動の完全性と意図のより広範な保存に移行することで、このフレームワークは、既存のAIセキュリティ戦略を補完する。
論文 参考訳（メタデータ） (2026-02-02T10:45:16Z) - Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
AIモデルのコア特性から生じる3つの構造的問題を同定する。
ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
論文 参考訳（メタデータ） (2026-01-15T17:08:26Z) - The Path Ahead for Agentic AI: Challenges and Opportunities [4.52683540940001]
この章では、複雑な環境で自律的に動作するエージェントAIシステムの出現について考察する。
我々は、統計モデルからトランスフォーマーベースのシステムへのアーキテクチャの進歩を辿り、エージェントの振る舞いを可能にする能力を識別する。
既存の調査とは異なり、私たちは、言語理解から自律的な行動へのアーキテクチャの移行に注目し、デプロイ前に解決しなければならない技術的ギャップを強調します。
論文 参考訳（メタデータ） (2026-01-06T06:31:42Z) - A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems [53.37728204835912]
既存のAIシステムは、デプロイ後も静的な手作業による構成に依存している。
近年,インタラクションデータと環境フィードバックに基づいてエージェントシステムを自動拡張するエージェント進化手法が研究されている。
この調査は、自己進化型AIエージェントの体系的な理解を研究者や実践者に提供することを目的としている。
論文 参考訳（メタデータ） (2025-08-10T16:07:32Z) - Web3 x AI Agents: Landscape, Integrations, and Foundational Challenges [49.69200207497795]
Web3テクノロジとAIエージェントの収束は、分散化されたエコシステムを再形成する、急速に進化するフロンティアを表している。
本稿では, ランドスケープ, 経済, ガバナンス, セキュリティ, 信頼メカニズムの5つの重要な側面について, Web3 と AI エージェントの交わりについて, 初めてかつ最も包括的な分析を行った。
論文 参考訳（メタデータ） (2025-08-04T15:44:58Z) - Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems [132.77459963706437]
この本は、モジュール化された脳に触発されたアーキテクチャの中で、インテリジェントなエージェントをフレーミングする、包括的な概要を提供する。
自己向上と適応的な進化のメカニズムを探求し、エージェントが自律的に能力を洗練する方法を探求する。
また、エージェントの相互作用、協力、社会構造から生じる集合的知性についても調べる。
論文 参考訳（メタデータ） (2025-03-31T18:00:29Z) - Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [8.177915265718703]
AIエージェントは、目的を動的に調整する権限を持つべきだ、と私たちは主張する。
私たちは、これらのマルチエージェントAIシステムの創発的で、自己組織化され、コンテキストに配慮した性質へのシフトを呼びかけます。
論文 参考訳（メタデータ） (2025-02-05T22:20:15Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。