論文の概要: A Three-Pillar Governance Framework for Safe and Trustworthy AI Agents
- arxiv url: http://arxiv.org/abs/2610.30445v1
- Date: Wed, 21 Oct 2026 20:55:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.13726
- Title: A Three-Pillar Governance Framework for Safe and Trustworthy AI Agents
- Title（参考訳）: 安全で信頼できるAIエージェントのための3つの柱ガバナンスフレームワーク
- Abstract要約: 本稿では,安全で信頼性の高いAIエージェントを開発するための3ピラー(3P)モデルとフレームワークを提案する。
これは、プログレッシブ・バリデーション、構造化された人間の監視、監査可能な操作制御を通じて、エージェントの自律性を高める進化経路を定義する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents capable of autonomous decision-making introduce significant challenges related to safety, alignment, accountability, and human oversight. Existing Human-in-the-Loop (HITL) and responsible AI approaches provide important foundations, but many remain fragmented across system design, governance, and operational deployment. This paper presents a Three-Pillar (3P) model and framework for developing safe and trustworthy AI agents through transparency, accountability, and trustworthiness. The framework defines an evolutionary path in which increasing agent autonomy is introduced through progressive validation, structured human oversight, and auditable operational controls. We further describe how the model supports agent lifecycle monitoring, decision traceability, escalation management, and human-agent collaboration within enterprise agentic environments. By integrating oversight principles with operational mechanisms, the proposed framework provides a practical foundation for deploying AI agents that remain aligned with human intent while enabling controlled progression toward higher autonomy.
- Abstract（参考訳）: 自律的な意思決定が可能なAIエージェントは、安全性、アライメント、説明責任、人間の監視に関する重要な課題を導入します。
既存のHuman-in-the-Loop(HITL)と責任あるAIアプローチは重要な基盤を提供するが、その多くはシステム設計、ガバナンス、運用デプロイメントで断片化されている。
本稿では,透明性,説明責任,信頼性を通じて,安全で信頼性の高いAIエージェントを開発するための3ピラー(3P)モデルとフレームワークを提案する。
このフレームワークは、プログレッシブ・バリデーション、構造化された人間の監視、監査可能な操作制御を通じてエージェントの自律性を高める進化経路を定義する。
さらに,エージェントライフサイクルモニタリング,意思決定のトレーサビリティ,エスカレーション管理,企業エージェント環境における人間とエージェントのコラボレーションをサポートする方法について述べる。
監視の原則と運用メカニズムを統合することで、提案されたフレームワークは、より高い自律性に向けて制御された進歩を可能にしながら、人間の意図に整合したままのAIエージェントをデプロイするための実践的な基盤を提供する。
関連論文リスト
- Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - From Assistance to Agency: Rethinking Autonomy and Control in CI/CD Pipelines [0.0]
本稿では,エージェント型継続的インテグレーションと継続的デプロイメント(CI/CD)のビジョンについて述べる。
研究のプロトタイプと産業用プラットフォームに基づいて,現状のシステムは,主に有界自律型データプレーンで運用されていることを示す。
制約付き自律性を支配的な設計として、外部ガバナンスを主要な安全メカニズムとして、デプロイメントのモーメントと評価方法論のギャップを広げる3つのパターンを特定します。
論文 参考訳（メタデータ） (2026-05-08T00:15:43Z) - Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks [46.32011684548212]
AIエージェントは間接的なプロンプトインジェクションに対して脆弱であり、信頼できないデータに埋め込まれた悪意のある命令は危険なエージェントアクションを引き起こす可能性がある。
本稿では,間接的インジェクション攻撃に対するシステムレベルの防御の展望について論じる。
論文 参考訳（メタデータ） (2026-03-31T17:15:46Z) - Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
AIモデルのコア特性から生じる3つの構造的問題を同定する。
ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
論文 参考訳（メタデータ） (2026-01-15T17:08:26Z) - Toward Safe and Responsible AI Agents: A Three-Pillar Model for Transparency, Accountability, and Trustworthiness [0.0]
本稿では,安全で信頼性の高いAIエージェントを開発し,運用するための概念的かつ運用的なフレームワークを提案する。
このフレームワークは、透明性、説明責任、信頼性を基礎とした三柱モデルに基づいている。
論文 参考訳（メタデータ） (2026-01-09T07:27:43Z) - A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems [53.37728204835912]
既存のAIシステムは、デプロイ後も静的な手作業による構成に依存している。
近年,インタラクションデータと環境フィードバックに基づいてエージェントシステムを自動拡張するエージェント進化手法が研究されている。
この調査は、自己進化型AIエージェントの体系的な理解を研究者や実践者に提供することを目的としている。
論文 参考訳（メタデータ） (2025-08-10T16:07:32Z) - Web3 x AI Agents: Landscape, Integrations, and Foundational Challenges [49.69200207497795]
Web3テクノロジとAIエージェントの収束は、分散化されたエコシステムを再形成する、急速に進化するフロンティアを表している。
本稿では, ランドスケープ, 経済, ガバナンス, セキュリティ, 信頼メカニズムの5つの重要な側面について, Web3 と AI エージェントの交わりについて, 初めてかつ最も包括的な分析を行った。
論文 参考訳（メタデータ） (2025-08-04T15:44:58Z) - LLM Agents Should Employ Security Principles [60.03651084139836]
本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。
AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
論文 参考訳（メタデータ） (2025-05-29T21:39:08Z) - Agentic Business Process Management: Practitioner Perspectives on Agent Governance in Business Processes [0.7270112855088837]
生成AIの台頭に伴い、ソフトウェアエージェントへの産業的関心が高まりつつある。
本稿では,組織がAIエージェントを効果的に管理する方法を検討する。
AIエージェントの採用に責任を負う6つの重要な推奨事項を概説している。
論文 参考訳（メタデータ） (2025-03-23T20:15:24Z) - Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。
進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
論文 参考訳（メタデータ） (2025-03-12T21:39:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。