論文の概要: On the Regulatory Potential of User Interfaces for AI Agent Governance
- arxiv url: http://arxiv.org/abs/2512.00742v1
- Date: Sun, 30 Nov 2025 05:32:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-02 19:46:34.391847
- Title: On the Regulatory Potential of User Interfaces for AI Agent Governance
- Title（参考訳）: AIエージェントガバナンスのためのユーザインタフェースの制御可能性について
- Authors: K. J. Kevin Feng, Tae Soo Kim, Rock Yuren Pang, Faria Huq, Tal August, Amy X. Zhang,
- Abstract要約: 本稿では,透明性と行動要求を強制する手段として,AIエージェントのユーザインタフェースの規制を提案する。
エージェントとエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別するために,22のエージェントシステムを分析した。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
- 参考スコア（独自算出の注目度）: 27.951021158233587
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents that take actions in their environment autonomously over extended time horizons require robust governance interventions to curb their potentially consequential risks. Prior proposals for governing AI agents primarily target system-level safeguards (e.g., prompt injection monitors) or agent infrastructure (e.g., agent IDs). In this work, we explore a complementary approach: regulating user interfaces of AI agents as a way of enforcing transparency and behavioral requirements that then demand changes at the system and/or infrastructure levels. Specifically, we analyze 22 existing agentic systems to identify UI elements that play key roles in human-agent interaction and communication. We then synthesize those elements into six high-level interaction design patterns that hold regulatory potential (e.g., requiring agent memory to be editable). We conclude with policy recommendations based on our analysis. Our work exposes a new surface for regulatory action that supplements previous proposals for practical AI agent governance.
- Abstract（参考訳）: 長期的地平線を越えて環境内で自律的に行動するAIエージェントは、潜在的に関連するリスクを抑制するために、堅牢なガバナンス介入を必要とする。
AIエージェントを管理するための以前の提案は、主にシステムレベルのセーフガード(例えば、インジェクションモニタ)やエージェントインフラストラクチャ(例えば、エージェントID)をターゲットにしている。
本研究では,AIエージェントのユーザインターフェースを透過性と行動要求を強制する手段として規制し,システムやインフラストラクチャレベルでの変化を要求する,補完的なアプローチについて検討する。
具体的には、22のエージェントシステムを分析し、人間とエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別する。
次に、これらの要素を規制ポテンシャルを保持する6つのハイレベルな相互作用設計パターンに合成する(例えば、エージェントメモリを編集する必要がある)。
我々は分析に基づいて政策勧告を締結する。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
関連論文リスト
- A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems [53.37728204835912]
既存のAIシステムは、デプロイ後も静的な手作業による構成に依存している。
近年,インタラクションデータと環境フィードバックに基づいてエージェントシステムを自動拡張するエージェント進化手法が研究されている。
この調査は、自己進化型AIエージェントの体系的な理解を研究者や実践者に提供することを目的としている。
論文 参考訳（メタデータ） (2025-08-10T16:07:32Z) - Agentic Web: Weaving the Next Web with AI Agents [109.13815627467514]
大規模言語モデル(LLM)を活用したAIエージェントの出現は、エージェントWebに対する重要な転換点である。
このパラダイムでは、エージェントが直接対話して、ユーザに代わって複雑なタスクを計画、コーディネート、実行します。
本稿では,エージェントWebの理解と構築のための構造化フレームワークを提案する。
論文 参考訳（メタデータ） (2025-07-28T17:58:12Z) - Levels of Autonomy for AI Agents [9.324309359500198]
エージェントの自律性のレベルは、その能力と運用環境とは別に、意図的な設計上の決定として扱うことができると論じる。
エージェントと対話する際の役割を特徴とし,エージェントの自律性を高める5つのレベルを定義した。
シングルエージェントおよびマルチエージェントシステムにおけるエージェントの動作を管理するために、AI自律性証明書に対する私たちのフレームワークの潜在的な応用を強調します。
論文 参考訳（メタデータ） (2025-06-14T12:14:36Z) - SAGA: A Security Architecture for Governing AI Agentic Systems [13.758038956671834]
大規模言語モデル(LLM)ベースのエージェントは、最小限の人間インタラクションでタスクを自律的に相互に対話し、協力し、委譲する傾向にある。
エージェントシステムガバナンスの業界ガイドラインは、ユーザがエージェントの包括的な制御を維持する必要性を強調している。
本稿では,エージェントのライフサイクルをユーザから監視する,エージェントシステムを管理するためのスケーラブルなセキュリティアーキテクチャであるSAGAを提案する。
論文 参考訳（メタデータ） (2025-04-27T23:10:00Z) - Agentic Business Process Management: Practitioner Perspectives on Agent Governance in Business Processes [0.7270112855088837]
生成AIの台頭に伴い、ソフトウェアエージェントへの産業的関心が高まりつつある。
本稿では,組織がAIエージェントを効果的に管理する方法を検討する。
AIエージェントの採用に責任を負う6つの重要な推奨事項を概説している。
論文 参考訳（メタデータ） (2025-03-23T20:15:24Z) - Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。
これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。
55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
論文 参考訳（メタデータ） (2024-10-14T17:57:02Z) - Internet of Agents: Weaving a Web of Heterogeneous Agents for Collaborative Intelligence [79.5316642687565]
既存のマルチエージェントフレームワークは、多種多様なサードパーティエージェントの統合に苦慮することが多い。
我々はこれらの制限に対処する新しいフレームワークであるInternet of Agents (IoA)を提案する。
IoAはエージェント統合プロトコル、インスタントメッセージのようなアーキテクチャ設計、エージェントのチーム化と会話フロー制御のための動的メカニズムを導入している。
論文 参考訳（メタデータ） (2024-07-09T17:33:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。