論文の概要: Characterizing AI Agents for Alignment and Governance

• arxiv url: http://arxiv.org/abs/2504.21848v1
• Date: Wed, 30 Apr 2025 17:55:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 17:27:15.435947
• Title: Characterizing AI Agents for Alignment and Governance
• Title（参考訳）: 調整とガバナンスのためのAIエージェントの特徴付け
• Authors: Atoosa Kasirzadeh, Iason Gabriel,
• Abstract要約: 本稿では,自律性,有効性,目標複雑性,汎用性という4つの側面に焦点を当てたAIエージェントの特性について述べる。 このフレームワークを使って、さまざまな種類のAIエージェントのための"エージェントプロファイル"を構築します。
• 参考スコア（独自算出の注目度）: 5.765235695557108
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The creation of effective governance mechanisms for AI agents requires a deeper understanding of their core properties and how these properties relate to questions surrounding the deployment and operation of agents in the world. This paper provides a characterization of AI agents that focuses on four dimensions: autonomy, efficacy, goal complexity, and generality. We propose different gradations for each dimension, and argue that each dimension raises unique questions about the design, operation, and governance of these systems. Moreover, we draw upon this framework to construct "agentic profiles" for different kinds of AI agents. These profiles help to illuminate cross-cutting technical and non-technical governance challenges posed by different classes of AI agents, ranging from narrow task-specific assistants to highly autonomous general-purpose systems. By mapping out key axes of variation and continuity, this framework provides developers, policymakers, and members of the public with the opportunity to develop governance approaches that better align with collective societal goals.
• Abstract（参考訳）: AIエージェントの効果的なガバナンスメカニズムの作成には、そのコア特性と、エージェントの配置と運用に関する疑問との関連性について、より深く理解する必要がある。 本稿では,自律性,有効性,目標複雑性,汎用性という4つの側面に焦点を当てたAIエージェントの特性について述べる。 各次元ごとに異なる階調を提案し、各次元は、これらのシステムの設計、運用、ガバナンスに関するユニークな疑問を提起する。 さらに、このフレームワークを使って、さまざまな種類のAIエージェントのための"エージェントプロファイル"を構築します。 これらのプロファイルは、狭いタスク固有のアシスタントから高度に自律的な汎用システムまで、AIエージェントのさまざまなクラスによって引き起こされる、横断的な技術的および非技術的ガバナンスの課題を照らすのに役立つ。 変化と継続性の鍵となる軸をマッピングすることによって、このフレームワークは、開発者、政策立案者、および一般大衆のメンバに、集合的な社会的目標とよりよく整合したガバナンスアプローチを開発する機会を提供する。

関連論文リスト

• Agentic Web: Weaving the Next Web with AI Agents [109.13815627467514]
  大規模言語モデル(LLM)を活用したAIエージェントの出現は、エージェントWebに対する重要な転換点である。 このパラダイムでは、エージェントが直接対話して、ユーザに代わって複雑なタスクを計画、コーディネート、実行します。 本稿では,エージェントWebの理解と構築のための構造化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-07-28T17:58:12Z)
• TRiSM for Agentic AI: A Review of Trust, Risk, and Security Management in LLM-based Agentic Multi-Agent Systems [2.462408812529728]
  本総説では, LLMに基づくエージェントマルチエージェントシステム (AMAS) の文脈における, textbfTrust, Risk, and Security Management (TRiSM) の構造解析について述べる。 まず、エージェントAIの概念的基礎を調べ、従来のAIエージェントとアーキテクチャ的区別を強調します。 次に、説明可能性、モデルOps、セキュリティ、プライバシ、ガバナンスの4つの主要な柱を中心に構成された、エージェントAIのためのAI TRiSMフレームワークを適応して拡張します。
  論文  参考訳（メタデータ） (2025-06-04T16:26:11Z)
• Distinguishing Autonomous AI Agents from Collaborative Agentic Systems: A Comprehensive Framework for Understanding Modern Intelligent Architectures [0.0]
  大規模言語モデルの出現は、人工知能の2つの異なる相互接続パラダイム、すなわちスタンドアロンAIエージェントと協調エージェントAIエコシステムを触媒した。 本研究は, 運用原則, 構造構成, 配置方法論の体系的解析を通じて, これらのアーキテクチャを識別するための決定的な枠組みを確立する。
  論文  参考訳（メタデータ） (2025-06-02T08:52:23Z)
• Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
  真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。 本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。 この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-01T07:52:16Z)
• AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges [0.36868085124383626]
  この研究はAIエージェントとエージェントAIを区別し、構造化された概念分類、アプリケーションマッピング、課題分析を提供する。 ジェネレーティブAIは前駆体として位置づけられており、AIエージェントはツールの統合、エンジニアリングの促進、推論の強化を通じて前進している。 エージェントAIシステムは、マルチエージェントコラボレーション、動的タスク分解、永続メモリ、オーケストレーション自律性によって特徴付けられるパラダイムシフトを表している。
  論文  参考訳（メタデータ） (2025-05-15T16:21:33Z)
• Perceptions of Agentic AI in Organizations: Implications for Responsible AI and ROI [0.0]
  本稿では,エージェントAIの出現する状況の中で,組織がこのようなフレームワークをどのように認識し,適応するかを検討する。 エージェントAIシステムの本質的な複雑さと、その責任ある実装は、責任あるAI次元とテーマフレームワークの複雑な相互接続性に根ざし、組織的適応における重大な課題に寄与している。
  論文  参考訳（メタデータ） (2025-04-15T19:15:06Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Agentic AI Needs a Systems Theory [46.36636351388794]
  AI開発は現在、個々のモデル機能に過度に重点を置いている、と私たちは主張する。 エージェント認知の強化,創発的因果推論能力,メタ認知認知のメカニズムについて概説する。 システムレベルの視点は、より理解し、意図的に形作り、エージェントAIシステムに不可欠である、と私たちは強調する。
  論文  参考訳（メタデータ） (2025-02-28T22:51:32Z)
• Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [6.285314639722078]
  AIエージェントは、その目的を動的に調整する権限を持つべきだ、と私たちは主張する。 私たちは、これらのシステムの創発的で、自己組織化され、文脈に合った性質へのシフトを呼びかけます。
  論文  参考訳（メタデータ） (2025-02-05T22:20:15Z)
• Governing AI Agents [0.2913760942403036]
  本項では、主エージェント問題に関する経済理論と、機関関係に関する共通法学説を概観する。 それは、情報非対称性、差別的権威、忠誠といった問題を含む、AIエージェントから生じる問題を特定する。 包括性、可視性、責任のガバナンス原則をサポートするためには、新しい技術的および法的基盤が必要である、と氏は主張する。
  論文  参考訳（メタデータ） (2025-01-14T07:55:18Z)
• The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey [0.0]
  本稿では,AIエージェントの実装の最近の進歩について考察する。 推論、計画、ツールの実行能力の強化を必要とする複雑な目標を達成する能力に重点を置いている。
  論文  参考訳（メタデータ） (2024-04-17T17:32:41Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
  人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である 本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-22T17:57:57Z)
• Balancing Autonomy and Alignment: A Multi-Dimensional Taxonomy for Autonomous LLM-powered Multi-Agent Architectures [0.0]
  大規模言語モデル(LLM)は、洗練された言語理解と生成能力を備えた人工知能の分野に革命をもたらした。 本稿では,LLMを用いた自律型マルチエージェントシステムが自律性とアライメントの動的相互作用をどのようにバランスさせるかを分析するために,総合的な多次元分類法を提案する。
  論文  参考訳（メタデータ） (2023-10-05T16:37:29Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
  民主化学習(Dem-AI)という新しいデザイン哲学を提案する。 ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。 本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
  論文  参考訳（メタデータ） (2020-03-18T08:45:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。