論文の概要: Characterizing AI Agents for Alignment and Governance

• arxiv url: http://arxiv.org/abs/2504.21848v1
• Date: Wed, 30 Apr 2025 17:55:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 17:27:15.435947
• Title: Characterizing AI Agents for Alignment and Governance
• Title（参考訳）: 調整とガバナンスのためのAIエージェントの特徴付け
• Authors: Atoosa Kasirzadeh, Iason Gabriel,
• Abstract要約: 本稿では,自律性,有効性,目標複雑性,汎用性という4つの側面に焦点を当てたAIエージェントの特性について述べる。 このフレームワークを使って、さまざまな種類のAIエージェントのための"エージェントプロファイル"を構築します。
• 参考スコア（独自算出の注目度）: 5.765235695557108
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The creation of effective governance mechanisms for AI agents requires a deeper understanding of their core properties and how these properties relate to questions surrounding the deployment and operation of agents in the world. This paper provides a characterization of AI agents that focuses on four dimensions: autonomy, efficacy, goal complexity, and generality. We propose different gradations for each dimension, and argue that each dimension raises unique questions about the design, operation, and governance of these systems. Moreover, we draw upon this framework to construct "agentic profiles" for different kinds of AI agents. These profiles help to illuminate cross-cutting technical and non-technical governance challenges posed by different classes of AI agents, ranging from narrow task-specific assistants to highly autonomous general-purpose systems. By mapping out key axes of variation and continuity, this framework provides developers, policymakers, and members of the public with the opportunity to develop governance approaches that better align with collective societal goals.
• Abstract（参考訳）: AIエージェントの効果的なガバナンスメカニズムの作成には、そのコア特性と、エージェントの配置と運用に関する疑問との関連性について、より深く理解する必要がある。 本稿では,自律性,有効性,目標複雑性,汎用性という4つの側面に焦点を当てたAIエージェントの特性について述べる。 各次元ごとに異なる階調を提案し、各次元は、これらのシステムの設計、運用、ガバナンスに関するユニークな疑問を提起する。 さらに、このフレームワークを使って、さまざまな種類のAIエージェントのための"エージェントプロファイル"を構築します。 これらのプロファイルは、狭いタスク固有のアシスタントから高度に自律的な汎用システムまで、AIエージェントのさまざまなクラスによって引き起こされる、横断的な技術的および非技術的ガバナンスの課題を照らすのに役立つ。 変化と継続性の鍵となる軸をマッピングすることによって、このフレームワークは、開発者、政策立案者、および一般大衆のメンバに、集合的な社会的目標とよりよく整合したガバナンスアプローチを開発する機会を提供する。

関連論文リスト

• Perceptions of Agentic AI in Organizations: Implications for Responsible AI and ROI [0.0]
  本稿では,エージェントAIの出現する状況の中で,組織がこのようなフレームワークをどのように認識し,適応するかを検討する。 エージェントAIシステムの本質的な複雑さと、その責任ある実装は、責任あるAI次元とテーマフレームワークの複雑な相互接続性に根ざし、組織的適応における重大な課題に寄与している。
  論文  参考訳（メタデータ） (2025-04-15T19:15:06Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Agentic AI Needs a Systems Theory [46.36636351388794]
  AI開発は現在、個々のモデル機能に過度に重点を置いている、と私たちは主張する。 エージェント認知の強化,創発的因果推論能力,メタ認知認知のメカニズムについて概説する。 システムレベルの視点は、より理解し、意図的に形作り、エージェントAIシステムに不可欠である、と私たちは強調する。
  論文  参考訳（メタデータ） (2025-02-28T22:51:32Z)
• Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [6.285314639722078]
  AIエージェントは、その目的を動的に調整する権限を持つべきだ、と私たちは主張する。 私たちは、これらのシステムの創発的で、自己組織化され、文脈に合った性質へのシフトを呼びかけます。
  論文  参考訳（メタデータ） (2025-02-05T22:20:15Z)
• Governing AI Agents [0.2913760942403036]
  本項では、主エージェント問題に関する経済理論と、機関関係に関する共通法学説を概観する。 それは、情報非対称性、差別的権威、忠誠といった問題を含む、AIエージェントから生じる問題を特定する。 包括性、可視性、責任のガバナンス原則をサポートするためには、新しい技術的および法的基盤が必要である、と氏は主張する。
  論文  参考訳（メタデータ） (2025-01-14T07:55:18Z)
• The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey [0.0]
  本稿では,AIエージェントの実装の最近の進歩について考察する。 推論、計画、ツールの実行能力の強化を必要とする複雑な目標を達成する能力に重点を置いている。
  論文  参考訳（メタデータ） (2024-04-17T17:32:41Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
  人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である 本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-22T17:57:57Z)
• Balancing Autonomy and Alignment: A Multi-Dimensional Taxonomy for Autonomous LLM-powered Multi-Agent Architectures [0.0]
  大規模言語モデル(LLM)は、洗練された言語理解と生成能力を備えた人工知能の分野に革命をもたらした。 本稿では,LLMを用いた自律型マルチエージェントシステムが自律性とアライメントの動的相互作用をどのようにバランスさせるかを分析するために,総合的な多次元分類法を提案する。
  論文  参考訳（メタデータ） (2023-10-05T16:37:29Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
  民主化学習(Dem-AI)という新しいデザイン哲学を提案する。 ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。 本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
  論文  参考訳（メタデータ） (2020-03-18T08:45:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。