論文の概要: Infrastructure for AI Agents

• arxiv url: http://arxiv.org/abs/2501.10114v1
• Date: Fri, 17 Jan 2025 10:58:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-20 13:59:50.196598
• Title: Infrastructure for AI Agents
• Title（参考訳）: AIエージェントのためのインフラストラクチャ
• Authors: Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljung,
• Abstract要約: AIシステムは、電話の作成やオンライングッズの購入など、オープンな環境でのインタラクションを計画し実行することができる。 現在のツールは、エージェントが既存の機関とどのように相互作用するかを形作るように設計されていないため、ほとんど不十分である。 本稿では,エージェント・インフラストラクチャの概念である技術システムとエージェント外部の共有プロトコルを提案する。
• 参考スコア（独自算出の注目度）: 3.373674048991415
• License:
• Abstract: Increasingly many AI systems can plan and execute interactions in open-ended environments, such as making phone calls or buying online goods. As developers grow the space of tasks that such AI agents can accomplish, we will need tools both to unlock their benefits and manage their risks. Current tools are largely insufficient because they are not designed to shape how agents interact with existing institutions (e.g., legal and economic systems) or actors (e.g., digital service providers, humans, other AI agents). For example, alignment techniques by nature do not assure counterparties that some human will be held accountable when a user instructs an agent to perform an illegal action. To fill this gap, we propose the concept of agent infrastructure: technical systems and shared protocols external to agents that are designed to mediate and influence their interactions with and impacts on their environments. Agent infrastructure comprises both new tools and reconfigurations or extensions of existing tools. For example, to facilitate accountability, protocols that tie users to agents could build upon existing systems for user authentication, such as OpenID. Just as the Internet relies on infrastructure like HTTPS, we argue that agent infrastructure will be similarly indispensable to ecosystems of agents. We identify three functions for agent infrastructure: 1) attributing actions, properties, and other information to specific agents, their users, or other actors; 2) shaping agents' interactions; and 3) detecting and remedying harmful actions from agents. We propose infrastructure that could help achieve each function, explaining use cases, adoption, limitations, and open questions. Making progress on agent infrastructure can prepare society for the adoption of more advanced agents.
• Abstract（参考訳）: 多くのAIシステムは、電話やオンライン商品の購入など、オープンな環境での対話を計画し実行することができる。 開発者がこのようなAIエージェントが達成できるタスクの空間を拡大するにつれ、メリットを解放し、リスクを管理するためのツールも必要になります。 現在のツールは、エージェントが既存の機関(例えば法律や経済システム)やアクター(例えば、デジタルサービスプロバイダ、人間、その他のAIエージェント)とどのように相互作用するかを形成するように設計されていないため、ほとんど不十分である。 例えば、本質的なアライメント技術は、ある人が違法な行為を行うようにエージェントに指示した場合に、ある人間が説明責任を負うことを保証しない。 このギャップを埋めるために、我々はエージェント・インフラストラクチャーの概念を提案する。技術的システムと共有プロトコルは、エージェントとの相互作用や環境への影響を仲介し、影響を及ぼすように設計されている。 Agentインフラストラクチャは、新しいツールと再構成、あるいは既存のツールの拡張の両方で構成されている。 例えば、説明責任を促進するために、ユーザーとエージェントを結びつけるプロトコルはOpenIDのようなユーザー認証のための既存のシステムを構築することができる。 インターネットがHTTPSのようなインフラに依存しているように、エージェントインフラストラクチャも同様にエージェントのエコシステムに不可欠である、と私たちは主張します。 エージェントインフラストラクチャの3つの機能を特定します。 1) 特定の代理人,ユーザ又は他のアクターに対する行為,財産その他の情報の提供 2 エージェントの相互作用を形成、及び 3 薬剤からの有害な作用を検知し、治療すること。 私たちは、それぞれの機能を達成するのに役立つインフラを提案し、ユースケース、導入、制限、オープンな質問を説明します。 エージェントインフラの進歩は、より先進的なエージェントの採用のための社会に備えることができる。

関連論文リスト

• AgentOps: Enabling Observability of LLM Agents [12.49728300301026]
  大規模言語モデル(LLM)エージェントは、自律的で非決定論的行動のため、AI安全性に重大な懸念を提起する。 本稿では,エージェントのライフサイクル全体を通じて追跡されるべきアーティファクトと関連するデータを特定し,効果的な観測可能性を実現するための,AgentOpsの包括的な分類法を提案する。 私たちの分類は、監視、ロギング、分析をサポートするAgentOpsインフラストラクチャを設計、実装するためのリファレンステンプレートとして機能します。
  論文  参考訳（メタデータ） (2024-11-08T02:31:03Z)
• Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
  本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。 これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。 55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
  論文  参考訳（メタデータ） (2024-10-14T17:57:02Z)
• On the Resilience of Multi-Agent Systems with Malicious Agents [58.79302663733702]
  本稿では,悪意のあるエージェント下でのマルチエージェントシステムのレジリエンスについて検討する。 我々は、任意のエージェントを悪意のあるエージェントに変換する2つの方法、AutoTransformとAutoInjectを考案した。 各エージェントが他のエージェントの出力に挑戦するためのメカニズムを導入するか、あるいはメッセージのレビューと修正を行う追加のエージェントを導入することで、システムのレジリエンスを高めることができることを示す。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)
• Internet of Agents: Weaving a Web of Heterogeneous Agents for Collaborative Intelligence [79.5316642687565]
  既存のマルチエージェントフレームワークは、多種多様なサードパーティエージェントの統合に苦慮することが多い。 我々はこれらの制限に対処する新しいフレームワークであるInternet of Agents (IoA)を提案する。 IoAはエージェント統合プロトコル、インスタントメッセージのようなアーキテクチャ設計、エージェントのチーム化と会話フロー制御のための動的メカニズムを導入している。
  論文  参考訳（メタデータ） (2024-07-09T17:33:24Z)
• SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering [79.07755560048388]
  SWEエージェント(SWE-agent)は、LMエージェントが自律的にコンピュータを使用してソフトウェア工学のタスクを解決するシステムである。 SWEエージェントのカスタムエージェントコンピュータインタフェース(ACI)は、エージェントがコードファイルを作成し編集し、リポジトリ全体をナビゲートし、テストやその他のプログラムを実行する能力を著しく向上させる。 我々はSWE-benchとHumanEvalFixのSWE-agentを評価し、それぞれ12.5%と87.7%のパス@1レートで最先端の性能を実現した。
  論文  参考訳（メタデータ） (2024-05-06T17:41:33Z)
• CACA Agent: Capability Collaboration based AI Agent [18.84686313298908]
  本稿ではCACAエージェント(Capability Collaboration based AI Agent)を提案する。 CACA Agentは、単一のLLMへの依存を減らすだけでなく、AI Agentを実装するための一連のコラボレーティブ機能を統合する。 本稿ではCACAエージェントの動作とアプリケーションシナリオの拡張について説明する。
  論文  参考訳（メタデータ） (2024-03-22T11:42:47Z)
• AgentScope: A Flexible yet Robust Multi-Agent Platform [66.64116117163755]
  AgentScopeは、メッセージ交換をコアコミュニケーションメカニズムとする、開発者中心のマルチエージェントプラットフォームである。 豊富な構文ツール、組み込みエージェントとサービス機能、アプリケーションのデモとユーティリティモニタのためのユーザフレンドリなインターフェース、ゼロコードプログラミングワークステーション、自動プロンプトチューニング機構により、開発とデプロイメントの両方の障壁は大幅に低下した。
  論文  参考訳（メタデータ） (2024-02-21T04:11:28Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• A Unified Conversational Assistant Framework for Business Process Automation [9.818380332602622]
  ビジネスプロセスの自動化は、労働者の皿からメンタルタスクを取り除くことを約束する数十億ドル規模の産業のブームだ。 銀行、保険、小売、その他の分野におけるそのようなエージェントの採用を促進するためには、学習曲線の低いシンプルでユーザフレンドリーなインターフェースが必要である。 本稿では,エージェントを構成するスキルの種類やエージェントのオーケストレーション方法について議論し,プロアクティブなチャットボットを開発するためのマルチエージェントオーケストレーションフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-01-07T22:30:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。