論文の概要: Resist Platform-Controlled AI Agents and Champion User-Centric Agent Advocates

• arxiv url: http://arxiv.org/abs/2505.04345v1
• Date: Wed, 07 May 2025 11:45:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-08 19:07:36.060717
• Title: Resist Platform-Controlled AI Agents and Champion User-Centric Agent Advocates
• Title（参考訳）: レジストプラットフォームによるAIエージェントとチャンピオンユーザ中心エージェントのアドボケート
• Authors: Sayash Kapoor, Noam Kolt, Seth Lazar,
• Abstract要約: 言語モデルエージェントは、ユーザーがデジタル環境でナビゲートし行動する方法を再構築することができる。 プラットフォーム企業によってコントロールされれば、プラットフォームエージェントは監視を強化し、ユーザーのロックインを悪化させ、既存のデジタル巨人をさらに強化することができる。 このポジションペーパーは、プラットフォームエージェントの望ましくない影響に抗うために、エージェントアドボケートを擁護すべきであると主張している。
• 参考スコア（独自算出の注目度）: 5.524360691653674
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language model agents could reshape how users navigate and act in digital environments. If controlled by platform companies -- either those that already dominate online search, communication, and commerce, or those vying to replace them -- platform agents could intensify surveillance, exacerbate user lock-in, and further entrench the incumbent digital giants. This position paper argues that to resist the undesirable effects of platform agents, we should champion agent advocates -- agents that are controlled by users, serve the interests of users, and preserve user autonomy and choice. We identify key interventions to enable agent advocates: ensuring public access to compute, developing interoperability protocols and safety standards, and implementing appropriate market regulations.
• Abstract（参考訳）: 言語モデルエージェントは、ユーザーがデジタル環境でナビゲートし行動する方法を再構築することができる。 オンライン検索、コミュニケーション、商業をすでに支配しているプラットフォーム企業や、それを置き換えるために争っているプラットフォーム企業によってコントロールされている場合、プラットフォームエージェントは監視を強化し、ユーザーのロックインを悪化させ、既存のデジタル巨人をさらに強化する可能性がある。 このポジションペーパーは、プラットフォームエージェントの望ましくない影響に抗うために、ユーザによって制御され、ユーザの利益に奉仕し、ユーザの自律性と選択を維持するエージェントアドボケートを擁護するべきである、と論じている。 エージェントのアドボケートを可能にするための重要な介入として,コンピュータへの公開アクセスの確保,相互運用性プロトコルと安全基準の開発,適切な市場規制の実施などを挙げる。

関連論文リスト

• Using the NANDA Index Architecture in Practice: An Enterprise Perspective [9.707223291705601]
  自律型AIエージェントの普及は、従来のWebアーキテクチャから協調的なインテリジェントシステムへのパラダイムシフトを表している。 本稿では,セキュアで信頼性が高く,相互運用可能なAIエージェントエコシステムの基盤要件に対処する包括的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-05T05:27:27Z)
• Agentic Web: Weaving the Next Web with AI Agents [109.13815627467514]
  大規模言語モデル(LLM)を活用したAIエージェントの出現は、エージェントWebに対する重要な転換点である。 このパラダイムでは、エージェントが直接対話して、ユーザに代わって複雑なタスクを計画、コーディネート、実行します。 本稿では,エージェントWebの理解と構築のための構造化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-07-28T17:58:12Z)
• Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
  44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。 Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。 私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
  論文  参考訳（メタデータ） (2025-07-28T05:13:04Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Superplatforms Have to Attack AI Agents [33.71292740136041]
  スーパープラットフォームは、デジタルトラフィックの入り口を集中的に制御するために、AIエージェントを攻撃しなければならない、と我々は主張する。 AIエージェントがスーパープラットフォームを中途半端にし、次の支配的なゲートキーパーになる可能性を示す。 私たちの目標は、コラボレーティブソリューションに対する意識を高め、批判的な議論を促進することです。
  論文  参考訳（メタデータ） (2025-05-23T13:13:44Z)
• Trustless Autonomy: Understanding Motivations, Benefits and Governance Dilemma in Self-Sovereign Decentralized AI Agents [14.287042083260204]
  自己主権型分散AIエージェント(DeAgents)の最近のトレンドは、Large Language Model(LLM)ベースのAIエージェントと、ブロックチェーンスマートコントラクトや信頼できる実行環境(TEE)などの分散テクノロジを組み合わせたものだ。 DeAgentは集中管理を排除し、人間の介入を減らす。 この研究は、DeAgentsの利害関係者-専門家、創業者、開発者-へのインタビューを通じて、彼らのモチベーション、利益、ガバナンスのジレンマを調べることで、この経験的な研究ギャップに対処する。
  論文  参考訳（メタデータ） (2025-05-14T19:42:43Z)
• SAGA: A Security Architecture for Governing AI Agentic Systems [13.106925341037046]
  大規模言語モデル(LLM)ベースのエージェントは、最小限の人間インタラクションでタスクを自律的に相互に対話し、協力し、委譲する傾向にある。 エージェントシステムガバナンスの業界ガイドラインは、ユーザがエージェントの包括的な制御を維持する必要性を強調している。 我々はエージェントシステムのセキュリティアーキテクチャであるSAGAを提案し,エージェントのライフサイクルをユーザから監視する。
  論文  参考訳（メタデータ） (2025-04-27T23:10:00Z)
• InstructAgent: Building User Controllable Recommender via LLM Agent [33.289547118795674]
  本稿では,エージェントがユーザとレコメンダシステムの間の保護シールドとして機能する,新しいユーザエージェントプラットフォームパラダイムを提案する。 この目的のために、まず4つのレコメンデーションデータセットを構築します。
  論文  参考訳（メタデータ） (2025-02-20T15:58:25Z)
• Infrastructure for AI Agents [3.373674048991415]
  AIシステムは、電話の作成やオンライングッズの購入など、オープンな環境でのインタラクションを計画し実行することができる。 現在のツールは、エージェントが既存の機関とどのように相互作用するかを形作るように設計されていないため、ほとんど不十分である。 本稿では,エージェント・インフラストラクチャの概念である技術システムとエージェント外部の共有プロトコルを提案する。
  論文  参考訳（メタデータ） (2025-01-17T10:58:12Z)
• Authenticated Delegation and Authorized AI Agents [4.679384754914167]
  我々は、AIエージェントに対する権限の認証、認証、監査可能な委任のための新しい枠組みを導入する。 フレキシブルな自然言語パーミッションを監査可能なアクセス制御構成に変換するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-01-16T17:11:21Z)
• Agent TCP/IP: An Agent-to-Agent Transaction System [0.0]
  Agent Transaction Control Protocol for Intellectual Propertyはエージェント間でIPを交換する信頼性のないフレームワークを提供する。 エージェントはStoryブロックチェーンネットワーク上でエージェント対エージェント契約を起動、取引、借用、販売することができる。 エージェントは、トレーニングデータを他のエージェントに自律的に販売し、秘密またはプロプライエタリな情報をライセンスし、独自のスキルに基づいてコンテンツに基づいてコラボレーションすることができる。
  論文  参考訳（メタデータ） (2025-01-08T16:43:47Z)
• Here's Charlie! Realising the Semantic Web vision of Agents in the age of LLMs [0.0]
  本稿では,法定機関が半自律型AIエージェントを信頼してオンラインインタラクションを行うための短期的展望について述べる。
  論文  参考訳（メタデータ） (2024-09-03T10:32:47Z)
• Internet of Agents: Weaving a Web of Heterogeneous Agents for Collaborative Intelligence [79.5316642687565]
  既存のマルチエージェントフレームワークは、多種多様なサードパーティエージェントの統合に苦慮することが多い。 我々はこれらの制限に対処する新しいフレームワークであるInternet of Agents (IoA)を提案する。 IoAはエージェント統合プロトコル、インスタントメッセージのようなアーキテクチャ設計、エージェントのチーム化と会話フロー制御のための動的メカニズムを導入している。
  論文  参考訳（メタデータ） (2024-07-09T17:33:24Z)
• Prospect Personalized Recommendation on Large Language Model-based Agent Platform [71.73768586184404]
  本稿では,エージェントアイテムとエージェントレコメンダで構成されるRec4Agentverseという新しいレコメンデーションパラダイムを紹介する。 Rec4AgentverseはAgentItemsとAgent Recommenderのコラボレーションを強調し、パーソナライズされた情報サービスを促進する。 Rec4Agentverseのいくつかの症例に関する予備研究は、その応用の可能性を検証する。
  論文  参考訳（メタデータ） (2024-02-28T11:12:17Z)
• Coordinating Policies Among Multiple Agents via an Intelligent Communication Channel [81.39444892747512]
  MARL(Multi-Agent Reinforcement Learning)では、エージェントが直接通信できる特別なチャンネルがしばしば導入される。 本稿では,エージェントの集団的性能を向上させるために,エージェントが提供した信号の伝達と解釈を学習する,インテリジェントなファシリテータを通じてエージェントがコミュニケーションする手法を提案する。
  論文  参考訳（メタデータ） (2022-05-21T14:11:33Z)
• Adversarial Attacks On Multi-Agent Communication [80.4392160849506]
  現代の自律システムはすぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 このような利点は、セキュリティ侵害に対して脆弱であることが示されている通信チャネルに大きく依存している。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。
  論文  参考訳（メタデータ） (2021-01-17T00:35:26Z)
• Learning Latent Representations to Influence Multi-Agent Interaction [65.44092264843538]
  エージェントのポリシーの潜在表現を学習するための強化学習に基づくフレームワークを提案する。 提案手法は代替手段よりも優れており,他のエージェントに影響を与えることを学習している。
  論文  参考訳（メタデータ） (2020-11-12T19:04:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。