論文の概要: Agentic AI: User Empowerment or Enclosure?
- arxiv url: http://arxiv.org/abs/2608.06510v1
- Date: Thu, 06 Aug 2026 18:49:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.265614
- Title: Agentic AI: User Empowerment or Enclosure?
- Title（参考訳）: Agentic AI: ユーザエンパワーメントかエンクロージャーか?
- Abstract要約: Agentic AIがユーザを力づけるかどうか、という答は、オープンな質問だ、と私たちは主張する。
同様の形態のエージェンシーが出現した4つのより成熟したドメインの比較ケース分析を行う。
我々はこれを、政治理論のコンセプトである非政治化(depoliticization)とみなし、ここでは技術システムの研究を行っている。
- 参考スコア（独自算出の注目度）: 3.9727752701702728
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI promises a more flexible form of digital agency: systems that can act on users' behalf, from filtering content to negotiating prices to selecting services. Whether it will empower users is an open question, and we argue that the answer depends on more than the technology. We conduct a comparative case analysis of four more mature domains where similar forms of agency arose: browser-based ad blockers, platform recommender systems, financial robo-advisors, and email spam governance. Across the cases, decisions about whose interests agents would serve were resolved through technical arrangements: API choices, protocol governance, industry standards, and default configurations. Beyond their technical form, these were political decisions. We identify this as depoliticization, a concept from political theory, here at work in technological systems. Its most consequential effect is that individual outcomes and collective contestation capacity can move in opposite directions: spam inbox quality improved substantially while the organized capacity to contest spam governance collapsed. Where intermediary institutions sustained adversarial challenge, user-aligned agency proved more durable; where proprietary infrastructure and closed standard-setting absorbed contestation, displacement compounded. We apply this to agentic AI, where governance arrangements consolidating around the Model Context Protocol and the Agentic AI Foundation are settling these configurations before the choices that define what agents can do move outside the reach of users and the public.
- Abstract（参考訳）: Agentic AIは、より柔軟なデジタルエージェンシーの形式を約束する。コンテンツのフィルタリングから価格交渉、選択サービスまで、ユーザの代理として機能するシステムだ。
ユーザーを力づけるかどうかはオープンな質問であり、答えは技術以上のものに依存していると我々は主張する。
我々は、ブラウザベースの広告ブロッカー、プラットフォームレコメンデータシステム、ファイナンシャルロボアドバイザ、Eメールスパムガバナンスという、同様の形のエージェンシーが出現する、より成熟した4つのドメインの比較ケース分析を行う。
APIの選択、プロトコルのガバナンス、業界標準、デフォルトの設定などです。
技術的形態を超えて、これらは政治的決定であった。
我々はこれを、政治理論のコンセプトである非政治化(depoliticization)とみなし、ここでは技術システムの研究を行っている。
スパム・インボックスの品質は、スパム・ガバナンスに反対する組織的能力が崩壊する一方で、大幅に改善された。
中間機関が敵対的挑戦を継続する中で、ユーザー対応機関はより耐久性があることが証明された。
我々はこれをエージェントAIに適用し、モデルコンテキストプロトコルとエージェントAIファウンデーションを中心にしたガバナンスアレンジメントがこれらの設定を定めている。
関連論文リスト
- Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems [103.90831279037094]
LLMベースのマルチエージェントトレーディングシステムは、研究プロトタイプから実際の資産を管理するライブデプロイメントへと急速に移行している。
破損した信号は最終決定に伝播し、実現された財政損失に変換される。
本稿では,金融分野において,敵対的信号がマルチエージェント取引システムにどのように入るのかを特徴付ける最初の体系的実証的研究について述べる。
論文 参考訳（メタデータ） (2026-08-25T05:07:37Z) - Accountability Asymmetry and Structural Trust in Autonomous AI Systems [0.16946842589920252]
AIシステムは依然としてエンジニアリングコントロールの対象であるが、その制度的な意味では影響を受けない。
より深い問題は、アクションを選択するコンポーネントではなく、システムに責任を持つ人々や機関に結果が当てはまることです。
そこで本稿では,自律型AIガバナンスをインフラストラクチャの信頼性の問題として扱う。
論文 参考訳（メタデータ） (2026-08-04T13:47:54Z) - How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement [55.966820779528376]
AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行することの、より積極的な危険性を示す。
論文 参考訳（メタデータ） (2026-07-15T11:36:22Z) - Who Decides What Is Harmful? Content Moderation Policy Through A Multi-Agent Personalised Inference Framework [0.0]
本稿では,LLMをベースとしたパーソナライズド推論フレームワークを提案する。
我々のアーキテクチャは、ドメイン固有のエキスパートエージェント、コンテンツ分析とエージェント選択をオーケストレーションするマネージャエージェント、ユーザ視点をシミュレートするゴーストプロファイルエージェントを組み合わせる。
論文 参考訳（メタデータ） (2026-05-02T12:28:09Z) - When Agents Evolve, Institutions Follow [52.359340707289114]
大規模言語モデル上に構築されたマルチエージェントシステムは、同じ課題に直面している。
彼らの中心的な問題は、個人の知性だけでなく、集団的な組織である。
我々は,4つの標準的ガバナンスパターンにまたがる7つの歴史的政治機関を,実行可能なマルチエージェントアーキテクチャに翻訳する。
論文 参考訳（メタデータ） (2026-04-30T10:30:58Z) - Behavioural feasible set: Value alignment constraints on AI decision support [4.770039226643351]
組織が意思決定支援のために商用AIシステムを採用する場合、透過的でも再交渉不可能なベンダーによって埋め込まれた価値を継承する。
私はこれを実現可能なセットとして定式化し、ベンダーが定めるアライメント制約の下で到達可能な勧告の範囲を定式化し、組織的な要求がシステムの柔軟性を超えた場合の診断しきい値を特徴付けます。
論文 参考訳（メタデータ） (2026-03-22T22:52:42Z) - On the Regulatory Potential of User Interfaces for AI Agent Governance [27.951021158233587]
本稿では,透明性と行動要求を強制する手段として,AIエージェントのユーザインタフェースの規制を提案する。
エージェントとエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別するために,22のエージェントシステムを分析した。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
論文 参考訳（メタデータ） (2025-11-30T05:32:13Z) - DAO-AI: Evaluating Collective Decision-Making through Agentic AI in Decentralized Governance [7.230919380272301]
本稿では,分散型ガバナンスにおける自律的意思決定者としてのエージェントAIの実証的研究について述べる。
我々は、提案コンテキストを解釈し、過去の審議データを検索し、その投票位置を独立して決定するエージェントAI投票者を構築する。
この研究は、分散金融システムのための説明可能な、経済的に厳格なAIエージェントの設計に寄与する。
論文 参考訳（メタデータ） (2025-10-24T03:13:14Z) - When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。
この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。
その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
論文 参考訳（メタデータ） (2025-07-19T15:17:30Z) - Agentic AI: Autonomy, Accountability, and the Algorithmic Society [0.2209921757303168]
エージェント人工知能(AI)は、自律的に長期的な目標を追求し、意思決定を行い、複雑なマルチターンを実行することができる。
この指導的役割から積極的執行課題への移行は、法的、経済的、創造的な枠組みを確立した。
我々は,創造性と知的財産,法的・倫理的考察,競争効果の3つの分野における課題を探求する。
論文 参考訳（メタデータ） (2025-02-01T03:14:59Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - Users are the North Star for AI Transparency [111.5679109784322]
透明な人工知能システムを求める声が広まっているにもかかわらず、この用語は、厳密な政策の目的や具体的な研究ラインのオリエント化を表すために、多義的な意味に過大評価されている。
このことが起こる理由の1つは、AI透明性の明確な理想が、この仕事の体で実現されないことである。
透明性はユーザ中心で、ユーザ指向で、誠実です。
論文 参考訳（メタデータ） (2023-03-09T18:53:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。