論文の概要: Resourced Authority A Mechanism-Design Model for Participatory Governance of Deployed AI Agents
- arxiv url: http://arxiv.org/abs/2608.06353v1
- Date: Thu, 06 Aug 2026 17:53:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.994925
- Title: Resourced Authority A Mechanism-Design Model for Participatory Governance of Deployed AI Agents
- Title（参考訳）: 資源機関 : 展開AIエージェントの参加型ガバナンスのためのメカニズム設計モデル
- Authors: Praphul Chandra, Sujit Gujar, Ganesh Ghalme,
- Abstract要約: デプロイされたAIエージェントの継続的な参加型ガバナンスのための正式なメカニズム設計モデルを提供する。
我々は、その機構が支配するエージェントのクラスを特徴付け、支配するエージェントによって統治される選挙人の操作を分離する。
- 参考スコア（独自算出の注目度）: 5.97827861348588
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We give a formal mechanism design model for the continuous participatory governance of a deployed AI agent. The mechanism is built on the principle that governance should control an AI agent through resource allocation so as to make authorization self enforcing via compute budgets. The mechanism seeks to establish the Safe AI paradigm that compute is an effective governance lever. We situate our work as a compliance or commons overlay on a deployer. One governance period is an extensive form game in which verified human stakeholders arrive sequentially and contribute, on a provision or a rejection market, in a governance currency that is deliberately distinct from the agents compute. A funding aggregator turns raw contributions into breadth weighted effective supports - a two threshold gate with hysteresis converts net support into a binary authorization that, through a coupling map bounded by an exogenously certified safety ceiling, releases a metered compute budget - realized in hardware as a signed compute license so that the decision is self-enforcing. We characterize the class of agents the mechanism can govern and isolate manipulation of the governing electorate by the governed agent as the central open problem. We also introduce several challenges addressing manipulation of governing electorate by the governed agents.
- Abstract（参考訳）: デプロイされたAIエージェントの継続的な参加型ガバナンスのための正式なメカニズム設計モデルを提供する。
このメカニズムは、ガバナンスがリソース割り当てを通じてAIエージェントを制御するべきという原則に基づいて構築され、計算予算による認可を自己実施する。
このメカニズムは、計算が効果的なガバナンスレバーであるSafe AIパラダイムを確立することを目指している。
私たちは、コンプライアンスとして、あるいはデプロイにコモンズオーバーレイとして仕事をしています。
1つのガバナンス期間は、検証された人間の利害関係者が、エージェントの計算と意図的に異なるガバナンス通貨で、プロビジョニングまたは拒絶市場において順次到着し、貢献する広範囲なフォームゲームである。
ヒステリシスを持つ2つのしきい値ゲートは、ネットサポートを二項認証に変換し、不均一に認証された安全天井に縛られた結合マップを通じて、測定された計算予算を解放する。
我々は,支配主体が支配する選挙人の操作を中心的オープン問題として,その機構が支配するエージェントのクラスを特徴づける。
また、行政機関による選挙管理の操作に対処するいくつかの課題も紹介する。
関連論文リスト
- Binding Biometrics with AI Agent Identifiers for Delegation of Authority [35.87507447481885]
エージェント認証時に,BINDと呼ばれる,人間の生体データをAIエージェント識別(ID)と権限範囲(タスク固有の制約)に安全に結合するフレームワークを提案する。
このトークン/識別子は、AIエージェントによって、生体認証を同時に実行し、エージェントIDとスコープを回復するID監査者に提示することができる。
また、標準的なディープニューラルネットワークモデルを用いて抽出された顔特徴に基づいて提案したBINDフレームワークの実践的実装も提供する。
論文 参考訳（メタデータ） (2026-08-04T23:58:27Z) - Behavioral Governance for Autonomous AI Agents: The AgentBound Framework [2.4469484645516832]
我々は、自律型AIエージェントに対して検証可能な行動監視を提供するランタイムガバナンスフレームワークであるAgentBoundを紹介する。
AgentBoundは、提案された各アクションを、委任された認可、所有者が署名した行動構成、サイトアクション契約の3つの独立した当局を使用して評価する。
AgentBoundは暗号的に検証可能なガバナンスレシートを生成し、すべてのアクションを決定を管理する正確なデリゲート、ポリシー、セマンティックアーティファクトにバインドする。
論文 参考訳（メタデータ） (2026-06-29T23:12:06Z) - Governing Actions, Not Agents: Institutional Attestation as a Governance Model for Autonomous AI Systems [0.0]
人間の機関は、連続した行動の時点で独立して証明された証拠を要求することによって、強力な自律的なアクターを統治してきた。
我々は、AIエージェントシステムの計算ガバナンスモデルとして、この制度パターンを定式化する。
提案したモデルでは、エージェントは計画と推論の完全な自律性を保持するが、指定されたリスクの高い行動に対する実行権限は保持しない。
論文 参考訳（メタデータ） (2026-06-24T18:43:00Z) - Foundation Protocol: A Coordination Layer for Agentic Society [78.01727114524464]
Foundation Protocol (FP) は、新興の人間-AI社会のためのグラフファーストの調整レイヤである。
FPはエージェント、ツール、リソース、人間、機関、組織を含む異種組織を統一する。
目的は、説明責任を維持しつつ、自律的な機関を構成可能に保つことである。
論文 参考訳（メタデータ） (2026-05-22T04:20:35Z) - Digital Identity for Agentic Systems: Toward a Portable Authorization Standard for Autonomous Agents [0.0]
本稿では,保険請求処理とサプライチェーンの整合性における代表的企業利用事例について分析する。
発行者認可認可ペイロードに基づく自律エージェントの携帯型認証モデルを提案する。
論文 参考訳（メタデータ） (2026-05-12T04:04:34Z) - From Assistance to Agency: Rethinking Autonomy and Control in CI/CD Pipelines [0.0]
本稿では,エージェント型継続的インテグレーションと継続的デプロイメント(CI/CD)のビジョンについて述べる。
研究のプロトタイプと産業用プラットフォームに基づいて,現状のシステムは,主に有界自律型データプレーンで運用されていることを示す。
制約付き自律性を支配的な設計として、外部ガバナンスを主要な安全メカニズムとして、デプロイメントのモーメントと評価方法論のギャップを広げる3つのパターンを特定します。
論文 参考訳（メタデータ） (2026-05-08T00:15:43Z) - Binding Agent ID: Unleashing the Power of AI Agents with accountability and credibility [46.323590135279126]
BAID(Binding Agent ID)は、検証可能なユーザコードバインディングを確立するための総合的なアイデンティティ基盤である。
ブロックチェーンベースのID管理とzkVMベースの認証プロトコルの実現可能性を実証し、完全なプロトタイプシステムの実装と評価を行った。
論文 参考訳（メタデータ） (2025-12-19T13:01:54Z) - Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
行政における人工知能の利用は急速に拡大している。
AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。
この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
論文 参考訳（メタデータ） (2025-05-02T07:46:41Z) - Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
政府や企業は、AIを管理する手段として計算を活用し始めている。
計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。
プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
論文 参考訳（メタデータ） (2024-02-13T21:10:21Z) - Counterfactual Multi-Agent Policy Gradients [47.45255170608965]
本稿では,COMAポリシーグラデーションと呼ばれる新しいマルチエージェントアクター批判手法を提案する。
COMAは中央集権的な批評家を用いてQ-関数を推定し、エージェントのポリシーを最適化する。
我々は,StarCraftユニットのマイクロマネジメントにおけるテストベッドにおけるCOMAの評価を行った。
論文 参考訳（メタデータ） (2017-05-24T18:52:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。