論文の概要: Governing the Agent-to-Agent Economy of Trust via Progressive Decentralization
- arxiv url: http://arxiv.org/abs/2501.16606v1
- Date: Tue, 28 Jan 2025 00:50:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-29 16:40:48.496879
- Title: Governing the Agent-to-Agent Economy of Trust via Progressive Decentralization
- Title(参考訳): 進歩的分権化による信頼のエージェント・ツー・エージェント・エコノミーの統治
- Authors: Tomer Jordi Chaffer,
- Abstract要約: 本稿ではエージェントバウンドトークンを用いたエージェント・ツー・エージェント信頼の問題に対処する研究課題を提案する。
ABTをエージェントとエージェントのネットワーク内での自律的な行動の担保として、実証・オブ・テイク機構を介して取り込むことによって、エージェントは倫理的行動にインセンティブを与えることができる。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Current approaches to AI governance often fall short in anticipating a future where AI agents manage critical tasks, such as financial operations, administrative functions, and beyond. As AI agents may eventually delegate tasks among themselves to optimize efficiency, understanding the foundational principles of human value exchange could offer insights into how AI-driven economies might operate. Just as trust and value exchange are central to human interactions in open marketplaces, they may also be critical for enabling secure and efficient interactions among AI agents. While cryptocurrencies could serve as the foundation for monetizing value exchange in a collaboration and delegation dynamic among AI agents, a critical question remains: how can these agents reliably determine whom to trust, and how can humans ensure meaningful oversight and control as an economy of AI agents scales and evolves? This paper is a call for a collective exploration of cryptoeconomic incentives, which can help design decentralized governance systems that allow AI agents to autonomously interact and exchange value while ensuring human oversight via progressive decentralization. Toward this end, I propose a research agenda to address the question of agent-to-agent trust using AgentBound Tokens, which are non-transferable, non-fungible tokens uniquely tied to individual AI agents, akin to Soulbound tokens for humans in Web3. By staking ABTs as collateral for autonomous actions within an agent-to-agent network via a proof-of-stake mechanism, agents may be incentivized towards ethical behavior, and penalties for misconduct are automatically enforced.
- Abstract(参考訳): AIガバナンスに対する現在のアプローチは、金融業務や管理機能など、AIエージェントが重要なタスクを管理する未来を予測できない場合が多い。
AIエージェントが最終的にタスクを委譲して効率を最適化する可能性があるため、人間の価値交換の基本原則を理解することは、AI主導の経済がどのように機能するかについての洞察を与えるかもしれない。
信頼と価値の交換がオープンなマーケットプレースにおけるヒューマンインタラクションの中心であるのと同じように、AIエージェント間のセキュアで効率的なインタラクションを実現する上でも重要である。
暗号通貨は、AIエージェント間のコラボレーションやデリゲートのダイナミクスにおける価値交換の収益化の基礎として機能する可能性があるが、重要な疑問が残る。
これは、AIエージェントが自律的に対話し、価値を交換し、進歩的な分散化を通じて人間の監督を確実にすることを可能にする分散ガバナンスシステムを設計するのに役立つ。
そこで本研究では,Web3における人為的ソウルバウンドトークンに類する,個々のAIエージェントに一意に結びついている非伝達性,非拡散性トークンであるAgensBound Tokensを用いたエージェント・ツー・エージェント信頼の問題に対処する研究課題を提案する。
ABTをエージェント対エージェントネットワーク内の自律的行動の担保として、証明・オブ・テイク機構を介して、エージェントを倫理的行動にインセンティブを与えることができ、不正行為に対する罰則が自動的に強制される。
関連論文リスト
- Human Decision-making is Susceptible to AI-driven Manipulation [71.20729309185124]
AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。
本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
論文 参考訳(メタデータ) (2025-02-11T15:56:22Z) - Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
本稿では,完全自律型AIエージェントを開発すべきではないと主張している。
この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。
分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
論文 参考訳(メタデータ) (2025-02-04T19:00:06Z) - Agentic AI: Autonomy, Accountability, and the Algorithmic Society [0.2209921757303168]
エージェント人工知能(AI)は、自律的に長期的な目標を追求し、意思決定を行い、複雑なマルチターンを実行することができる。
この指導的役割から積極的執行課題への移行は、法的、経済的、創造的な枠組みを確立した。
我々は,創造性と知的財産,法的・倫理的考察,競争効果の3つの分野における課題を探求する。
論文 参考訳(メタデータ) (2025-02-01T03:14:59Z) - Authenticated Delegation and Authorized AI Agents [4.679384754914167]
我々は、AIエージェントに対する権限の認証、認証、監査可能な委任のための新しい枠組みを導入する。
フレキシブルな自然言語パーミッションを監査可能なアクセス制御構成に変換するためのフレームワークを提案する。
論文 参考訳(メタデータ) (2025-01-16T17:11:21Z) - Decentralized Governance of Autonomous AI Agents [0.0]
ETHOSは、ブロックチェーン、スマートコントラクト、分散自律組織(DAO)など、Web3テクノロジを活用する分散ガバナンス(DeGov)モデルである。
AIエージェントのグローバルレジストリを確立し、動的リスク分類、比例監視、自動コンプライアンス監視を可能にする。
合理性、倫理的根拠、ゴールアライメントの哲学的原則を統合することで、ETHOSは信頼、透明性、参加的ガバナンスを促進するための堅牢な研究アジェンダを作ることを目指している。
論文 参考訳(メタデータ) (2024-12-22T18:01:49Z) - Beyond the Sum: Unlocking AI Agents Potential Through Market Forces [0.0]
AIエージェントは、デジタルマーケット内で独立した経済アクターとして機能する理論的能力を持っている。
既存のデジタルインフラストラクチャは、彼らの参加に大きな障壁をもたらします。
これらのインフラの課題に対処することは、新しい形態の経済組織を実現するための基本的なステップである、と我々は主張する。
論文 参考訳(メタデータ) (2024-12-19T09:40:40Z) - Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。
私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文 参考訳(メタデータ) (2024-10-25T07:53:32Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳(メタデータ) (2024-02-28T16:09:56Z) - Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
政府や企業は、AIを管理する手段として計算を活用し始めている。
計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。
プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
論文 参考訳(メタデータ) (2024-02-13T21:10:21Z) - Designing for Responsible Trust in AI Systems: A Communication
Perspective [56.80107647520364]
我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。
私たちは、AIシステムの能力として透明性とインタラクションを強調します。
我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
論文 参考訳(メタデータ) (2022-04-29T00:14:33Z) - A Cognitive Framework for Delegation Between Error-Prone AI and Human
Agents [0.0]
本研究では,認知にインスパイアされた行動モデルを用いて,人間エージェントとAIエージェントの両方の行動を予測する。
予測された振る舞いは、仲介者の使用を通じて人間とAIエージェントの制御を委譲するために使用される。
論文 参考訳(メタデータ) (2022-04-06T15:15:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。