論文の概要: Proof-Carrying Contracts: Commitments AI Agents Cannot Break
- arxiv url: http://arxiv.org/abs/2610.28484v1
- Date: Tue, 20 Oct 2026 16:30:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.921256
- Title: Proof-Carrying Contracts: Commitments AI Agents Cannot Break
- Title（参考訳）: 売り込み契約:AIエージェントは破れない
- Abstract要約: 本稿では,エージェントのシステムとのインタラクションを通じて,合意された制約を強制可能なものにするためのフレームワークであるProof-Carrying Contracts (PC2)を紹介する。
要求された操作が実行される前に、エージェントは、そのモデルによって許されるすべてのケースにおいて、合意された制約を保存するためのマシンチェック可能な証明を提供する必要がある。
我々は、実行中、たとえ敵エージェントであっても、その制約が瞬時に保持されることを証明し、それが世界の安全を意味するかどうかを識別する。
- 参考スコア（独自算出の注目度）: 55.47411235954028
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents increasingly act on behalf of people or other agents, purchasing services, exchanging information and delegating work. What an agent must respect is written in instructions, policies or agreements, but text alone cannot make it comply. It may make mistakes, be redirected by what it reads, or pursue different interests. For an economy of such agents to function, parties need agreements they can rely on without inspecting or trusting one another's agents. We introduce Proof-Carrying Contracts (PC2), a framework for making agreed constraints enforceable throughout an agent's interactions with a system. Before a requested operation can run, the agent must supply a machine-checkable proof that it preserves the agreed constraints in every case allowed by its model. An execution system called the Airlock checks the proof and controls access to the operation. The parties specify the conditions to preserve, while the agent supplies the reasoning needed to justify its decisions and remains free to adapt its strategy. This avoids having to design a separate permission policy and prove that every decision it permits is safe. We prove that the constraints hold at every instant during execution, even for an adversarial agent, and identify when this implies safety in the world. Reusable capability modules provide tools and guarantees from which contracts can be constructed. PC2 provides a foundation for an agent economy whose agreements protect both those delegating work and those carrying it out.
- Abstract（参考訳）: AIエージェントは、人々や他のエージェントに代わって行動し、サービスを購入し、情報を交換し、仕事を委譲する。
エージェントが尊重すべきことは、指示、方針、協定で書かれるが、テキストだけでは従わない。
ミスを犯したり、読み物によってリダイレクトされたり、異なる興味を追求したりします。
このようなエージェントの経済が機能するためには、当事者はお互いのエージェントを検査したり信頼したりすることなく、信頼できる合意が必要である。
本稿では,エージェントのシステムとのインタラクションを通じて,合意された制約を強制可能なものにするためのフレームワークであるProof-Carrying Contracts (PC2)を紹介する。
要求された操作が実行される前に、エージェントは、そのモデルによって許されるすべてのケースにおいて、合意された制約を保存するためのマシンチェック可能な証明を提供する必要がある。
Airlockと呼ばれる実行システムは証明をチェックし、操作へのアクセスを制御する。
当事者は保持すべき条件を規定する一方、エージェントはその決定を正当化するために必要な理由を提供し、その戦略に適応する自由を保っている。
これにより、別個の許可ポリシーを設計し、それが許すすべての決定が安全であることを証明する必要がなくなる。
我々は、実行中、たとえ敵エージェントであっても、その制約が瞬時に保持されることを証明し、それが世界の安全を意味するかどうかを識別する。
再利用可能な機能モジュールは、コントラクトを構築するためのツールと保証を提供します。
PC2は、委譲された仕事とそれを実行する人の両方を保護する合意を締結するエージェント経済の基礎を提供する。
関連論文リスト
- Why Do Agent Teams Fail Across Boundaries? A Failure Taxonomy for Agent-to-Agent Systems with Private States [96.00953129073133]
エージェント・ツー・エージェント(A2A)のシナリオでは、各エージェントは独自の環境を持ち、他のエージェントが見ることができない情報と権限を持っている。
既存のマルチエージェントシステム障害研究では、1つのオーケストレータ、共有ワークスペース、または1つのプリンシパルが想定されている。
我々は、異なるエージェントハーネスとモデルで構築された2500以上のA2Aシステムについて研究する。
論文 参考訳（メタデータ） (2026-10-14T00:36:08Z) - Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents [10.493000314031077]
大規模言語モデル(LLM)エージェントは、ソフトウェア開発ライフサイクルの不可欠な部分になりつつある。
修正されていない不透明なエージェントの分離境界における参照モニタであるKairosを提示する。
どの情報源が信頼されているかを記述する宣言的政策は、ほとんどの効果を決定論的に決定し、残りを無視し、エージェントが投機的に継続する間に保持される。
論文 参考訳（メタデータ） (2026-10-13T14:24:26Z) - Specifying the Delegated-Autonomy Boundary: Requirements Engineering for Agentic AI [5.421928928336395]
エージェントAIシステムは、さまざまな自律性を持つ外部環境を計画し、状態を維持し、行動する。
現在のプラクティスでは、要求レベルのコミットメントであっても、プロンプトやツールスキーマ、ランタイムポリシにこれらの決定を埋めています。
本稿では,エージェンシー・ジャストフィケーション・レコードとエージェント・デリゲーション・ポリシーの2つの補完的アーティファクトを提案する。
論文 参考訳（メタデータ） (2026-07-19T12:27:39Z) - Who Owns This Agent? Tracing AI Agents Back to Their Owners [7.444382451377645]
AIエージェントはますます、世界で自律的に行動するようにデプロイされている。
悪意あるエージェントを、それをデプロイしたアカウントに遡る信頼できる方法はまだない。
この問題を定義し、実用的な解決策を提示する最初の試みである。
論文 参考訳（メタデータ） (2026-05-15T15:10:33Z) - Anumati: Proof of Adherence as a Formal Consent Model for Autonomous Agent Protocols [0.0]
本稿では,エージェント対エージェント通信のためのバージョン付き,追加のみの同意モデルを提案する。
このモデルは、2つの広く使用されるエージェントプロトコルに対する非破壊的拡張としてインスタンス化される。
論文 参考訳（メタデータ） (2026-04-16T10:48:21Z) - AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。
エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。
AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
論文 参考訳（メタデータ） (2026-01-26T13:45:41Z) - Kaleidoscopic Teaming in Multi Agent Simulations [75.47388708240042]
我々は,エージェントが行う複雑な行動,思考プロセス,行動の安全性リスクを評価する上で,既存のレッドチームや安全評価フレームワークは不十分であると主張している。
我々は,新しいコンテキスト内最適化手法を導入し,安全解析のためのより良いシナリオを生成する。
エージェントの安全性を測定するためのフレームワークとともに使用できる適切なメトリクスを提案する。
論文 参考訳（メタデータ） (2025-06-20T23:37:17Z) - Agent TCP/IP: An Agent-to-Agent Transaction System [0.0]
Agent Transaction Control Protocol for Intellectual Propertyはエージェント間でIPを交換する信頼性のないフレームワークを提供する。
エージェントはStoryブロックチェーンネットワーク上でエージェント対エージェント契約を起動、取引、借用、販売することができる。
エージェントは、トレーニングデータを他のエージェントに自律的に販売し、秘密またはプロプライエタリな情報をライセンスし、独自のスキルに基づいてコンテンツに基づいてコラボレーションすることができる。
論文 参考訳（メタデータ） (2025-01-08T16:43:47Z) - On the Convergence of Bounded Agents [80.67035535522777]
境界エージェントは、エージェントの将来の振る舞いを記述するために必要な最小の状態数が減少できない場合に収束する。
第2の見解では、エージェントの内部状態が変更された場合にのみ、エージェントのパフォーマンスが変化するときのみ、境界エージェントが収束した。
論文 参考訳（メタデータ） (2023-07-20T17:27:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。