Fugu-MT 論文翻訳(概要): Contract monitoring: governing AI via separation of powers

論文の概要: Contract monitoring: governing AI via separation of powers

arxiv url: http://arxiv.org/abs/2609.32061v1
Date: Fri, 25 Sep 2026 22:51:12 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-08 03:25:39.407933
Title: Contract monitoring: governing AI via separation of powers
Title（参考訳）: 契約監視:権限の分離を通じてAIを管理する
Abstract要約: 我々は、労働者エージェントを許可された行動を指定する契約にバインドするAI安全フレームワークを提案する。エージェントや審査員を監視するために、異なる責任を割り当てることで、これらの契約をどのように強制し、指定するかを示します。我々の枠組みは、統計的安全性の保証を実証的に測定することを可能にする。
参考スコア（独自算出の注目度）: 0.11603243575080534
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We propose an AI safety framework that binds worker agents to contracts specifying their permitted actions. We show how these contracts can be enforced and specified by assigning distinct responsibilities to monitor agents and judges, and asymmetric computational resources to monitors and workers. Our framework allows us to empirically measure statistical safety guarantees. The framework applies to a wide range of settings, including code security and escape-the-box scenarios.
Abstract（参考訳）: 我々は、労働者エージェントを許可された行動を指定する契約にバインドするAI安全フレームワークを提案する。我々は、エージェントや審査員を監視するために異なる責任を割り当て、モニターや労働者に非対称な計算資源を割り当てることで、これらの契約をどのように強制し、特定するかを示す。我々の枠組みは、統計的安全性の保証を実証的に測定することを可能にする。このフレームワークは、コードセキュリティやエスケープ・ザ・ボックスのシナリオなど、幅広い設定に適用できる。

関連論文リスト

Resource-Optimized and Energy-Aware Agentic AI Framework Anchored on Blockchain for Secure Software Supply Chains [0.0]
本稿では,完全なソフトウェア開発ライフサイクルを保護するためのブロックチェーンベースのエージェントセキュリティフレームワークを提案する。このフレームワークは、ソースの整合性、依存性、SBOM分析、CIconfigura tion監査、アーティファクト検証、実行時ポリシー評価などをカバーする、特別なセキュリティエージェントのセットをコーディネートする。
論文参考訳（メタデータ） (2026-09-25T13:53:50Z)
AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。既存の安全機構は主に外部ガードレールに依存している。我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文参考訳（メタデータ） (2026-06-21T21:13:55Z)
SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
論文参考訳（メタデータ） (2026-06-01T14:23:42Z)
Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文参考訳（メタデータ） (2026-05-17T10:26:37Z)
Auditing Agent Harness Safety [81.22315979618612]
LLMエージェントは、ツールをディスパッチし、リソースを割り当て、特別なコンポーネント間でメッセージをルーティングする実行ハーネスの中でますます動作します。ほとんどの安全ベンチマークは最終出力または終端状態のみをスコアするが、多くの違反は終端ではなく、軌道の途中で発生する。 HarnessAuditは、境界コンプライアンス、実行の忠実さ、システムの安定性など、完全な実行軌跡を監査するフレームワークである。
論文参考訳（メタデータ） (2026-05-14T02:14:28Z)
Alignment Contracts for Agentic Security Systems [7.008213336755055]
我々は、観測可能な効果トレースに対する行動制約を規定し、強制するためのフレームワークであるアライメント契約を導入する。契約は、スコープ、許容および禁止された効果、リソース予算、開示ポリシーを定義します。リーン4アーティファクトは、論文が使用する公式なコア定理をチェックします。
論文参考訳（メタデータ） (2026-04-30T14:38:05Z)
SPEAR: An Engineering Case Study of Multi-Agent Coordination for Smart Contract Auditing [0.0]
スマートコントラクト監査のための多エージェント協調フレームワークSPEARを提案する。エージェントは、AGMに準拠したリビジョンによって更新された地域信条を維持し、交渉およびオークションプロトコルを介して調整し、新しい情報が利用可能になるにつれて計画を改訂する。
論文参考訳（メタデータ） (2026-02-04T10:51:19Z)
Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文参考訳（メタデータ） (2026-01-12T21:31:38Z)
Can One Safety Loop Guard Them All? Agentic Guard Rails for Federated Computing [0.0]
我々は,フェデレートコンピューティングのプライバシ保護のための新しいフレームワークであるGuardian-FCを提案する。多様なプライバシー保護機構にまたがって安全対策を統一する。本稿では,バックエンドに依存しない安全性を示す定性的なシナリオと,検証のための形式的モデル基盤を提案する。
論文参考訳（メタデータ） (2025-06-24T20:39:49Z)
LLM Agents Should Employ Security Principles [60.03651084139836]
本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
論文参考訳（メタデータ） (2025-05-29T21:39:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。