論文の概要: RuntimeTickets: Source-Grounded Security Obligations for Agent Skills
- arxiv url: http://arxiv.org/abs/2611.03772v1
- Date: Mon, 02 Nov 2026 17:31:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-11 11:07:19.148092
- Title: RuntimeTickets: Source-Grounded Security Obligations for Agent Skills
- Title(参考訳): RuntimeTickets: エージェントスキルのためのソース周囲のセキュリティ義務
- Abstract要約: サードパーティのエージェントスキルは、正当なワークフロー内でデータの露出や出力操作を隠すことができる。
Skillの実行中にこれらの要件を強制および監査するプロトコルであるTicketsを紹介します。
- 参考スコア(独自算出の注目度): 12.387438676439963
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Third-party Agent Skills extend what an autonomous agent can do, but a malicious Skill can hide data exposure or output manipulation inside a legitimate workflow. Neither reading a Skill's description nor granting it tool permissions tells whether its execution meets the user's security requirements. We introduce RuntimeTickets, a protocol that enforces and audits these requirements while a Skill runs. From released malicious-Skill datasets we derive a risk model and build adversarial-benign Skill pairs. From the task's delivery contract, a language model proposes security obligations for that task. Each obligation cites the Skill lines it answers, and the ticket tightens the host's approvals into fine-grained allowed actions but never loosens them. A runtime gate checks the recipient, object and amount of every outbound send before forwarding it, and trusted monitors record the effects within their observation scope. The ticket links these checks and observations to the approved obligations of each Skill run, and a deterministic decoder turns the ticket's status into governable data flows and verifies each obligation. Neither enforcement nor decoding involves a language model, so text injected by a Skill can change the proposal but never the rule that decides a send. We evaluate RuntimeTickets at the network egress boundary of three unmodified agent frameworks against production Skill scanners and runtime baselines, among them an AgentBound-derived allow-list and SkillGuard. RuntimeTickets eliminated both failure modes of current Skill defenses, overlook (malicious Skills let through) and overkill (benign Skills blocked): its overlook rate was 0.0% and its overkill rate 0.0%, while the scanners erred on both sides. RuntimeTickets ties approved requirements to verifiable execution evidence and offers a common foundation for the safe and auditable deployment of third-party Skills.
- Abstract(参考訳): サードパーティのエージェントスキルは、自律エージェントができることを拡張するが、悪意のあるスキルは、正当なワークフロー内でデータ露出や出力操作を隠すことができる。
スキルの説明を読んだり、ツールの許可を与えたりしても、その実行がユーザのセキュリティ要件を満たしているかどうかは示さない。
RuntimeTicketsは、Skillの実行中にこれらの要求を強制し、監査するプロトコルです。
リリースされた悪意のあるスキルデータセットからリスクモデルが導出され、対向的なベニオンスキルのペアが構築されます。
タスクのデリバリ契約から、言語モデルは、そのタスクに対するセキュリティ義務を提案します。
それぞれの義務は、それが答えるスキルラインを引用し、チケットは、ホストの承認をきめ細かな許可されたアクションに締め付けるが、決してそれらを緩めることはない。
実行時ゲートは、転送する前に受信者、オブジェクト、送信する各送信の量をチェックし、信頼されたモニターは、その観測範囲内でその影響を記録する。
チケットはこれらのチェックと観察を各スキルランの承認された義務にリンクし、決定論的デコーダはチケットのステータスを制御可能なデータフローに変換し、それぞれの義務を検証する。
強制や復号には言語モデルが含まれないので、スキルによって注入されたテキストは提案を変更することはできないが、送信を決定するルールは変更されない。
我々は,AgentBound由来の許容値リストとSkillGuardを含む実運用Skillスキャナとランタイムベースラインに対して,修正されていない3つのエージェントフレームワークのネットワーク外部境界でRuntimeTicketsを評価する。
RuntimeTicketsは、現在のスキルディフェンスの障害モード、オーバールック(見落とし)、オーバースキル(見落とし)の2つのモードを廃止した。
RuntimeTicketsは、承認された要件を検証された実行証拠に結び付け、サードパーティ製スキルの安全で監査可能なデプロイのための共通の基盤を提供する。
関連論文リスト
- Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents [0.9453554184019107]
スキルは、コンテキストに命令と情報を注入することでエージェントの機能を拡張する。
以前の調査では、サードパーティのマーケットプレースは悪意のあるスキルをホストしており、攻撃者は被害者のエージェントに直接的な影響力を与える。
このような防御は、検知器を知っている攻撃者によって行われる。
論文 参考訳(メタデータ) (2026-09-30T12:26:33Z) - Can Agents Trust Their Skills? Uncovering Unsafe Chains of Trust in Skill-Based LLM Agents [33.534136523746106]
TrustProbeは、スキルベースのLLMエージェントに対する安全でない信頼の連鎖を明らかにするためのフレームワークである。
エージェントソースコードを分析して、スキル制御された入力からセキュリティに敏感な操作まで、ソースからシンクまでのコールパスを識別する。
11のオープンソースエージェントにまたがる104のtaintスタイルの脆弱性を特定する。
論文 参考訳(メタデータ) (2026-09-30T06:04:44Z) - Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems [79.08507314067253]
スキルカスケード攻撃では、悪意のある目的が複数のスキルに分散され、それぞれの変更が独立して良さそうに見えるが、それらの組み合わせの実行は有害である。
本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
論文 参考訳(メタデータ) (2026-09-24T18:00:18Z) - Auto-Policy, not Auto-Skill: Compiled Agent Skills for the Physical World [6.238629583105336]
自己進化型スキルハーネスは、自動的によりアドバイザリなオーケストレーションを生成する。
スキルはエージェントがどのように振る舞うかを記述し、ポリシーはどの動作がアクションになるかを決定します。
ツール間ではなく、Skillアーティファクト内に存在する型付き権威層であるEdge Skillguardを提案する。
論文 参考訳(メタデータ) (2026-08-25T19:40:50Z) - SkillAudit: Ground-Truth-Free Skill Evolution via Paired Trajectory Auditing [81.51044612408793]
SkillAuditは、地味なフィードバックなしにエージェントスキルを進化させるフレームワークである。
行動の違いを編集指導に変換するために、SkillAuditはProcess-Aligned Contrastive Evaluationを使用する。
Refineはノイズや無関係なガイダンスを広く有用なスキルから取り除き、修復はタスクと競合するパスを置き換える。
論文 参考訳(メタデータ) (2026-06-12T08:20:09Z) - SkillGuard: A Permission Framework for Agent Skills [14.787581333168859]
我々はスキル中心のパーミッションフレームワークであるSkillGuardを紹介した。
SkillGuardを実世界の315のスキルとSkillInjectで評価した。
論文 参考訳(メタデータ) (2026-06-02T02:01:53Z) - SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。
我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。
攻撃成功率はFPPが86.3%、SMPが69.3%である。
論文 参考訳(メタデータ) (2026-06-01T17:45:39Z) - COLLEAGUE.SKILL: Automated AI Skill Generation via Expert Knowledge Distillation [58.84646485020439]
人為的なAIスキルを生成するための自動トレース・ツー・スキル蒸留システムを提案する。
COLLEAGUE.SKILLは、実践、メンタルモデル、意思決定のための能力トラックと、コミュニケーションスタイル、インタラクションルール、修正履歴のための有界な行動トラックの2つのトラックを持つバージョン付きのスキルパッケージを生成する。
論文 参考訳(メタデータ) (2026-05-29T12:59:08Z) - Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。
SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
論文 参考訳(メタデータ) (2026-05-12T02:11:54Z) - Malicious Agent Skills in the Wild: A Large-Scale Security Empirical Study [47.60135753021306]
サードパーティのエージェントスキルは、LLMベースのエージェントを拡張して、命令ファイルとユーザのマシン上で動作する実行可能なコードを生成する。
結果として生じる脅威を特徴づけるために、地中真実のデータセットは存在しない。
我々は,98,380のスキルを行動検証することで,悪質なエージェントスキルのラベル付きデータセットを構築した。
論文 参考訳(メタデータ) (2026-02-06T09:52:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。