論文の概要: LatentTriad: Pre-Action Risk Representations for Malicious Agent Skill Detection

• arxiv url: http://arxiv.org/abs/2611.05088v1
• Date: Tue, 03 Nov 2026 15:46:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 14:30:55.247298
• Title: LatentTriad: Pre-Action Risk Representations for Malicious Agent Skill Detection
• Title（参考訳）: LatentTriad:悪意のあるエージェントスキル検出のためのプレアクションリスク表現
• Abstract要約: プレフィル中に形成された隠れ状態には、タスク操作の一貫性に関する可読性のある情報が含まれている。 我々は、コンテキスト境界の特徴、グループ調整された操作方向、良質な状態関係からの離脱を組み合わせたLatntTriadを紹介する。
• 参考スコア（独自算出の注目度）: 11.29248727196435
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model agents are increasingly extended with reusable skills, but untrusted skill content can induce operations outside the user's task. Detecting this contextual risk requires more than suspicious-pattern matching, while dynamic analysis incurs the cost of skill execution. We find that hidden states formed during prefill contain readable information about task-operation consistency, including across held-out expression forms in controlled evaluations. Matched Operation-state interventions also affect later Boundary states and shift fixed risk readouts toward the donor label. Based on these findings, we introduce LatentTriad, which combines contextual Boundary features, group-adjusted Operation directions, and departures from benign state relationships. All branches share one prefill: detection generates no output tokens, invokes no tools, and executes no skill code. Across 5,830 skill packages from five sources and seven backbones, LatentTriad achieves 99.0-99.2% pooled F1 and 93.0-94.6% source-macro F1. A separately measured compact implementation completes prefill and detection in a median of 259-284 ms. These results connect pre-action risk readability and functional influence to execution-free skill screening.
• Abstract（参考訳）: 大規模な言語モデルエージェントは、再利用可能なスキルでますます拡張されているが、信頼できないスキルコンテンツは、ユーザのタスク外の操作を誘発することができる。 このコンテキストリスクの検出には疑わしいパターンマッチング以上のものが必要であり、動的解析はスキル実行のコストを発生させる。 プレフィル中に形成された隠れ状態には、制御された評価において、保持された表現形式を含むタスク操作の一貫性に関する可読性情報が含まれている。 整合した操作状態の介入は、後の境界状態にも影響し、固定されたリスクリードアウトをドナーラベルにシフトさせる。 これらの知見に基づいて,コンテキスト境界特徴,グループ調整操作方向,良質な状態関係からの離脱を組み合わせたLatntTriadを導入する。 検出は出力トークンを生成せず、ツールを起動せず、スキルコードを実行しません。 5つのソースと7つのバックボーンから5,830個のスキルパッケージにまたがって、LatentTriadは99.0-99.2%のプールF1と93.0-94.6%のソースマクロF1を達成した。 個別に測定されたコンパクトな実装は, プレフィルと検出を中央値259-284msで完了し, これらの結果は, プレアクションの可読性と機能的影響を, 実行自由スキルスクリーニングに結びつける。

関連論文リスト

• V$^3$AST-Bench: Verifiable, Valid, and Versatile Safety Evaluation for Coding Agents [22.833790946734307]
  大規模な言語モデルは、コード、リポジトリの変更、プログラムの実行、エージェント形式のサービスとのインタラクションを通じて、ますます機能します。 安全性評価は、実際の結果を確認し、危険回避とタスクの不能を区別し、現実をカバーしなければなりません。 V$3$AST-Bench, 検証結果のベンチマーク, 検証解釈, エージェントセーフティの検証リスクカバレッジについて紹介する。
  論文  参考訳（メタデータ） (2026-10-26T10:44:18Z)
• Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems [79.08507314067253]
  スキルカスケード攻撃では、悪意のある目的が複数のスキルに分散され、それぞれの変更が独立して良さそうに見えるが、それらの組み合わせの実行は有害である。 本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
  論文  参考訳（メタデータ） (2026-09-24T18:00:18Z)
• MaliciousSkillBench: A Comprehensive Benchmark for Malicious Agent Skill Detection [24.37473229751569]
  MaliciousSkillBenchは、悪意のあるエージェントスキル検出のための包括的なベンチマークである。 我々は13の公開ソースを統合し、そのうち11つはCoreの悪意のあるアーティファクトに貢献し、8,414の生の悪意のあるレコードを7,539の正規化されたユニクティックIDに減らした。 そして、3つの学習されたテキスト検出器と3つの既製のスキルスキャナを評価した。
  論文  参考訳（メタデータ） (2026-08-20T11:13:00Z)
• Demystifying Agent Skills: Why They Work-Until They Don't [58.92875630998418]
  既存の評価は、スキルが集約されたタスクの成功を改善するかどうかを主に測定する。 我々は、表現、結果アノテーション、検索難易度、スキルのクロスフレームワークの影響を分離する。 我々はこれらの観察を3つの高レベルカテゴリと12のスキルユースモードの分類に集約する。
  論文  参考訳（メタデータ） (2026-08-14T07:26:38Z)
• SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification [0.0]
  nsfaguardは、エージェントAIシステムを運用上の脅威から保護するためのガードレールフレームワークである。 まず,185種のリスク変異をCIA-Triad-grounded 階層に分類するNSFA分類について紹介する。 凍結したバックボーン上の識別的分類ヘッドと解釈可能なオフライン監査のためのSFTに基づく生成推論を組み合わせたデュアルモードアプローチを開発した。
  論文  参考訳（メタデータ） (2026-07-13T07:28:45Z)
• SkillAudit: Ground-Truth-Free Skill Evolution via Paired Trajectory Auditing [81.51044612408793]
  SkillAuditは、地味なフィードバックなしにエージェントスキルを進化させるフレームワークである。 行動の違いを編集指導に変換するために、SkillAuditはProcess-Aligned Contrastive Evaluationを使用する。 Refineはノイズや無関係なガイダンスを広く有用なスキルから取り除き、修復はタスクと競合するパスを置き換える。
  論文  参考訳（メタデータ） (2026-06-12T08:20:09Z)
• Behavioral Integrity Verification for AI Agent Skills [9.127363793428119]
  我々はこれを行動整合性検証(BIV)問題として定式化する。 OpenClawレジストリの49,943のスキルでは、逸脱分類が広範な記述と実装のギャップを明らかにしている。 906スキルの悪質なスキル検出ベンチマークでは、BIVは0.946のF1に達し、最先端のルールベースとシングルパスのLCMベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-05-12T08:41:09Z)
• Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
  SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。 SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
  論文  参考訳（メタデータ） (2026-05-12T02:11:54Z)
• Credential Leakage in LLM Agent Skills: A Large-Scale Empirical Study [51.717224133855886]
  サードパーティのスキルはLLMエージェントを強力な能力で拡張するが、特権のある環境では機密情報を扱うことが多い。 静的解析,サンドボックステスト,手動検査を用いて17,022のスキル(SkillsMPで170,226からサンプリング)を分析した。 我々は,1,708の課題で520の脆弱なスキルを識別し,10の漏洩パターン(事故4件,反対6件)の分類を導出する。
  論文  参考訳（メタデータ） (2026-04-03T14:50:16Z)
• FamiCom: Further Demystifying Prompts for Language Models with Task-Agnostic Performance Estimation [73.454943870226]
  言語モデルは、コンテキスト内学習能力に優れています。 本稿では,タスク非依存のパフォーマンス推定のためのより包括的な尺度であるFamiComを提案する。
  論文  参考訳（メタデータ） (2024-06-17T06:14:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。