論文の概要: Implicit Manipulation for Skill Selection in LLM Agents with Semantic Matching

• arxiv url: http://arxiv.org/abs/2609.02035v1
• Date: Wed, 02 Sep 2026 03:07:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:18.036503
• Title: Implicit Manipulation for Skill Selection in LLM Agents with Semantic Matching
• Title（参考訳）: 意味マッチングを用いたLLMエージェントのスキル選択のためのインプシットマニピュレーション
• Abstract要約: セマンティックマッチング(ISM)によるインプシティスキル選択操作について述べる。 ISMは、ターゲットスキルメタデータと再利用可能なプロンプトを作成し、明示的な選択命令なしでスキル選択を操作する。 人間のレビュアーはISMをわずか2.9%でブロックするが、明示的なステアリングは91.4%である。
• 参考スコア（独自算出の注目度）: 19.025072797409198
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Skill selection is a key stage in LLM-agent workflows, determining which installed skill should handle a user request. Existing attacks on this stage primarily rely on explicit prompt injection or instruction-level steering, which can expose recognizable manipulation signals. In this work, we identify a new implicit attack surface for skill selection: even when the user prompt and skill description appear benign in isolation, their semantic relationship can still be strategically shaped to favor an attacker-chosen skill. Based on this observation, we present Implicit Skill-Selection Manipulation via Semantic Matching (ISM), which jointly shapes target-skill metadata and reusable prompts to manipulate skill selection without explicit selection instructions. Specifically, we develop a three-stage strategy to broaden semantic coverage, strengthen target distinctiveness, and preserve natural prompt wording. Across four task domains and eight selector models, ISM increases the average target-selection rate (TSR) from 15.2% to 63.5%. In a matched comparison, ISM achieves a 73.5% TSR, only 9.8 percentage points below Explicit Steering. Human reviewers block ISM in only 2.9% of judgments, versus 91.4% for Explicit Steering, while five LLM-based inspectors pass ISM at an average rate of 82.9%, versus 37.4% for Explicit Steering. Moreover, ISM remains effective against PPL-W, Llama Prompt Guard 2, and PIGuard.
• Abstract（参考訳）: スキル選択はLLMエージェントワークフローにおける重要なステージであり、どのインストールスキルがユーザリクエストを処理するべきかを決定する。 この段階での既存の攻撃は主に明示的なプロンプトインジェクションや命令レベルのステアリングに依存しており、認識可能な操作信号を公開することができる。 本研究は,スキル選択のための新たな暗黙的な攻撃面を同定する。ユーザプロンプトとスキル記述が独立しても,その意味的関係は戦略的に形成され,アタッカー・チョーゼンのスキルが好まれる。 そこで本研究では,目標スキルメタデータを共同で形成し,明示的な選択命令を使わずにスキル選択を操作可能な,Implicit Skill-Selection Manipulation(ISM)を提案する。 具体的には、セマンティック・カバー範囲を広げ、ターゲットの識別性を強化し、自然なプロンプト・ワードを保存するための3段階戦略を開発する。 4つのタスクドメインと8つのセレクタモデルで、ISMは平均目標選択率(TSR)を15.2%から63.5%に引き上げている。 一致した比較では、ISMは73.5%のTSRを達成し、Explicit Steeringよりわずか9.8ポイント低い。 人間の審査員はISMをわずか2.9%、明示的ステアリングは91.4%、LSMベースの検査官5人が平均82.9%、明示的ステアリングは37.4%でブロックしている。 さらに、ISMはPPL-W、Llama Prompt Guard 2、PIGuardに対して有効である。

関連論文リスト

• SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification [0.0]
  nsfaguardは、エージェントAIシステムを運用上の脅威から保護するためのガードレールフレームワークである。 まず,185種のリスク変異をCIA-Triad-grounded 階層に分類するNSFA分類について紹介する。 凍結したバックボーン上の識別的分類ヘッドと解釈可能なオフライン監査のためのSFTに基づく生成推論を組み合わせたデュアルモードアプローチを開発した。
  論文  参考訳（メタデータ） (2026-07-13T07:28:45Z)
• SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills [7.465256215885481]
  大きな言語モデル(LLM)エージェントは、エージェントスキルをロードすることで、実行時にその機能を拡張する。 スキルの振る舞いは自然言語命令と実行可能コードの両方に依存しているため、その安全性を評価するにはクロスモーダル推論が必要である。 我々は、Agent Skillsに対する言語とコードのクロスモーダル攻撃をインストール時に検出する最初のベンチマークであるSkillMutatorを紹介した。
  論文  参考訳（メタデータ） (2026-06-12T06:27:12Z)
• Skill or Skip? Learning Selective Skill Invocation in Agentic Tasks via Dual-Granularity Preference Learning [7.040842274056163]
  SelSkillは、選択的なスキル実行のための二粒度選好学習フレームワークである。 Qwen3-8BのALFWorldでは、SelSkillはタスク成功率を10.9ポイント、実行精度を29.1ポイント改善している。
  論文  参考訳（メタデータ） (2026-05-30T04:00:23Z)
• The Capability Paradox: How Smarter Auditors Make Multi-Agent Systems Less Secure [11.822284421559814]
  これは、有害な要求がドメイン固有の物語の中に隠され、Workerレポートを通じてマネージャに伝達される攻撃である。 労働者の能力が増加するにつれて、平均的なシステムレベルの攻撃成功率(ASR)は18.4%から63.9%に増加し、94.4%がピークである。 非対称なドメイン能力とWorkersのペアを組み合わさった異種アンサンブル検証を提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:42:44Z)
• Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
  SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。 SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
  論文  参考訳（メタデータ） (2026-05-12T02:11:54Z)
• Structured Uncertainty guided Clarification for LLM Agents [126.26213027785813]
  LLMエージェントは、ツールコール機能を備えた大きな言語モデルを拡張するが、曖昧なユーザ命令は、しばしば誤った呼び出しやタスクの失敗につながる。 本稿では,ツールコールパラメータに対する構造的不確かさの定式化,完全情報の期待値(EVPI)を目標としたPOMDPのモデル化,冗長性防止のためのアスペクトベースコストモデルを提案する。 我々のSAGE-Agentは、この構造化された不確実性を活用し、より優れた効率を達成するために、曖昧なタスクのカバレッジを7～39%増加させ、明確な質問を1.5～2.7$times$に減らした。
  論文  参考訳（メタデータ） (2025-11-11T21:50:44Z)
• Shoot First, Ask Questions Later? Building Rational Agents that Explore and Act Like People [81.63702981397408]
  限られたリソースを前提として、言語モデル(LM)に基づいたエージェントは、どの程度合理的に行動するのか? エージェント情報探索をベンチマークし,強化する手法を開発し,人間の行動から洞察を抽出する。 Spotterエージェントでは、LMのみのベースラインよりも14.7%の精度で精度を向上し、Captainエージェントでは、期待情報ゲイン(EIG)を0.227ビット(達成可能なノイズ天井の94.2%)まで引き上げる。
  論文  参考訳（メタデータ） (2025-10-23T17:57:28Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE [203.65227947509933]
  このレポートでは、スーパーGLUEのリーダーボードにJDExplore d-teamのVega v2を提出しました。 SuperGLUEは、広く使われている汎用言語理解評価(GLUE)ベンチマークよりも難易度が高く、8つの難しい言語理解タスクを含んでいる。
  論文  参考訳（メタデータ） (2022-12-04T15:36:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。