論文の概要: When Tool-Backed Skill Retrieval Fails: Source-Style Collapse in Executable Capability Retrieval
- arxiv url: http://arxiv.org/abs/2608.16502v1
- Date: Mon, 17 Aug 2026 12:39:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.684995
- Title: When Tool-Backed Skill Retrieval Fails: Source-Style Collapse in Executable Capability Retrieval
- Title(参考訳): ツールベースのスキル検索の失敗:実行可能能力検索におけるソーススタイルの崩壊
- Abstract要約: 大規模なエージェントは、外部機能にアクセスするために、検索にますます依存している。
ツールが支援する実行可能なスキルの計測可能なクラスである構造化ツールとAPIで,この検索ゲートについて検討する。
本稿では,この信号をルーティングガードとして利用するソース認識型ルーティング手法であるToolScoutを提案する。
- 参考スコア(独自算出の注目度): 24.092221151107413
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large-scale agents increasingly rely on retrieval to access external capabilities. We study this retrieval gate in structured tools and APIs, a measurable class of tool-backed executable skills that must be surfaced before an agent can plan, incorporate, or act. In this setting the retrieval layer can silently fail even when the capability corpus is fixed: on ToolRet, a retriever fine-tuned on one source-specific slice collapses on another source-specific slice of the same benchmark, with FT-1100 despite its higher lexical overlap with the gold tools. We call this failure mode source-style collapse. Query-side TF-IDF fingerprints flag source styles on which the fine-tuned retriever is likely to fail better than semantic or length-based proxies, giving a cheap signal for mismatch over a fixed tool corpus. We propose ToolScout, a source-aware routing method that uses this signal as a routing guard: on the mixed 4,996-query stream, TF-IDF-based routing raises coverage from 22.3% to 86.1%, and across five collapsed sources 20 matched examples raise the coverage-weighted global top-1 proxy from 1.3% to 53.9%. The same failure and routing behaviors persist when tools are rerendered as executable skill cards, which rules out raw API-schema format as the sole cause.
- Abstract(参考訳): 大規模なエージェントは、外部機能にアクセスするために、検索にますます依存している。
我々は,この検索ゲートを,エージェントが計画し,組み込んだり,行動したりする前に表面化しなければならないツールベースの実行可能なスキルの計測可能なクラスである構造化ツールとAPIで研究する。
この設定では、検索層は、機能コーパスが固定された場合でも静かに失敗する可能性がある: ToolRetでは、あるソース固有のスライスに微調整されたレトリバーが、同じベンチマークの別のソース固有のスライスに崩壊する。
この障害モードをソーススタイルの崩壊と呼ぶ。
クエリサイドのTF-IDFフィンガープリントは、微調整されたレトリバーがセマンティックや長さベースのプロキシよりも失敗しがちなソーススタイルであり、固定されたツールコーパス上のミスマッチのための安価な信号を提供する。
混在する4,996クエリストリームでは、TF-IDFベースのルーティングが22.3%から86.1%までの範囲を拡大し、5つの崩壊したソース20が一致し、カバー重み付きグローバルトップ1プロキシが1.3%から53.9%に増加した。
ツールが実行可能なスキルカードとして再レンダリングされると、同じ障害やルーティング動作が継続する。
関連論文リスト
- Hub-Spectral Activation of Latent Multimodal Knowledge [48.72626098917089]
Hub-Spectral Activation (HSA) は、凍結表現における潜在マルチモーダル知識のハブ可読成分の回復と活性化のための閉形式法である。
HSAは、ハブエッジ統計データを合成し、標準化し、ペア化されたスペクトル方向を抽出し、信頼性に富んだ一致した証拠とソースゲートの候補分解を結合する。
論文 参考訳(メタデータ) (2026-09-15T12:27:42Z) - Extracting Knowledge from Tools in LLM Agents [21.52835460223008]
LLMエージェントは通常、知識ベースのツールを使用して、ツールの呼び出しを通じて、基礎となるファイル、データベース、検索インデックスにアクセスする。
本稿では,ツールによる知識抽出のリスクを体系的に検討する。
クエリのみの抽出攻撃であるToolSiphonを提案する。
論文 参考訳(メタデータ) (2026-08-31T05:55:17Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳(メタデータ) (2026-08-27T01:22:14Z) - Forgotten in Weights, Recovered by Tools: Agentic Tool Unlearning for LLM Agents [54.050506620820784]
エージェントツールアンラーニング(ATU)は、通常のツール使用を保持しながら、パラメトリックリコールとツールによるリカバリの両方を削減することを目的としている。
ATUは、ツール強化されたエージェントデプロイメント下で、ターゲットの忘れと保持ユーティリティのバランスを向上し、未学習をより堅牢にする。
論文 参考訳(メタデータ) (2026-08-21T18:34:48Z) - Breadcrumbing Search Agents [118.20284823674382]
LLMベースの検索エージェントは情報検索タスクに広く利用されているが、外部ツールへの依存度は重大なセキュリティリスクをもたらす。
検索およびページ観察を行うチャネルは脆弱なセキュリティ境界であることを示す。
制約付きツール仲介脅威モデルの下では、クエリ毎に1つのコントロールされた結果のみを追加することで、攻撃の成功を大幅に増加させることができる。
論文 参考訳(メタデータ) (2026-08-05T07:57:27Z) - Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents [0.0]
12個の生産スタブに4つのサイレント障害プロファイルを注入する、軽量なブラックボックス監査フレームワークを導入する。
我々は,HSR(Honest Surrender),製造(FAR),不信の安全拒絶(Unfaithful Safety Refusal)が支配的であることを発見した。
USRは、システム内の安全語彙が政策論理を素数に促すと活性化される潜伏行動である。
論文 参考訳(メタデータ) (2026-07-21T13:23:05Z) - AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents [83.37969790806069]
LLMエージェントのエラーは、エラーが表面化するステップが原因ではないことが多いため、デバッグが難しい。
Agent DebuggerXはオープンソースのフレームワークで、デバッグをDe Detect, Attribute, Recover, Rerunのクローズドループとして整理する。
コアとなるDeep Debuggerは、グローバルな軌跡理解を通じてマルチターン根本原因診断を行う。
論文 参考訳(メタデータ) (2026-07-21T06:21:13Z) - ToolAtlas: Learning Once, Reusing Everywhere with Tool-Side Memory [49.08868447320197]
大規模言語モデル(LLM)エージェントは、共有プロバイダが提供する外部ツールにますます依存している。
既存のアプローチでは、パラメータ更新、プロンプトリファインメント、エージェント側のメモリを通じて、エージェント側のツール使用を改善する。
グラフベースのフレームワークであるToolAtlasを紹介します。
論文 参考訳(メタデータ) (2026-07-13T06:01:41Z) - Source-Aware Reranking for Retrieval-Augmented Generation: A Reliability Prior Approach [0.0]
本研究は,RAG検索ランキングの簡易かつ解釈可能な変更について評価する。
このフレームワークは120文書の健康ドメインコーパスの類似性のみのベースラインに対して評価される。
source-aware re ranking は Precision@5 を 0.48 から 0.72 に改善し、平均敵対的なドキュメント検索を減らす。
論文 参考訳(メタデータ) (2026-06-08T14:09:04Z) - SkillDAG: Self-Evolving Typed Skill Graphs for LLM Skill Selection at Scale [54.70985426016736]
本稿では,スキル間関係を型付き有向グラフとしてモデル化したSkillDAGを提案する。
各検索はベクトルマッチング、型付きエッジ隣人、競合信号を返す。
ALFWorldとSkillsBench with MiniMax-M2.7では、SkillDAGは67.1%の成功と27.3%の報酬を得た。
論文 参考訳(メタデータ) (2026-06-02T02:45:21Z) - Tool Forge: A Validation-Carrying Toolchain for Governed Agentic Execution [3.2702644625831794]
本稿では,自然言語能力の意図をサンドボックスで検証されたツールアーティファクトに変換する検証用ツールチェーンであるTool Forgeを紹介する。
また、モデルコンテキストに完全なカタログスキーマをロードする代わりに、インテントスコープツールセッションを公開するルータも導入されている。
論文 参考訳(メタデータ) (2026-05-27T05:45:58Z) - Governing Dynamic Capabilities: Cryptographic Binding and Reproducibility Verification for AI Agent Tool Use [0.0]
既存のセキュリティレイヤでは、AIエージェントに何ができるか、それが主張するものを実行したのか、マルチエージェントインタラクションで何が起きたのかを検証できない。
既存のフレームワークはこれら2つを詳述し、サイレントな能力のエスカレーションを可能にし、検証済みの証明なしに相互作用を残す。
我々は3つのエージェントガバナンス要件を導出する:能力の完全性(G1)、行動の妥当性(G2)、相互作用監査性(G3)。
基本(Ed25519, SHA-256; 97 us verify)と拡張(BBS+選択開示、Groth16 DV-SNARK; 13.8 ms)の2つの暗号に依存しないインスタンス化で検証する。
論文 参考訳(メタデータ) (2026-03-15T11:46:57Z) - ChainFuzzer: Greybox Fuzzing for Workflow-Level Multi-Tool Vulnerabilities in LLM Agents [42.37163874052913]
ChainFuzzerは、監査可能なエビデンスでマルチツール脆弱性を発見し再現するためのフレームワークである。
20の人気のあるLLMエージェントアプリ(998ツール)上でChainFuzzerを評価する。
論文 参考訳(メタデータ) (2026-03-13T03:35:54Z) - BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents [58.83028403414688]
大規模言語モデル(LLM)エージェントは、計画、メモリ、ツールの使用を組み合わせた多段階ワークフローを通じてタスクを実行する。
エージェントワークフローの特定のステージに注入されたバックドアトリガーは、複数の中間状態を通して持続し、下流出力に悪影響を及ぼす可能性がある。
LLMエージェントにおけるバックドア脅威を統一したエージェント中心のビューを提供するモジュールおよびステージアウェアフレームワークである textbfBackdoorAgent を提案する。
論文 参考訳(メタデータ) (2026-01-08T03:49:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。