論文の概要: Rethinking Tool Design for Agentic RCA: A Controlled Empirical Study
- arxiv url: http://arxiv.org/abs/2610.05009v1
- Date: Sun, 04 Oct 2026 07:04:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 07:06:35.310258
- Title: Rethinking Tool Design for Agentic RCA: A Controlled Empirical Study
- Title(参考訳): エージェントRCAのためのツール設計の再考 : 実証的研究
- Abstract要約: 大規模言語モデル(LLM)エージェントは、マイクロサービスシステムにおける根本原因分析(RCA)のためにますます研究されている。
メトリクスアクセス(L1)、エビデンス分析(L2)、診断(L3)のための24の構造化ツールと、Pythonベースの参照設定(L0)を実装した。
以上の結果から,ツール構成がルートのローカライゼーションや障害タイプ識別に異なる影響を及ぼすことが明らかとなった。
- 参考スコア(独自算出の注目度): 16.54749284797867
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents are increasingly explored for root cause analysis (RCA) in microservice systems, yet empirical guidance on how to design and combine their tools remains limited. We conduct a controlled empirical study of tool abstraction and composition across models and microservice environments. We implement 24 structured tools for metric access (L1), evidence analysis (L2), and diagnosis (L3), alongside a Python-based reference setting (L0). Using 375 failure cases from three microservice systems, we evaluate eight configurations with Qwen3.7-Plus and compare four Qwen models on a shared subset of four configurations. Our results show that tool configurations affect root cause localization and failure type identification differently. With Qwen3.7-Plus, L3 achieves 82.8% top-1 localization accuracy compared with 85.4% for L0, while requiring less than half the time per case. Adding tool levels can improve type identification while reducing localization accuracy. Trajectory analysis reveals cases in which agents override correct diagnostic recommendations after consulting additional evidence. Model choice also changes tool benefits: adding L3 to L1+L2 improves diagnosis for three models but hurts Qwen3-8B, which rarely invokes L3. Tool configuration rankings further change across microservice systems. These findings provide an empirical foundation for designing and using RCA tools, guiding tool selection and composition according to the model, diagnostic objective, and target system.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントは、マイクロサービスシステムにおける根本原因分析(RCA)のためにますます研究されているが、ツールの設計と組み合わせに関する実証的なガイダンスは依然として限られている。
私たちは、モデルとマイクロサービス環境をまたいだツールの抽象化と構成に関する、制御された実証的研究を行います。
メトリクスアクセス(L1)、エビデンス分析(L2)、診断(L3)のための24の構造化ツールと、Pythonベースの参照設定(L0)を実装した。
3つのマイクロサービスシステムからの375の障害ケースを使用して、Qwen3.7-Plusで8つの構成を評価し、4つの構成の共有サブセットで4つのQwenモデルを比較します。
以上の結果から,ツール構成がルートのローカライゼーションや障害タイプ識別に異なる影響を及ぼすことが明らかとなった。
Qwen3.7-Plusでは、L3はL0の85.4%に比べて82.8%のTop-1ローカライゼーション精度を達成している。
ツールレベルを追加することで、ローカライゼーションの精度を低減しつつ、型識別を改善することができる。
軌道分析は、追加の証拠を照会した後、エージェントが正しい診断勧告を上書きするケースを明らかにする。
L1+L2にL3を追加することで,3つのモデルの診断が向上するが,Qwen3-8Bを損なうことは滅多にない。
ツール構成ランキングは、マイクロサービスシステム間でさらに変更される。
これらの結果は、RCAツールの設計と使用、モデル、診断目的、ターゲットシステムに基づくツールの選択と構成を導くための実証的な基盤を提供する。
関連論文リスト
- MLToolBench: Learning Tool-Augmented Agents for Machine Learning Development [16.30409316099456]
データ検査、コード検証、実験診断のための実行可能なツールスイートであるToolMLBenchを紹介します。
SPICEは、特権付きコンテキストがサンプルツールアクションの可能性をいかに変えるかを測定する。
80の合成タスクをトレーニングし、25のドメイン内タスクと10のドメイン外タスクを評価します。
論文 参考訳(メタデータ) (2026-09-29T04:17:26Z) - MCP-GRANITE Benchmark: GRANularity Interface TEsting for MCP-Based LLM Agents [0.15999407512883507]
具象性がツールにどのように分解されるかは、エージェントが適切なツールを選択し、有効な引数を構築することができるかどうかに影響する。
ツールインタフェースの粒度をMPPベースのエージェントの制御変数として扱うオープンソースのベンチマークフレームワークであるMPP-GRANITEを提案する。
タスク補完,ツール選択F1,引数の正確性,レイテンシ,リソース使用量の測定値を用いて,8,748の試行において,ローカルにデプロイされた9つのモデル(268M-20.9Bパラメータ)を評価した。
論文 参考訳(メタデータ) (2026-09-21T06:21:13Z) - Joint Optimization of Tool Creation and Use for Large Language Model Agents [69.07066297088187]
SMITH (-grounded Multi-task Iterative Tool Honing) は、単一のポリシー内でツールの作成とツールの使用を訓練する。
SMITHで訓練された4B Qwen3は、正確に検証された13の手続き的推論タスクで、保持されたタスクで平均79.8のマクロ平均精度に達する。
また、TabMWP-Hardでは40.4、ドメイン外のGQAでは42.6に到達している。
論文 参考訳(メタデータ) (2026-08-25T13:59:34Z) - Agent Explorative Policy Optimization for Multimodal Agentic Reasoning [97.64835302176056]
エージェント推論は2つの行動と構造的非対称性(思考と道具の使用)をインターリーブする。
GRPOのような標準的なRLレシピでは、ギャップはトレーニング中に2つの診断症状として現れる。
AXPO (Agent eXplorative Policy Optimization) を提案する。
論文 参考訳(メタデータ) (2026-05-27T17:36:39Z) - A Large Scale Empirical Analysis on the Adherence Gap between Standards and Tools in SBOM [54.38424417079265]
ソフトウェア・ビル・オブ・マテリアル(Software Bill of Materials, SBOM)は、ソフトウェア情報を整理する機械読み取り可能なアーティファクトである。
標準に従って、組織はSBOMの生成と利用のためのツールを開発した。
本稿では,我々の自動評価フレームワークであるSAPを用いて,接着ギャップの大規模2段階解析を行った。
論文 参考訳(メタデータ) (2026-01-09T08:26:05Z) - One Model to Critique Them All: Rewarding Agentic Tool-Use via Efficient Reasoning [54.580646706013965]
リワードモデル(RM)は、大きな言語モデルと人間の嗜好の整合において重要な役割を果たす。
一般的なツール使用シナリオに適した軽量な生成型RMのファミリーであるToolRMを紹介する。
これらのモデルを構築するために,ルールベースのスコアリングと多次元サンプリングを用いたペアワイズ選好データを構築するパイプラインを提案する。
論文 参考訳(メタデータ) (2025-10-30T06:08:27Z) - Exploring Modularity of Agentic Systems for Drug Discovery [1.1233814047122899]
大規模言語モデル(LLM)とエージェントシステムは、薬物発見を加速するエキサイティングな機会を提供する。
LLMやエージェントの種類などのシステムの一部が交換可能であるかを検討する。
論文 参考訳(メタデータ) (2025-06-27T12:57:00Z) - Adaptive Tool Use in Large Language Models with Meta-Cognition Trigger [49.81945268343162]
我々は,外部ツール利用のための適応型意思決定戦略であるMeCoを提案する。
MeCoは、表現空間内の高レベル認知信号をキャプチャすることで、メタ認知スコアを定量化する。
MeCoは微調整不要で、最小限のコストがかかる。
論文 参考訳(メタデータ) (2025-02-18T15:45:01Z) - ToolBeHonest: A Multi-level Hallucination Diagnostic Benchmark for Tool-Augmented Large Language Models [43.895478182631116]
ツール拡張大型言語モデル(LLM)は、現実世界のアプリケーションに急速に統合されている。
この課題に対処するために、包括的な診断ベンチマークであるToolBHを導入する。
ツールセットの特徴に基づいた,必要なツールや潜在的なツール,限定的な機能ツールの3つのシナリオについて検討する。
結果は、ToolBHベンチマークで提示された重要な課題を示している。
論文 参考訳(メタデータ) (2024-06-28T16:03:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。