論文の概要: Semantic Context for Tool Orchestration
- arxiv url: http://arxiv.org/abs/2507.10820v1
- Date: Mon, 14 Jul 2025 21:38:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-16 19:46:02.895652
- Title: Semantic Context for Tool Orchestration
- Title（参考訳）: ツールオーケストレーションのための意味的文脈
- Authors: Robert Müller,
- Abstract要約: 本稿では、記述ツール情報を活用するセマンティックコンテキスト(SC)が、堅牢なツールオーケストレーションの基礎となるコンポーネントであることを実証する。
まず,SC-LinUCBを導入し,より少ない後悔と動的行動空間への適応性を証明し,文脈的包帯を用いた理論的基盤を提供する。
第2に,大規模言語モデルを用いた並列実証検証を行い,静的(効率的な学習)と非定常(ロバスト適応)の両方の設定において,SCがコンテキスト内学習の成功に不可欠であることを示す。
- 参考スコア（独自算出の注目度）: 2.5509005797091113
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper demonstrates that Semantic Context (SC), leveraging descriptive tool information, is a foundational component for robust tool orchestration. Our contributions are threefold. First, we provide a theoretical foundation using contextual bandits, introducing SC-LinUCB and proving it achieves lower regret and adapts favourably in dynamic action spaces. Second, we provide parallel empirical validation with Large Language Models, showing that SC is critical for successful in-context learning in both static (efficient learning) and non-stationary (robust adaptation) settings. Third, we propose the FiReAct pipeline, and demonstrate on a benchmark with over 10,000 tools that SC-based retrieval enables an LLM to effectively orchestrate over a large action space. These findings provide a comprehensive guide to building more sample-efficient, adaptive, and scalable orchestration agents.
- Abstract（参考訳）: 本稿では、記述ツール情報を活用するセマンティックコンテキスト(SC)が、堅牢なツールオーケストレーションの基礎となるコンポーネントであることを実証する。
私たちの貢献は3倍です。
まず,SC-LinUCBを導入し,より少ない後悔と動的行動空間への適応性を証明し,文脈的包帯を用いた理論的基盤を提供する。
第2に,大規模言語モデルを用いた並列実証検証を行い,静的(効率的な学習)と非定常(ロバスト適応)の両方の設定において,SCがコンテキスト内学習の成功に不可欠であることを示す。
第3に、我々はFiReActパイプラインを提案し、SCベースの検索によってLLMが大きなアクション空間上で効果的にオーケストレーションできる1万以上のツールでベンチマークを行った。
これらの発見は、よりサンプリング効率、適応性、スケーラブルなオーケストレーションエージェントを構築するための包括的なガイドを提供する。
関連論文リスト
- StrucSum: Graph-Structured Reasoning for Long Document Extractive Summarization with LLMs [1.5134121362787107]
StrucSumは、大規模言語モデル(LLM)のためのトレーニングフリープロンプトフレームワークである。
構造信号を3つの戦略を介してプロンプトに注入する。
ArXiv、PubMed、Multi-Newsの実験では、StrucSumは要約品質と事実整合性の両方を一貫して改善している。
論文 参考訳（メタデータ） (2025-05-29T00:10:23Z) - Eliciting In-context Retrieval and Reasoning for Long-context Large Language Models [27.217391392240113]
長文言語モデル(LCLM)は知識ベース全体を処理し、直接検索と推論を行うことができる。
LOFTのような既存のベンチマークは、過度に単純化されたコンテキストを提供することでLCLMのパフォーマンスを過大評価することが多い。
ICR2はLCLMをより現実的なシナリオで評価するベンチマークである。
次に, LCLMの性能向上のための3つの手法を提案する。(1) 検索-then-generate fine-tuning, (2) 注意頭を用いてデコード中の長いコンテキストをフィルタリング・復調する検索-attention-probing, (3) 生成ヘッドと併用した共同検索ヘッドトレーニング。
論文 参考訳（メタデータ） (2025-01-14T16:38:33Z) - From Exploration to Mastery: Enabling LLMs to Master Tools via Self-Driven Interactions [60.733557487886635]
本稿では,大規模言語モデルと外部ツールとの包括的ギャップを埋めることに焦点を当てる。
動的精錬ツールの文書化を目的とした新しいフレームワーク DRAFT を提案する。
この方法論は、3つの異なる学習フェーズからなる革新的な試行錯誤アプローチに基づいている。
論文 参考訳（メタデータ） (2024-10-10T17:58:44Z) - Data-Efficient Massive Tool Retrieval: A Reinforcement Learning Approach for Query-Tool Alignment with Language Models [28.67532617021655]
外部ツールやAPIと統合された大規模言語モデル(LLM)は、コンテキスト内学習や微調整によって複雑なタスクにうまく対応している。
この進歩にもかかわらず、厳密な入力長制約のため、ツール検索の大規模化は依然として困難である。
本稿では,大規模なツール検索(MTR)タスクとして,大規模リポジトリからの事前検索戦略を提案する。
論文 参考訳（メタデータ） (2024-10-04T07:58:05Z) - Is In-Context Learning Sufficient for Instruction Following in LLMs? [38.29072578390376]
実効性はあるものの, MT-Bench の命令微調整と比較すると, ICL とAL とのアライメントは依然として不十分であることがわかった。
我々は、我々の知識、ICLの体系的比較、低データ体制における命令追従のための命令微調整(IFT)を初めて提供する。
論文 参考訳（メタデータ） (2024-05-30T09:28:56Z) - Towards Completeness-Oriented Tool Retrieval for Large Language Models [60.733557487886635]
現実世界のシステムは多種多様なツールを組み込んでおり、全てのツールを大規模言語モデルに入力することは不可能である。
既存のツール検索手法は主にユーザクエリとツール記述間のセマンティックマッチングに焦点を当てている。
我々は,ユーザクエリとツール記述のセマンティックな類似性だけでなく,ツールの協調的情報も考慮した,新しいモデル診断型協調学習型ツール検索手法であるCOLTを提案する。
論文 参考訳（メタデータ） (2024-05-25T06:41:23Z) - Rich Semantic Knowledge Enhanced Large Language Models for Few-shot Chinese Spell Checking [21.799697177859898]
本稿では,RS-LLM (Rich Semantic based LLMs) というコンテキスト内学習手法を用いて,大規模言語モデル (LLM) を基礎モデルとして導入する。
少数の中国固有のリッチなセマンティック構造を導入することで、LCMは、数ショットのCSCタスクにおいてBERTベースのモデルよりも優れた性能が得られることがわかった。
論文 参考訳（メタデータ） (2024-03-13T12:55:43Z) - From Summary to Action: Enhancing Large Language Models for Complex
Tasks with Open World APIs [62.496139001509114]
大規模な現実世界のAPIを制御するために設計された新しいツール呼び出しパイプラインを導入します。
このパイプラインは人間のタスク解決プロセスを反映し、複雑な実際のユーザクエリに対処する。
ToolBenchベンチマークにおけるSum2Actパイプラインの実証的な評価は、大幅なパフォーマンス向上を示している。
論文 参考訳（メタデータ） (2024-02-28T08:42:23Z) - Contextualization Distillation from Large Language Model for Knowledge
Graph Completion [51.126166442122546]
我々は、差別的かつ生成的なKGCフレームワークと互換性のあるプラグイン・アンド・プレイ方式であるContextualization Distillation戦略を導入する。
提案手法は,大規模言語モデルに対して,コンパクトで構造的な三重項を文脈に富んだセグメントに変換するように指示することから始まる。
多様なデータセットとKGC技術にわたる総合的な評価は、我々のアプローチの有効性と適応性を強調している。
論文 参考訳（メタデータ） (2024-01-28T08:56:49Z) - Scaling In-Context Demonstrations with Structured Attention [75.41845145597875]
我々は、文脈内学習のためのより優れたアーキテクチャ設計を提案する。
In-Context Learningのための構造化アテンションは、構造化アテンションメカニズムによって完全なアテンションを置き換える。
SAICLは、最大3.4倍の推論速度で、フルアテンションよりも同等または優れた性能を実現していることを示す。
論文 参考訳（メタデータ） (2023-07-05T23:26:01Z) - ICL-D3IE: In-Context Learning with Diverse Demonstrations Updating for
Document Information Extraction [56.790794611002106]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて、文脈内学習による顕著な結果を示している。
ICL-D3IEと呼ばれるシンプルだが効果的なテキスト内学習フレームワークを提案する。
具体的には、ハードトレーニング文書から最も困難で独特なセグメントをハードデモとして抽出する。
論文 参考訳（メタデータ） (2023-03-09T06:24:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。