論文の概要: SLA Management in Reconfigurable Multi-Agent RAG: A Systems Approach to Question Answering

• arxiv url: http://arxiv.org/abs/2412.06832v1
• Date: Sat, 07 Dec 2024 01:32:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-11 14:39:48.186027
• Title: SLA Management in Reconfigurable Multi-Agent RAG: A Systems Approach to Question Answering
• Title（参考訳）: 再構成可能なマルチエージェントRAGにおけるSLA管理:質問応答に対するシステムアプローチ
• Authors: Michael Iannelli, Sneha Kuchipudi, Vera Dvorak,
• Abstract要約: 現実世界のアプリケーションには、SLA(Service Level Agreements)とQoS(Quality of Service)の要件が多様である。 実世界の質問応答(QA)アプリケーションに適したマルチエージェントRAGに対するシステム指向アプローチを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Retrieval Augmented Generation (RAG) enables Large Language Models (LLMs) to generalize to new information by decoupling reasoning capabilities from static knowledge bases. Traditional RAG enhancements have explored vertical scaling -- assigning subtasks to specialized modules -- and horizontal scaling -- replicating tasks across multiple agents -- to improve performance. However, real-world applications impose diverse Service Level Agreements (SLAs) and Quality of Service (QoS) requirements, involving trade-offs among objectives such as reducing cost, ensuring answer quality, and adhering to specific operational constraints. In this work, we present a systems-oriented approach to multi-agent RAG tailored for real-world Question Answering (QA) applications. By integrating task-specific non-functional requirements -- such as answer quality, cost, and latency -- into the system, we enable dynamic reconfiguration to meet diverse SLAs. Our method maps these Service Level Objectives (SLOs) to system-level parameters, allowing the generation of optimal results within specified resource constraints. We conduct a case study in the QA domain, demonstrating how dynamic re-orchestration of a multi-agent RAG system can effectively manage the trade-off between answer quality and cost. By adjusting the system based on query intent and operational conditions, we systematically balance performance and resource utilization. This approach allows the system to meet SLOs for various query types, showcasing its practicality for real-world applications.
• Abstract（参考訳）: Retrieval Augmented Generation (RAG) により、Large Language Models (LLM) は静的知識ベースから推論機能を分離することで、新しい情報を一般化することができる。 従来のRAG拡張では、パフォーマンスを改善するために、垂直スケーリング(特定のモジュールにサブタスクを割り当てる)と水平スケーリング(複数のエージェントにまたがるタスクを複製する)が検討されている。 しかし、現実のアプリケーションは様々なサービスレベル合意(SLA)とQoS(Quality of Service)の要件を課し、コスト削減、回答の品質の確保、特定の運用上の制約の遵守といった目標間のトレードオフを伴います。 本研究では,実世界の質問応答(QA)アプリケーションに適したマルチエージェントRAGに対するシステム指向アプローチを提案する。 タスク固有の非機能要件 – 応答品質やコスト,レイテンシなど – をシステムに統合することにより,動的再構成をさまざまなSLAに適合させることが可能になります。 我々の手法は、これらのサービスレベルオブジェクト(SLO)をシステムレベルのパラメータにマッピングし、指定されたリソース制約内で最適な結果を生成する。 我々はQA領域におけるケーススタディを行い、マルチエージェントRAGシステムの動的再編成が、回答の品質とコストのトレードオフを効果的に管理できることを示す。 クエリの意図と運用条件に基づいてシステムを調整することにより,性能と資源利用の体系的なバランスをとる。 このアプローチにより、システムは様々なクエリタイプに対してSLOに適合し、実世界のアプリケーションにその実用性を示す。

関連論文リスト

• An Adaptive Framework for Generating Systematic Explanatory Answer in Online Q&A Platforms [62.878616839799776]
  質問応答(QA)性能を向上させるために設計された,革新的なフレームワークであるSynthRAGを提案する。 SynthRAGは動的コンテンツの構造化に適応的なアウトラインを用いることで従来のモデルを改善する。 Zhihuプラットフォーム上のオンラインデプロイメントでは、SynthRAGの回答が注目すべきユーザエンゲージメントを実現していることが明らかになった。
  論文  参考訳（メタデータ） (2024-10-23T09:14:57Z)
• RAG4ITOps: A Supervised Fine-Tunable and Comprehensive RAG Framework for IT Operations and Maintenance [14.330372232469465]
  検索型拡張生成(RAG)に基づく汎用的・包括的枠組みを提案する。 ステージ1では,2つの負のサンプリング戦略を持つ対照的な学習手法を用いて,埋め込みモデルを微調整する。 ステージ2では、QAシステムの効率的なプロセスがサービスのために構築されます。
  論文  参考訳（メタデータ） (2024-10-21T09:22:29Z)
• AQA: Adaptive Question Answering in a Society of LLMs via Contextual Multi-Armed Bandit [59.10281630985958]
  質問応答(QA)では、異なる質問を異なる回答戦略で効果的に扱うことができる。 本稿では,各質問に対して最適なQA戦略を適応的に選択する動的手法を提案する。 提案手法は,複数のモジュールを持つQAシステムの適応的オーケストレーションに有効であることを示す。
  論文  参考訳（メタデータ） (2024-09-20T12:28:18Z)
• Towards Human-Level Understanding of Complex Process Engineering Schematics: A Pedagogical, Introspective Multi-Agent Framework for Open-Domain Question Answering [0.0]
  化学・プロセス産業では、プロセス・フロー・ダイアグラム(PFD)とパイプ・アンド・インスツルメンテーション・ダイアグラム(P&ID)が設計、建設、保守に不可欠である。 生成型AIの最近の進歩は、ビジュアル質問回答(VQA)のプロセス図の理解と解釈の約束を示している。 本稿では,階層的かつマルチエージェントなRetrieval Augmented Generation(RAG)フレームワークを用いた,セキュアでオンプレミスなエンタープライズソリューションを提案する。
  論文  参考訳（メタデータ） (2024-08-24T19:34:04Z)
• LLM-enhanced Reranking in Recommender Systems [49.969932092129305]
  リグレードはレコメンデーションシステムにおいて重要な要素であり、レコメンデーションアルゴリズムの出力を精査する上で重要な役割を果たす。 そこで我々は,様々な格付け基準をシームレスに統合する包括的格付けフレームワークを提案する。 カスタマイズ可能な入力機構も統合されており、言語モデルのフォーカスを特定の再配置のニーズに合わせることができる。
  論文  参考訳（メタデータ） (2024-06-18T09:29:18Z)
• Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity [59.57065228857247]
  Retrieval-augmented Large Language Models (LLMs) は、質問回答(QA)のようなタスクにおける応答精度を高めるための有望なアプローチとして登場した。 本稿では,クエリの複雑さに基づいて,LLMの最適戦略を動的に選択できる適応型QAフレームワークを提案する。 オープンドメインのQAデータセットを用いて、複数のクエリの複雑さを網羅し、QAシステムの全体的な効率性と精度を高めることを示す。
  論文  参考訳（メタデータ） (2024-03-21T13:52:30Z)
• Logical Specifications-guided Dynamic Task Sampling for Reinforcement Learning Agents [9.529492371336286]
  強化学習(Reinforcement Learning、RL)は、人工エージェントが多様な振る舞いを学習できるようにするために大きな進歩を遂げてきた。 論理仕様誘導動的タスクサンプリング(LSTS)と呼ばれる新しい手法を提案する。 LSTSは、エージェントを初期状態から目標状態へ誘導するRLポリシーのセットを、ハイレベルなタスク仕様に基づいて学習する。
  論文  参考訳（メタデータ） (2024-02-06T04:00:21Z)
• Reasoning Capacity in Multi-Agent Systems: Limitations, Challenges and Human-Centered Solutions [14.398238217358116]
  推論能力の形式的定義を提示し,システムの各コンポーネント内の制限を識別する上で,その有用性を示す。 そして、これらの制限が、人間のフィードバックを使って推論の欠点を緩和する自己反射的プロセスによってどのように対処できるかについて議論する。
  論文  参考訳（メタデータ） (2024-02-02T02:53:11Z)
• Semantically Aligned Task Decomposition in Multi-Agent Reinforcement Learning [56.26889258704261]
  我々は,MARL(SAMA)における意味的アライズされたタスク分解という,新しい「不整合」意思決定手法を提案する。 SAMAは、潜在的な目標を示唆し、適切な目標分解とサブゴールアロケーションを提供するとともに、自己回帰に基づくリプランニングを提供する、チェーン・オブ・シントによる事前訓練された言語モデルを促進する。 SAMAは, 最先端のASG法と比較して, 試料効率に有意な優位性を示す。
  論文  参考訳（メタデータ） (2023-05-18T10:37:54Z)
• Certified Reinforcement Learning with Logic Guidance [78.2286146954051]
  線形時間論理(LTL)を用いて未知の連続状態/動作マルコフ決定過程(MDP)のゴールを定式化できるモデルフリーなRLアルゴリズムを提案する。 このアルゴリズムは、トレースが仕様を最大確率で満たす制御ポリシーを合成することが保証される。
  論文  参考訳（メタデータ） (2019-02-02T20:09:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。