論文の概要: CDS4RAG: Cyclic Dual-Sequential Hyperparameter Optimization for RAG

• arxiv url: http://arxiv.org/abs/2605.08333v1
• Date: Fri, 08 May 2026 17:58:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.574741
• Title: CDS4RAG: Cyclic Dual-Sequential Hyperparameter Optimization for RAG
• Title（参考訳）: CDS4RAG:RAGのための周期的デュアルシークエンシャルハイパーパラメータ最適化
• Authors: Pengzhou Chen, Tao Chen,
• Abstract要約: 提案するCDS4RAGは,与えられたクエリを用いた検索拡張生成を最適化するフレームワークである。 その結果, CDS4RAGは21/24ケースにおいてバニラアルゴリズムを大幅に向上させ, 生成品質を最大1.54倍改善し, 高速化した。
• 参考スコア（独自算出の注目度）: 4.208654120634349
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) is sensitive to the vast hyperparameters of the retriever and generator, yet optimizing them using given queries is a challenging task due to the complex interactions and expensive evaluation costs. Existing algorithms are ineffective and slow in convergence, since they often treat RAG as a monolithic black box or only optimize partial hyperparameters. In this paper, we propose CDS4RAG, a framework that optimizes the full RAG hyperparameters using given queries via a new cyclic dual-sequential formulation. CDS4RAG is special in the sense that it distinguishes the hyperparameters of the retriever and generator, cyclically optimizing them in turn. Such a paradigm allows us to design fine-grained within-cycle budget provision and expedite the optimization via cross-cycle seeding when optimizing the generator. CDS4RAG is also an algorithm-agnostic framework that can be paired with diverse general algorithms. Through experiments on four common benchmarks and two backbone LLMs, we reveal that CDS4RAG considerably boosts the vanilla algorithms in 21/24 cases while significantly outperforming state-of-the-art algorithms in all cases with up to 1.54x improvements of generation quality and better speedup.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、検索器とジェネレータの広大なハイパーパラメータに敏感であるが、複雑な相互作用と高価な評価コストのために、与えられたクエリを使ってそれらを最適化することは難しい課題である。 既存のアルゴリズムは、RAGをモノリシックなブラックボックスとして扱う場合や、部分的なハイパーパラメータのみを最適化する場合が多いため、非効率で収束が遅い。 本稿では,新しい循環型二重系列の定式化により,与えられたクエリを用いて全RAGハイパーパラメータを最適化するフレームワークCDS4RAGを提案する。 CDS4RAGはレトリバーとジェネレータのハイパーパラメータを区別し、周期的に最適化するという意味で特別である。 このようなパラダイムは, サイクル内予算の細粒度を設計し, 発電機を最適化する際に, クロスサイクルシードにより最適化を高速化する。 CDS4RAGはアルゴリズムに依存しないフレームワークであり、様々な一般的なアルゴリズムと組み合わせることができる。 4つの共通ベンチマークと2つのバックボーンLDMの実験により、CDS4RAGは21/24ケースでバニラアルゴリズムを大幅に向上し、全てのケースで最先端のアルゴリズムを最大1.54倍改善し、高速化した。

関連論文リスト

• A Dynamic Retrieval-Augmented Generation System with Selective Memory and Remembrance [0.0]
  Emph Adaptive RAG Memory (ARM) は,静的ベクトルインデックスをEmphdynamicメモリ基板に置き換える検索拡張生成(RAG)フレームワークである。 ARMは、軽量な検索ベンチマークで最先端のパフォーマンスに近づいた。 ARMは、ジェネレータカラーブラックを再トレーニングすることなく、競合精度、自己正規化メモリ成長、解釈可能な保持ダイナミクスを出力し、生産・研究RAGシステムの品質、レイテンシ、メモリ効率のトレードオフを実践する。
  論文  参考訳（メタデータ） (2026-01-04T21:51:41Z)
• Genetic Algorithms For Parameter Optimization for Disparity Map Generation of Radiata Pine Branch Images [5.266753902938501]
  UAVアプリケーションのための遺伝的アルゴリズム(GA)に基づくパラメータ最適化フレームワークを提案する。 コントリビューションには,(1)手動チューニングを排除した新しいGAベースのパラメータ最適化フレームワーク,(2)複数の画像品質指標を用いた総合評価手法,(3)資源制約付きUAVシステムのための実用的なソリューションなどが含まれている。 実験の結果,GA最適化手法により平均正方形誤差が42.86%減少し,ピーク信号対雑音比が8.47%,構造類似度が28.52%増加した。
  論文  参考訳（メタデータ） (2025-12-05T04:00:18Z)
• Causal-Guided Dimension Reduction for Efficient Pareto Optimization [2.9013001432962255]
  CaDROは、観測と干渉のハイブリッドなプロセスを通して因果写像を構築し、目的に対する因果効果によってパラメータをランク付けする。 低インパクトパラメータは高品質なソリューションの値に固定されるが、クリティカルなドライバは引き続き検索でアクティブである。 増幅器、レギュレータ、RF回路にまたがって、CaDROはNSGA-IIよりも10$times$速く収束する。
  論文  参考訳（メタデータ） (2025-10-11T00:41:04Z)
• An Analysis of Hyper-Parameter Optimization Methods for Retrieval Augmented Generation [6.98773220458697]
  本稿では,5つのドメインから5つのデータセットにまたがる5つのHPOアルゴリズムに関する総合的研究について述べる。 本研究は,3つの評価指標を最適化対象として,現在検討されている最大規模のHPO検索空間について検討する。 結果から,RAG HPOは無作為にもランダム検索でも効率的に行うことができ,全データセットのRAG性能を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2025-05-06T11:47:52Z)
• Parameter Optimization with Conscious Allocation (POCA) [4.478575931884855]
  ハイパーバンドベースの機械学習アプローチが最も効果的である。 私たちは出席します。 新人 Conscious Allocation (POCA) は、入力を適応的に割り当てるハイパーバンドベースのアルゴリズムである。 ハイパーパラメータの構成に予算を割り当てます POCAは、両方の設定で強い設定を高速に見つける。
  論文  参考訳（メタデータ） (2023-12-29T00:13:55Z)
• Online Continuous Hyperparameter Optimization for Generalized Linear Contextual Bandits [55.03293214439741]
  文脈的包帯では、エージェントは過去の経験に基づいた時間依存アクションセットから順次アクションを行う。 そこで本稿では,文脈的包帯のためのオンライン連続型ハイパーパラメータチューニングフレームワークを提案する。 理論上はサブ線形の後悔を達成でき、合成データと実データの両方において既存のすべての手法よりも一貫して優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2023-02-18T23:31:20Z)
• Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
  バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。 両レベル最適化のための2つの新しいアルゴリズムを提案する。 両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
  論文  参考訳（メタデータ） (2021-06-08T21:05:30Z)
• Optimizing Large-Scale Hyperparameters via Automated Learning Algorithm [97.66038345864095]
  ゼロ階超勾配(HOZOG)を用いた新しいハイパーパラメータ最適化法を提案する。 具体的には、A型制約最適化問題として、まずハイパーパラメータ最適化を定式化する。 次に、平均ゼロ階超勾配を用いてハイパーパラメータを更新する。
  論文  参考訳（メタデータ） (2021-02-17T21:03:05Z)
• Online hyperparameter optimization by real-time recurrent learning [57.01871583756586]
  ニューラルネットワーク(rnn)におけるハイパーパラメータ最適化とパラメータ学習の類似性を活用した。 RNNのための学習済みのオンライン学習アルゴリズムのファミリーを適応させ、ハイパーパラメータとネットワークパラメータを同時に調整します。 この手順は、通常の方法に比べて、ウォールクロック時間のほんの少しで、体系的に一般化性能が向上する。
  論文  参考訳（メタデータ） (2021-02-15T19:36:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。