論文の概要: ClusterFewshot: Improving Few-shot Optimization for LLMs workflow

• arxiv url: http://arxiv.org/abs/2609.25939v1
• Date: Tue, 22 Sep 2026 09:45:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.314139
• Title: ClusterFewshot: Improving Few-shot Optimization for LLMs workflow
• Title（参考訳）: ClusterFewshot: LLMワークフローのFew-shot最適化の改善
• Abstract要約: ClusterFewshotは、セマンティック構造化とユーティリティアウェアスコアを組み合わせて、代表的で効果的な数ショットのデモセットを構築する戦略である。 複数のベンチマークにまたがる最適化コストを大幅に削減し、従来のブートストラップ方式と比較して精度を継続的に改善する。
• 参考スコア（独自算出の注目度）: 48.805151796878505
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The performance of large language model (LLM) workflows often depends on selecting a small set of in-context demonstrations to guide model behavior on new tasks. Recent methods improve this process by augmenting prompts with successful reasoning paths. However, their demonstration selection relies on random sampling or metric-based rankings, overlooking the semantic structure of the task. We propose ClusterFewshot, a strategy that combines semantic structuring with utility-aware scoring to construct representative and effective few-shot demonstration sets. Evaluated within DSPy-based pipelines, ClusterFewshot substantially reduces optimization cost across multiple benchmarks, while consistently improving accuracy relative to prior bootstrap-based methods in both standalone prompt tuning and hybrid prompt-weight optimization.
• Abstract（参考訳）: 大規模言語モデル(LLM)ワークフローのパフォーマンスは、新しいタスクでモデル動作を導くために、コンテキスト内デモの小さなセットを選択することに依存することが多い。 近年の手法は、推論経路を成功させてプロンプトを増強することで、このプロセスを改善している。 しかし、それらの実演選択はランダムサンプリングやメートル法に基づくランキングに依存しており、タスクの意味的構造を見下ろしている。 本稿では,意味的構造化とユーティリティ・アウェア・スコアを併用して,代表的で効果的な数ショットのデモセットを構築する戦略であるClusterFewshotを提案する。 DSPyベースのパイプラインで評価されたClusterFewshotは、複数のベンチマーク間で最適化コストを大幅に削減すると同時に、スタンドアロンのプロンプトチューニングとハイブリッドプロンプトウェイト最適化の両方において、以前のブートストラップベースのメソッドと比較して、常に精度を向上する。

関連論文リスト

• Active Learning for Communication Structure Optimization in LLM-Based Multi-Agent Systems [1.8605423959642353]
  コミュニケーション構造最適化のためのアンサンブルに基づく情報理論タスク選択フレームワークを提案する。 提案手法は,候補タスクがグラフパラメータ上の分布をどの程度変化させるかによって,タスクのインフォメーション性を推定する。 本手法をエージェント攻撃による良質な設定と設定の両方で検証し、制約された計算予算下での通信構造最適化の有効性を実証する。
  論文  参考訳（メタデータ） (2026-05-07T05:48:43Z)
• SparseEval: Efficient Evaluation of Large Language Models by Sparse Optimization [64.95852289011385]
  大規模言語モデル(LLM)は拡大を続けており、様々な下流タスクのパフォーマンスは大幅に改善されている。 多数のベンチマークサンプルで推論を行うと、高い計算コストが発生するため、それらの能力を評価するのがますます高価になっている。 SparseEvalは,アンカーウェイトを最適化する勾配降下法を初めて導入し,アンカーセレクションに反復的洗練戦略を採用する手法である。
  論文  参考訳（メタデータ） (2026-02-08T11:12:45Z)
• Prompt Optimization Via Diffusion Language Models [73.9599434962714]
  本稿では,迅速な最適化のための拡散型フレームワークを提案する。 本手法は,下流言語モデルへのアクセスや変更を必要とせずに,フレキシブルかつスパンレベルのプロンプト更新を可能にする。 適度な拡散ステップ数によって、精製品質と安定性のバランスが良くなることを示す。
  論文  参考訳（メタデータ） (2026-01-30T00:00:54Z)
• Adaptive Batch-Wise Sample Scheduling for Direct Preference Optimization [37.54165341391688]
  DPOのためのサンプルスケジューリングという,新しい問題を紹介します。 トレーニングバッチ毎にサンプルを適応的に選択する,効率的かつ効率的なアルゴリズムであるSamSを提案する。 この研究は、バッチワイドサンプル選択によるLCMアライメントを改善するための、有望な新しい方向性を示している。
  論文  参考訳（メタデータ） (2025-06-08T10:26:09Z)
• IMPROVE: Iterative Model Pipeline Refinement and Optimization Leveraging LLM Experts [28.9807389592324]
  機械学習のワークフローを自動化するための有望なソリューションとして、大規模言語モデル(LLM)エージェントが登場した。 LLM駆動のMLパイプライン設計のための新しい戦略であるIterative Refinementを紹介します。 実際のトレーニングフィードバックに基づいて個々のコンポーネントを体系的に更新することにより、イテレーティブリファインメントはモデル全体のパフォーマンスを改善する。
  論文  参考訳（メタデータ） (2025-02-25T01:52:37Z)
• In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
  大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。 これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。 本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-04T03:39:28Z)
• QPO: Query-dependent Prompt Optimization via Multi-Loop Offline Reinforcement Learning [58.767866109043055]
  クエリ依存型プロンプト最適化(QPO)を導入し、入力クエリに合わせて最適なプロンプトを生成するために、小さな事前訓練された言語モデルを反復的に微調整する。 我々は、オープンソースのタスクに様々なプロンプトをベンチマークする副産物として、すでに大量に存在するオフラインのプロンプトデータから洞察を得る。 様々なLLMスケールと多様なNLPおよび数学タスクの実験は、ゼロショットと少数ショットの両方のシナリオにおいて、我々の手法の有効性とコスト効率を実証している。
  論文  参考訳（メタデータ） (2024-08-20T03:06:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。