Fugu-MT 論文翻訳(概要): Cascaded Batch Prompting

論文の概要: Cascaded Batch Prompting

arxiv url: http://arxiv.org/abs/2608.27038v1
Date: Thu, 27 Aug 2026 12:24:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-28 16:30:58.39923
Title: Cascaded Batch Prompting
Title（参考訳）: Cascaded Batch Prompting
Abstract要約: 本稿では,従来のバッチプロンプトの予測不可能性を解決するための2段階のアプローチであるカスケードバッチプロンプトを提案する。質問応答実験と自然言語推論実験により,提案手法が標準の単一プロンプトベースラインより優れていることが示された。
参考スコア（独自算出の注目度）: 6.63181149575886
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Although batch prompting makes large language model inference more efficient by processing multiple instances simultaneously, it suffers from unpredictable downstream task performance. We propose cascaded batch prompting, a two-stage approach designed to resolve the unpredictability of conventional batch prompting by disentangling complex reasoning from symbol grounding. Experiments on multiple-choice question answering and natural language inference demonstrate that the proposed method outperforms the standard single prompting baseline while achieving a speedup proportional to batch size, establishing a new state of the art on the Pareto frontier.
Abstract（参考訳）: バッチプロンプトは、複数のインスタンスを同時に処理することで、大きな言語モデル推論をより効率的にするが、予測できないダウンストリームタスクのパフォーマンスに悩まされる。シンボル接地から複雑な推論を引き離すことにより、従来のバッチの予測不可能性を解決するための2段階の手法であるカスケードバッチプロンプトを提案する。提案手法は,バッチサイズに比例した高速化を実現し,パレート・フロンティアに新たな最先端技術を確立するとともに,標準の単一プロンプトベースラインよりも優れていることを示す。

関連論文リスト

DiscoLoop: Looping Discrete Embeddings and Continuous Hidden States for Multi-hop Reasoning [91.94042219655866]
大規模言語モデルは、Chain-of-Thought(CoT)として中間ステップの外部化を可能にすると、多くの推論タスクにおいて強力なパフォーマンスを達成する我々は,この課題を,モデルが1つの前方パス内で複数の知識を構成しなければならない代表的タスクである2-ホップ推論を通じて研究する。本稿では,個別の埋め込みチャネルと連続的な隠れ状態チャネルの両方を連続的に持つループアーキテクチャであるDiscoLoopを提案する。
論文参考訳（メタデータ） (2026-07-01T02:32:02Z)
Theoretical Foundations of Prompt Engineering: From Heuristics to Expressivity [0.0]
本研究では,トランスフォーマーのバックボーンをエグゼキュータとして固定し,プロンプトのみを変化させることで得られる機能群について検討する。一つの固定されたバックボーンがプロンプトだけで対象の行動の幅広いクラスを近似できることを示す。
論文参考訳（メタデータ） (2025-12-14T13:42:20Z)
SecInfer: Preventing Prompt Injection via Inference-time Scaling [54.21558811232143]
emphSecInferは,インセンジェンス時間スケーリングに基づくインジェクション攻撃に対する新しい防御法である。 SecInferは、既存のインジェクション攻撃と適応的なインジェクション攻撃の両方を効果的に軽減し、最先端の防御と既存の推論時間スケーリングアプローチより優れていることを示す。
論文参考訳（メタデータ） (2025-09-29T16:00:41Z)
Prompt-Tuning Bandits: Enabling Few-Shot Generalization for Efficient Multi-Task Offline RL [2.6731152954002924]
提案手法は,軽量で推論時,帯域幅に基づくプロンプトチューニングフレームワークである。バンディットは、トランスフォーマーのバックボーンの微調整を犠牲にすることなく、作業性能を向上させるために軌道のプロンプト選択を探索し、最適化する。実験の結果,バンディットに基づくプロンプトチューニングによる性能向上だけでなく,サンプルの複雑さ,拡張性,空間探索の迅速化などが示唆された。
論文参考訳（メタデータ） (2025-02-10T11:20:10Z)
Dipper: Diversity in Prompts for Producing Large Language Model Ensembles in Reasoning tasks [77.40114523163892]
DIPPERは、単一の大規模言語モデル(LLM)を効果的な推論時間アンサンブルに変換する、トレーニング不要のフレームワークである。モデルに最適化された多様なプロンプトのセットを並列に供給することで、DIPPERは様々な推論パスを持ち込み、パフォーマンスの向上につながった。我々は,3つのQwen2-MATH-1.5BインスタンスのDIPPERアンサンブルがより大きな7Bモデルより優れているMATHなどの推論ベンチマークにおいて,顕著な改善を実証的に示す。
論文参考訳（メタデータ） (2024-12-12T17:49:05Z)
Auto-Demo Prompting: Leveraging Generated Outputs as Demonstrations for Enhanced Batch Prompting [0.8238423959893132]
自動デモ(Auto-Demo Prompting)は、初期質問からの問合せペアを、その後の回答推論の実証としてバッチ内で活用する、新しいアプローチである。本手法は,バッチプロンプトと少数ショットプロンプトのギャップを効果的に埋め,トークン使用率のわずかな妥協だけで性能を向上する。
論文参考訳（メタデータ） (2024-10-02T16:34:40Z)
Self-regulating Prompts: Foundational Model Adaptation without Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。 PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文参考訳（メタデータ） (2023-07-13T17:59:35Z)
Boosted Prompt Ensembles for Large Language Models [38.402161594793775]
チェーン・オブ・ソート・プロンプトや自己整合性といった手法は、追加のトレーニングを伴わずに、言語モデル推論のパフォーマンスのフロンティアを押し上げている。大規模言語モデルのためのプロンプトアンサンブル手法を提案する。これは、小さなデータセットを用いて、強化されたプロンプトアンサンブルを構成する一連のショットプロンプトを構成する。」これにより,GSM8kおよびAQuAデータセットにおいて,単一プロンプトの出力空間アンサンブルとタグ付きプロンプト空間アンサンブルより優れることを示す。
論文参考訳（メタデータ） (2023-04-12T16:47:15Z)
Bayesian Prompt Learning for Image-Language Model Generalization [64.50204877434878]
我々はベイズ法の正規化能力を用いて、変分推論問題としてプロンプト学習をフレーム化する。提案手法は,プロンプト空間を正規化し,目に見えないプロンプトへの過剰適合を低減し,目に見えないプロンプトのプロンプト一般化を改善する。ベイジアン・プロンプト学習がプロンプト空間の適切なカバレッジを提供する15のベンチマークを実証的に示す。
論文参考訳（メタデータ） (2022-10-05T17:05:56Z)
IDPG: An Instance-Dependent Prompt Generation Method [58.45110542003139]
Prompt tuningは、モデルトレーニング段階で各入力インスタンスにタスク固有のプロンプトを追加する、新しい、効率的なNLP転送学習パラダイムである。本稿では,各入力インスタンスのプロンプトを生成する条件付きプロンプト生成手法を提案する。
論文参考訳（メタデータ） (2022-04-09T15:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。