論文の概要: What Should the Reflector See? An Empirical Study of Evidence in Reflective Prompt Optimization

• arxiv url: http://arxiv.org/abs/2609.32452v1
• Date: Sat, 26 Sep 2026 10:38:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 09:02:47.743226
• Title: What Should the Reflector See? An Empirical Study of Evidence in Reflective Prompt Optimization
• Title（参考訳）: リフレクタが見るべきこと : 反射プロンプト最適化におけるエビデンスに関する実証的研究
• Abstract要約: 我々は5つのデータセットに対して9つの反射戦略を評価する。 パフォーマンス改善のためには、フェールのみが最大の平均テストゲインを生成します。 オーバーフィッティング評価では、障害のみとバランスドミックスが平均キャリブレーションギャップの最低値を共有している。
• 参考スコア（独自算出の注目度）: 7.344577590113121
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reflective prompt optimization revises instructions using examples of a model's behavior, but which evidence the reflector should receive remains unclear. We study evidence composition, visibility of examples, candidate selection and domain-knowledge policy within a single-parent Pareto-guided search. Using Qwen3.5-9B as both task model and reflector, we evaluate nine reflection strategies on five datasets. From these experiments, we find three distinct patterns. For performance improvement, Failures-only produces the largest mean test gain (+8.0 percentage points), while Balanced-mix and No-examples+Val share the best mean performance rank. For reflection effectiveness, No-examples achieves the best rank for improving sampled parents, yet yields only a 1.4-point mean test gain: local reflection success does not necessarily produce a stronger final prompt. For overfitting assessment, Failures-only and Balanced-mix share the lowest mean calibration-gap rank, while larger gaps on GPQA and IFBench show that calibration gains can overstate held-out improvement. This gap is a descriptive indicator, not a direct measure of overfitting. Together, these results show why reflection strategies should be assessed separately on final performance, parent improvement and calibration-to-test transfer.
• Abstract（参考訳）: リフレクティブプロンプト最適化はモデルの振る舞いの例を使って命令を改訂するが、リフレクターが受け取るべき証拠はいまだ不明である。 単一親パレート誘導探索において,エビデンス構成,例の可視化,候補選択,ドメイン知識ポリシーについて検討した。 タスクモデルとリフレクタの両方としてQwen3.5-9Bを用いて、5つのデータセットに対して9つのリフレクション戦略を評価する。 これらの実験から、3つの異なるパターンが見つかる。 パフォーマンス改善のために、Failures-onlyは最大の平均テストゲイン(+8.0ポイント)を生成し、Ba balanced-mixとNo-examples+Valは最高の平均パフォーマンスランクを共有している。 リフレクションの有効性について、No-examplesはサンプリングされた両親を改善するのに最適なランクを得るが、1.4ポイントの平均テストゲインしか得られない。 オーバーフィッティング評価では、障害のみとバランスドミックスが平均キャリブレーションギャップの最低値を共有しているのに対し、GPQAとIFBenchのギャップは、キャリブレーションゲインがホールドアウト改善をオーバーステートできることを示している。 このギャップは記述的な指標であり、オーバーフィッティングの直接的な尺度ではありません。 これらの結果から, 最終性能, 親改良, 検定-検定-検定を別々に評価すべき理由が示唆された。

関連論文リスト

• The Illusion of Improvement: Reject Inference Strategies in Credit Scoring [10.82789277277678]
  リジェクト推論法は、クレジットスコアリングにおける生存バイアスを軽減するために広く用いられている。 自然なリトレーニングサイクルでは、リコール崩壊時に精度が向上するモデルが改善の錯覚を生み出す。 統計的仮定なしでフィードバックループを破る制御された探索戦略を提案する。
  論文  参考訳（メタデータ） (2026-06-16T20:43:43Z)
• Closing the Reflection Gap: A Free Calibration Bonus for Agentic RL [12.234169944475537]
  RefGRPOは、標準的なRLアルゴリズムを2つの重要な要素で強化する、シンプルだが効果的な修正である。 エージェント自身の反射と実際の結果とを対比して計算した自由キャリブレーションボーナス。 結果の反射は、エージェントを環境フィードバックに基づく独自の検証器に変える。
  論文  参考訳（メタデータ） (2026-06-12T07:47:15Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Efficient Reasoning Through Suppression of Self-Affirmation Reflections in Large Reasoning Models [29.615519143908998]
  自己確認反射は、事前の内容を肯定する冗長な反射ステップであり、しばしば既に正しい推論ステップの後に起こる。 自己確認反射の抑制は複数のモデル間で精度を低下させることなく出力長を減少させることを示す。 また、そのような反射を明示的に抑制することで、現行の列車方式も改善する。
  論文  参考訳（メタデータ） (2025-06-14T05:30:09Z)
• REARANK: Reasoning Re-ranking Agent via Reinforcement Learning [69.8397511935806]
  本稿では,大規模言語モデル(LLM)に基づくリストワイズ推論エージェントREARANKを提案する。 REARANKは、リランク前の明確な理由と、パフォーマンスと解釈性の両方を大幅に改善した。
  論文  参考訳（メタデータ） (2025-05-26T14:31:48Z)
• Language Model Preference Evaluation with Multiple Weak Evaluators [89.90733463933431]
  PGEDは,複数のモデルに基づく評価器を用いて嗜好グラフを構築し,非循環的非競合性評価結果に対してこれらのグラフをアンサンブルし,デノテーズする手法である。 1)評価のためのモデルランキング、2)テスト時間スケーリングのための応答選択、3)モデル微調整のためのデータ選択である。
  論文  参考訳（メタデータ） (2024-10-14T01:57:25Z)
• Reward-Augmented Data Enhances Direct Preference Alignment of LLMs [63.32585910975191]
  報奨条件付き大言語モデル(LLM)を導入し、データセット内の応答品質のスペクトル全体から学習する。 当社のアプローチは,DPOをかなりのマージンで継続的に向上させることを示す。 本手法は,嗜好データの有用性を最大化するだけでなく,未学習の問題も軽減し,データ拡張を超えてその広範な効果を実証する。
  論文  参考訳（メタデータ） (2024-10-10T16:01:51Z)
• Reward Dropout Improves Control: Bi-objective Perspective on Reinforced LM [7.479948090364416]
  本稿では,2目的最適化の観点から,強化言語モデル(RLM)の理論的側面について考察する。 本稿では,RLMの双方向最適化を改善するための簡易かつ強力な手法であるReward Dropoutを提案する。
  論文  参考訳（メタデータ） (2023-10-06T12:33:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。