論文の概要: When Does GEPA Merge Help? A Mechanism-Level Diagnostic
- arxiv url: http://arxiv.org/abs/2610.34027v1
- Date: Sun, 25 Oct 2026 03:32:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.51972
- Title: When Does GEPA Merge Help? A Mechanism-Level Diagnostic
- Title(参考訳): GEPAマージはいつ役に立つか : メカニズムレベル診断
- Abstract要約: 5つのデータセットと2つのモデルにまたがるマージ不安定について検討する。
マージタイミングとマージ演算子による9つの設定スイープは、マージが適切に設定された場合、両方のモデルを改善することができることを示している。
- 参考スコア(独自算出の注目度): 7.039739305668745
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: GEPA is among the strongest reflective prompt optimizers for language-model programs, but its system-aware merge operator is unstable across models: merge improves gpt-4.1-mini on average while degrading Qwen3-8B, an asymmetry noted but left unexplained by the GEPA paper. We investigate this instability across five datasets and two models. Our nine-configuration sweep over merge timing and merge operator shows that merge can improve both models when configured appropriately. This suggests that merge instability is better explained by configuration sensitivity than by an inherent flaw in the merge operator. We then test whether prompt-level features predict GEPA's merge-accept decisions and find that they do not, ruling out static-feature gating. As a proof of concept, a behavior-based probe built from these diagnostics avoids large merge failures in our multi-seed runs by abstaining on high-risk tasks, although it does not consistently outperform NoMerge. Code is available as GEPA-MergeProbe at https://github.com/ChongZZZZ/GEPA_MERGE .
- Abstract(参考訳): GEPAは言語モデルプログラムの最も強力な反射的プロンプトオプティマイザであるが、システム対応のマージ演算子は、GEPAの論文では説明されていない非対称性であるQwen3-8Bを劣化させながら、平均でgpt-4.1-miniを改善する。
5つのデータセットと2つのモデルにわたる不安定性について検討する。
マージタイミングとマージ演算子による9つの設定スイープは、マージが適切に設定された場合、両方のモデルを改善することができることを示している。
これはマージの不安定性が、マージ演算子の固有の欠陥よりも構成感度によって説明されていることを示唆している。
次に、プロンプトレベルの機能は、GEPAのマージアクセプション決定を予測し、それらがそうでないことを確認し、静的機能ゲーティングを除外する。
概念実証として、これらの診断から構築された行動に基づくプローブは、高リスクタスクを控えることで、マルチシードランにおける大規模なマージ障害を回避するが、NoMergeを一貫して上回るものではない。
GEPA-MergeProbeはhttps://github.com/ChongZZZ/GEPA_MERGEで公開されている。
関連論文リスト
- Verifying Coordination in Parallel Coding Agents: NP-Bench and a Scheduling Planner [0.0]
コーディングエージェントのチームは、エージェントによって優れたエージェントに見えるが、チームとして失敗する。
各作業項目の宣言されたスコープを取得し、不整合スコープに分割し、プロデューサ>コンシューマグラフに沿ってマージを順序付けする。
我々は、このプランナーをNerveplaneに組み込み、環境条件下での3本腕ベンチマークであるNP-Benchで評価する。
論文 参考訳(メタデータ) (2026-10-05T19:02:27Z) - BACAM: Behavior-Aware Continual Agent Merging for Multi-Turn Interaction [58.08711759956845]
本研究では,従来の統合された専門家を維持しない連続的なエージェント統合について検討する。
本稿では,パラメータ的にゲートを結合する行動認識型連続エージェント・マージ(BACAM)を提案する。
4つのインタラクティブなタスクの中で、BACAMは平均成功率62.82%に達し、最も評価の高いマージベースラインを21.69ポイント上回っている。
論文 参考訳(メタデータ) (2026-10-04T05:26:08Z) - CoMerge: Conflict-Driven Preference Optimization for Multi-Task Model Merging [59.836482609414816]
モデルマージのための競合駆動型優先最適化フレームワーク(CoMerge)を提案する。
CoMergeは、タスク固有の機能を保持しながら、パラメータ空間の競合を軽減するモデルを可能にする。
実験の結果、CoMerge は MergeBench 上で平均 0.9968 の正規化性能を達成した。
論文 参考訳(メタデータ) (2026-09-02T08:21:28Z) - A Jagged Frontier: Evaluating Robustness of Code Agents to Semantics-Preserving Transformations [7.48361039542955]
我々は、周辺コードのバリエーションが意味論的に等価な形式に書き換えられる際に、リポジトリレベルの問題を修復するコーディングエージェントが信頼性を維持しているかどうかを評価する。
共通セマンティクス保存変換(SPT)を適用したランダムな変種標本化手法を提案する。
4つのフロンティアモデルのうちの1つを背景とした2つのエージェント足場(ミニSWEエージェントとOpenCode)を評価した。
論文 参考訳(メタデータ) (2026-08-18T23:46:11Z) - TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging [0.48086260459837454]
我々は、チェックポイントが局所対象、アライメントマップが遷移、サイクル積が残留する有限降下問題としてマージを定式化する。
提案手法は, 定数エッジのNo-go結果, フリーズ・コンプレックスの3方向およびプレファミリーの誤差制御定理, 比較・複雑感度の精査試験である。
訓練された低ランク適応型監査では, 平均化係数は選択したGLr代表に依存するが, 大域的因子同期と高密度デルタSVDは安定である。
論文 参考訳(メタデータ) (2026-07-23T03:24:50Z) - Semantic Drift in Bug Resolution: How Behavioral Signals Propagate from Reports to Tests and Patches [18.727291516223115]
Desc2Fixは、バグレポートのセマンティックアライメント、テストのトリガー、開発者による修正を測定するフレームワークである。
GPT-4o と DeepSeek-Chat を用いて,Defects4J と SWT-Bench の2,857 個のレポート・パッチを解析した。
論文 参考訳(メタデータ) (2026-07-20T22:32:23Z) - Agent-GWO: Collaborative Agents for Dynamic Prompt Optimization in Large Language Models [69.55139736609367]
Agent-GWOは複雑な推論のための動的プロンプト最適化フレームワークである。
本稿では,Agent-GWOが既存のプロンプト最適化手法よりも精度と安定性を一貫して向上することを示す。
論文 参考訳(メタデータ) (2026-04-14T07:35:37Z) - From Global to Granular: Revealing IQA Model Performance via Correlation Surface [83.65597122328133]
我々は, IQA 性能の構造化, きめ細かな解析を行う textbfGranularity-Modulated correlation (GMC) を提案する。
GMCにはtextbfDistribution Regulatorが含まれており、相関関係を規則化し、非均一な品質分布からのバイアスを軽減する。
標準ベンチマークの実験では、GCCはスカラーメトリクスに見えないパフォーマンス特性を示し、IQAモデルを分析、比較、デプロイするためのより情報に富んだ信頼性の高いパラダイムを提供する。
論文 参考訳(メタデータ) (2026-01-29T13:55:26Z) - SimMerge: Learning to Select Merge Operators from Similarity Signals [32.157558993834414]
モデルマージにより、複数の大規模言語モデル(LLM)を単一のモデルに統合し、パフォーマンスを維持できる。
本稿では,モデル間のコストのかかるタスクに依存しない類似性信号を用いて,最適なマージを選択する,没入型予測マージ選択手法を提案する。
その結果,チェックポイントカタログが大きく,評価予算が厳しい場合には,マージ方法の学習が,拡張性のあるモデル構成への実践的な経路であることが示唆された。
論文 参考訳(メタデータ) (2026-01-14T13:30:00Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - If You Can't Use Them, Recycle Them: Optimizing Merging at Scale Mitigates Performance Tradeoffs [48.95875673503714]
多くのタスクで訓練された"ジェネラリスト"モデルをマージすることを研究する。
提案アルゴリズムは,各チェックポイントの重みを線形結合で調整し,最適モデルを生成する。
良いマージは、ほとんどすべてのチェックポイントとゼロでない重みを含む傾向があり、一見して悪い初期チェックポイントでさえ、良い最終マージに寄与することを示している。
論文 参考訳(メタデータ) (2024-12-05T13:12:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。