論文の概要: C-MOP: Integrating Momentum and Boundary-Aware Clustering for Enhanced Prompt Evolution
- arxiv url: http://arxiv.org/abs/2602.10874v1
- Date: Wed, 11 Feb 2026 14:04:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-12 21:44:01.965905
- Title: C-MOP: Integrating Momentum and Boundary-Aware Clustering for Enhanced Prompt Evolution
- Title(参考訳): C-MOP: プロンプト進化促進のためのモメンタムと境界認識クラスタリングの統合
- Authors: Binwei Yan, Yifei Fu, Mingjian Zhu, Hanting Chen, Mingxuan Yuan, Yunhe Wang, Hailin Hu,
- Abstract要約: 境界対応コントラストサンプリング (BACS) と Momentum-Guided Semantic Clustering (MGSC) による最適化を安定化するフレームワーク C-MOP を提案する。
C-MOPは、PromptWizardやProTeGiのようなSOTAベースラインを一貫して上回り、平均利得は1.58%と3.35%である。
- 参考スコア(独自算出の注目度): 37.02233725807037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automatic prompt optimization is a promising direction to boost the performance of Large Language Models (LLMs). However, existing methods often suffer from noisy and conflicting update signals. In this research, we propose C-MOP (Cluster-based Momentum Optimized Prompting), a framework that stabilizes optimization via Boundary-Aware Contrastive Sampling (BACS) and Momentum-Guided Semantic Clustering (MGSC). Specifically, BACS utilizes batch-level information to mine tripartite features--Hard Negatives, Anchors, and Boundary Pairs--to precisely characterize the typical representation and decision boundaries of positive and negative prompt samples. To resolve semantic conflicts, MGSC introduces a textual momentum mechanism with temporal decay that distills persistent consensus from fluctuating gradients across iterations. Extensive experiments demonstrate that C-MOP consistently outperforms SOTA baselines like PromptWizard and ProTeGi, yielding average gains of 1.58% and 3.35%. Notably, C-MOP enables a general LLM with 3B activated parameters to surpass a 70B domain-specific dense LLM, highlighting its effectiveness in driving precise prompt evolution. The code is available at https://github.com/huawei-noah/noah-research/tree/master/C-MOP.
- Abstract(参考訳): 自動プロンプト最適化は、Large Language Models (LLMs) の性能を高めるための有望な方向である。
しかし、既存の方法はしばしばノイズや更新信号の矛盾に悩まされる。
本研究では, C-MOP (Cluster-based Momentum Optimized Prompting) を提案する。これは境界認識コントラストサンプリング (BACS) と Momentum-Guided Semantic Clustering (MGSC) による最適化を安定化させるフレームワークである。
具体的には、BACSはバッチレベル情報を用いて三部分詞の特徴(Hard Negatives、Anchors、Boundary Pairs)を抽出し、正および負のプロンプトサンプルの典型的な表現と決定境界を正確に特徴付ける。
セマンティック・コンフリクトを解決するため、MGSCは時間減衰を伴うテキストモーメント機構を導入し、反復間のゆがんだ勾配から永続的なコンセンサスを蒸留する。
C-MOPはPromptWizardやProTeGiのようなSOTAベースラインを一貫して上回り、平均利得は1.58%と3.35%である。
特に、C-MOPは3B活性化パラメータを持つ一般LLMを70Bドメイン固有の高密度LLMを超え、正確な迅速な進化を誘導する効果を強調している。
コードはhttps://github.com/huawei-noah/noah-research/tree/master/C-MOPで公開されている。
関連論文リスト
- Empowering Contrastive Federated Sequential Recommendation with LLMs [13.016120865205258]
フェデレートシーケンシャルレコメンデーション(FedSeqRec)は、ユーザのデータを分散化しながら、次のイテム予測を実行することを目的としている。
パラメータ分離型FedSeqRecアーキテクチャである textbfLUMOS を提案する。
論文 参考訳(メタデータ) (2026-02-10T00:47:43Z) - Multi-Perspective Subimage CLIP with Keyword Guidance for Remote Sensing Image-Text Retrieval [18.55080473948215]
MPS-CLIPは、検索パラダイムをグローバルマッチングからキーワード誘導された微粒化アライメントにシフトさせるために設計された、パラメータ効率のよいフレームワークである。
RSICDとRSITMDベンチマークの実験では、MPS-CLIPは35.18%、48.40%がリコールである。
論文 参考訳(メタデータ) (2026-01-26T06:16:53Z) - GAP-Net: Calibrating User Intent via Gated Adaptive Progressive Learning for CTR Prediction [0.6372261626436676]
GAP-Netは、マイクロレベルの機能からマクロレベルのビューまで、情報を段階的に洗練する"トリプルゲーティング"アーキテクチャを確立する統一フレームワークである。
最先端のベースラインよりも大幅に改善され、相互作用ノイズや意図の漂流に対して優れた堅牢性を示す。
論文 参考訳(メタデータ) (2026-01-12T15:01:12Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - Pangu Embedded: An Efficient Dual-system LLM Reasoner with Metacognition [95.54406667705999]
Pangu Embeddedは、Ascend Neural Processing Units (NPU) 上で開発された効率的なLarge Language Model (LLM) 推論器である。
既存の推論最適化 LLM でよく見られる計算コストと推論遅延の問題に対処する。
単一の統一モデルアーキテクチャ内で、迅速な応答と最先端の推論品質を提供する。
論文 参考訳(メタデータ) (2025-05-28T14:03:02Z) - Unleashing Network Potentials for Semantic Scene Completion [50.95486458217653]
本稿では,新しいSSCフレームワーク - Adrial Modality Modulation Network (AMMNet)を提案する。
AMMNetは、モダリティ間の勾配流の相互依存性を可能にするクロスモーダル変調と、動的勾配競争を利用するカスタマイズされた逆トレーニングスキームの2つのコアモジュールを導入している。
AMMNetは最先端のSSC法よりも大きなマージンで優れていた。
論文 参考訳(メタデータ) (2024-03-12T11:48:49Z) - Faster Learning of Temporal Action Proposal via Sparse Multilevel
Boundary Generator [9.038216757761955]
ビデオにおける時間的行動のローカライゼーションは、コンピュータビジョンの分野で大きな課題を呈している。
本稿では,境界分類と動作完全性回帰を用いた境界感性手法を改良したSMBG(Sparse Multilevel boundary Generator)を提案する。
提案手法は,ActivityNet-1.3 と THUMOS14 の2つのベンチマークで評価され,より高速な推論速度 (2.47xBSN++, 2.12xDBG) で最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-03-06T14:26:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。