論文の概要: CWM: Controllable White-Box Meta-Prompting for Adaptive Retrieval-Augmented Generation and Reasoning Ability
- arxiv url: http://arxiv.org/abs/2609.15234v1
- Date: Mon, 14 Sep 2026 08:54:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.1978
- Title: CWM: Controllable White-Box Meta-Prompting for Adaptive Retrieval-Augmented Generation and Reasoning Ability
- Title(参考訳): CWM:適応型検索拡張と推論能力のための制御可能なホワイトボックスメタプロンピング
- Abstract要約: 大きな言語モデル(LLM)は、言語理解と生成能力の強化により、大きな注目を集めている。
本稿では、推論と検索-拡張生成(RAG)タスクを統合した統合フレームワークを提案する。
制御可能なWhite-Box Meta-Prompting (CWM) は、適応的なRAGタスクのための低コストなWhite-boxメソッドである。
- 参考スコア(独自算出の注目度): 2.4660652494309936
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, Large Language Models (LLMs) have gained significant attention due to their strong language understanding and generation capabilities, demonstrating impressive reasoning abilities as well as effective utilization of external knowledge. Many studies have proposed methods that specialize in improving performance for individual tasks. However, ironically, only a limited number of attempts have explored general-purpose, task-agnostic methods. In this work, we present a unified framework integrating reasoning and Retrieval-Augmented Generation (RAG) tasks. We further propose Controllable White-Box Meta-Prompting (CWM), a low-cost white-box method for adaptive RAG tasks previously dominated by black-box approaches, without requiring external decision modules or multi-sampling. CWM achieves state-of-the-art performance on three adaptive RAG benchmarks across recent LLMs, including GPT-oss-20b, Qwen3-14b, and Llama3.1-8b, while also demonstrating strong generality by extending to reasoning tasks. In addition, CWM provides controllability by enabling retrieval decisions to be regulated through the manipulation of internal model signals. Our code is available at https://github.com/JeongEunhye00/CWM.
- Abstract(参考訳): 近年,Large Language Models (LLMs) が注目されているのは,言語理解と生成能力の強化と,優れた推論能力,さらには外部知識の有効活用などである。
多くの研究が個々のタスクのパフォーマンス向上に特化する手法を提案している。
しかし皮肉なことに、汎用的でタスクに依存しない手法を探求する試みは限られている。
本研究では、推論と検索-拡張生成(RAG)タスクを統合した統一的なフレームワークを提案する。
さらに,外部決定モジュールやマルチサンプリングを必要とせず,従来ブラックボックス方式で支配されていた適応RAGタスクの低コストなホワイトボックス手法である,制御可能なホワイトボックスメタプロンピング(CWM)を提案する。
CWMは、GPT-oss-20b、Qwen3-14b、Llama3.1-8bを含む最近のLLMの3つの適応RAGベンチマークの最先端性能を達成し、また推論タスクの拡張によって強力な一般化を示した。
さらに、CWMは、内部モデル信号の操作による検索決定の制御を可能にすることにより、制御性を提供する。
私たちのコードはhttps://github.com/JeongEunhye00/CWM.comで利用可能です。
関連論文リスト
- Modality-Agnostic Prompt Learning for Multi-Modal Camouflaged Object Detection [61.36976558603528]
本稿では,Segment Anything Model(SAM)のためのモダリティに依存しないマルチモーダルプロンプトを生成する新しいフレームワークを提案する。
具体的には,データ駆動型コンテンツドメインと知識駆動型プロンプトドメインとのインタラクションを通じて,マルチモーダル学習をモデル化する。
さらに,微粒なプロンプトキューを組み込むことで,粗い予測をキャリブレーションする軽量マスクリファインモジュールを導入する。
論文 参考訳(メタデータ) (2026-04-14T07:13:28Z) - Test-Time Computing for Referring Multimodal Large Language Models [143.49848714354698]
そこで我々は,新しいテスト時間適応フレームワークである ControlMLLM++ を提案する。
学習可能な視覚的プロンプトを凍ったマルチモーダルな大言語モデルに注入する。
論文 参考訳(メタデータ) (2026-02-23T04:42:10Z) - C-MOP: Integrating Momentum and Boundary-Aware Clustering for Enhanced Prompt Evolution [37.02233725807037]
境界対応コントラストサンプリング (BACS) と Momentum-Guided Semantic Clustering (MGSC) による最適化を安定化するフレームワーク C-MOP を提案する。
C-MOPは、PromptWizardやProTeGiのようなSOTAベースラインを一貫して上回り、平均利得は1.58%と3.35%である。
論文 参考訳(メタデータ) (2026-02-11T14:04:47Z) - Merlin's Whisper: Enabling Efficient Reasoning in LLMs via Black-box Adversarial Prompting [23.74763730893521]
大規模推論モデル(LRM)は、ステップバイステップ思考を通じて複雑な推論タスクに取り組むのに顕著な習熟性を示した。
ブラックボックスの対角的プロンプトを通して, LRMにおける過剰思考を緩和する新たな視点を提示する。
本稿では,多様な視点から高品質な敵のプロンプトを生成する反復的改良フレームワークであるAdvPromptを紹介する。
論文 参考訳(メタデータ) (2025-10-12T09:56:47Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - KAT-V1: Kwai-AutoThink Technical Report [50.84483585850113]
Kwaipilot-AutoThink (KAT) はオープンソースの40B大言語モデルであり、推論集約タスクにおける過大な問題に対処するために開発された。
KATはタスクの複雑さに基づいて推論モードと非推論モードを動的に切り替える。
また、GRPOフレームワークに中間管理を組み込んだ強化学習アルゴリズムであるStep-SRPOを提案する。
論文 参考訳(メタデータ) (2025-07-11T04:07:10Z) - MEMETRON: Metaheuristic Mechanisms for Test-time Response Optimization of Large Language Models [0.6926105253992517]
大規模言語モデル(LLM)は、オープンエンドタスクと構造化タスクの両方にますます使われている。
本稿では,個別のブラックボックス最適化問題としてLCMデコーディングを定式化するタスク非依存フレームワークMEMETRONを紹介する。
我々は,人間の嗜好アライメントタスクの枠組みを評価し,標準的な復号化手法と復号化手法を著しく上回っていることを示す。
論文 参考訳(メタデータ) (2025-06-10T09:55:53Z) - Uncovering Untapped Potential in Sample-Efficient World Model Agents [51.65485693709418]
Simulusは高度にモジュール化されたTBWMエージェントで、マルチモーダルトークン化フレームワーク、本質的なモチベーション、優先順位付けされたWMリプレイ、レグレッション・アズ・クラス化を統合している。
Simulusは3つの異なるベンチマークで、計画自由なWMに対して最先端のサンプル効率を達成する。
論文 参考訳(メタデータ) (2025-02-17T08:06:10Z) - Zero-Shot Strategies for Length-Controllable Summarization [56.15356055672189]
大規模言語モデル(LLM)は、特にゼロショット設定において、正確な長さ制御に苦しむ。
本研究では, LLMの長さ制御能力を複数の尺度で評価し, 制御性向上のための実用的手法を提案する。
LLaMA 3 を用いて行った実験では,測定値間の長さの密着性の違いが明らかになり,モデル固有のバイアスが強調された。
論文 参考訳(メタデータ) (2024-12-31T02:53:27Z) - CtrlA: Adaptive Retrieval-Augmented Generation via Inherent Control [26.21425058462886]
大規模言語モデル(LLM)の幻覚を、検索された外部知識で緩和するための有望な解決策として、検索拡張世代(RAG)が出現している。
本稿では,適応的なRAGを表現的視点から解決し,固有な制御ベースフレームワークであるnameを開発するための最初の試みについて述べる。
実験により、名前は様々なタスクにおいて既存の適応RAG法よりも優れていることが示された。
論文 参考訳(メタデータ) (2024-05-29T03:17:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。