論文の概要: SyRuP: Enhancing System-Prompt Following via Reward-Guided Prediction in LLM Decoding

• arxiv url: http://arxiv.org/abs/2607.23991v1
• Date: Mon, 27 Jul 2026 04:39:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.311016
• Title: SyRuP: Enhancing System-Prompt Following via Reward-Guided Prediction in LLM Decoding
• Title（参考訳）: SyRuP: LLMデコードにおけるリワード誘導予測によるシステムプロンプト追従の強化
• Abstract要約: 本稿では,SyRuPについて紹介する。SyRuPは,基本LMを凍結状態に保ちながら,システムプロンプトの付着性を改善するためのデコーディング時フレームワークである。 SyRuPは、システムプロンプト条件付き優先ペアからクロスアテンション報酬ヘッドをトレーニングし、システムプロンプトを別のメモリとして扱い、トークンレベルの順守スコアを生成する。 システムプロンプト追従ベンチマークの実験は、SyRuPが適度な推論オーバーヘッドでプロンプトとデコードタイムのベースラインを継続的に上回っていることを示している。
• 参考スコア（独自算出の注目度）: 11.976258172345547
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly controlled through system prompts that specify roles, styles, formats, and safety requirements. However, models follow these prompts only implicitly through in-context learning, which can be insufficient for complex or compositional prompts. Existing approaches often require model tuning or response-level reranking, limiting their practicality for lightweight inference-time control. We introduce SyRuP, a decoding-time framework for improving system-prompt adherence while keeping the base LM frozen. SyRuP trains a cross-attention reward head from system-prompt-conditioned preference pairs, treating the system prompt as a separate memory to produce token-level adherence scores. At inference, SyRuP reranks the base LM's top-k candidates by combining base logits with the learned reward signal and an optional contrastive signal capturing system-induced logit shifts. Experiments on system-prompt following benchmarks show that SyRuP consistently outperforms prompting and decoding-time baselines with moderate inference overhead. These results suggest that explicit token-level guidance is an effective and practical mechanism for reliable system-prompt following.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、役割、スタイル、フォーマット、安全要件を指定するシステムプロンプトによって、ますます制御されるようになっている。 しかし、モデルはこれらのプロンプトに従うのは文脈内学習のみであり、複雑なプロンプトや構成的なプロンプトには不十分である。 既存のアプローチでは、しばしばモデルチューニングやレスポンスレベルのリグレードを必要とし、軽量な推論時間制御の実用性を制限する。 本稿では,SyRuPについて紹介する。SyRuPは,基本LMを凍結状態に保ちながら,システムプロンプトの付着性を改善するためのデコーディング時フレームワークである。 SyRuPは、システムプロンプト条件付き優先ペアからクロスアテンション報酬ヘッドをトレーニングし、システムプロンプトを別のメモリとして扱い、トークンレベルの順守スコアを生成する。 推測では、SyRuPは、ベースロジットと学習した報奨信号とオプションのコントラスト信号キャプチャシステムによるロジットシフトを組み合わせることで、ベースLMの上位k候補をリランクする。 システムプロンプト追従ベンチマークの実験は、SyRuPが適度な推論オーバーヘッドでプロンプトとデコードタイムのベースラインを継続的に上回っていることを示している。 これらの結果から,明示的なトークンレベルのガイダンスは信頼性の高いシステム・プロンプト・フォローの有効かつ実践的なメカニズムであることが示唆された。

関連論文リスト

• HIPO: Instruction Hierarchy via Constrained Reinforcement Learning [57.40686733111483]
  textscHIPOは、制約付きマルコフ決定プロセスとしてHIFを定式化する新しいアライメントフレームワークである。 textscHIPOはシステムプロンプトを単に入力コンテキストから厳密なアルゴリズム境界まで高める。
  論文  参考訳（メタデータ） (2026-03-17T06:12:41Z)
• GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer [51.31263673158136]
  GFlowPOは、メタプロンプト参照-LMにより正規化される潜在プロンプトに対する後部推論問題としてプロンプトをキャストする。 GFlowPOは、最近の離散的なプロンプト最適化ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-03T10:30:03Z)
• KBQA-R1: Reinforcing Large Language Models for Knowledge Base Question Answering [64.62317305868264]
  テキスト模倣から強化学習によるインタラクション最適化へパラダイムをシフトするフレームワークである textbfKBQA-R1 を提案する。 KBQAを多ターン決定プロセスとして扱うことで,行動のリストを用いて知識ベースをナビゲートすることを学ぶ。 WebQSP、GrailQA、GraphQuestionsの実験では、KBQA-R1が最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-12-10T17:45:42Z)
• Instructional Prompt Optimization for Few-Shot LLM-Based Recommendations on Cold-Start Users [12.794692175339668]
  コールドスタートユーザ問題はさらに、過去の行動情報へのアクセスを制限するリコメンデータシステムの有効性を損なう。 数ショット大言語モデル(LLM)の命令プロンプトを最適化するための文脈条件付きプロンプト定式化手法を提案する。 LLMパイプラインにおけるコールドスタートレコメンデーション問題に対処する方法の1つとして,プロンプトベースの適応が考えられる。
  論文  参考訳（メタデータ） (2025-09-11T00:13:17Z)
• Pangu Embedded: An Efficient Dual-system LLM Reasoner with Metacognition [95.54406667705999]
  Pangu Embeddedは、Ascend Neural Processing Units (NPU) 上で開発された効率的なLarge Language Model (LLM) 推論器である。 既存の推論最適化 LLM でよく見られる計算コストと推論遅延の問題に対処する。 単一の統一モデルアーキテクチャ内で、迅速な応答と最先端の推論品質を提供する。
  論文  参考訳（メタデータ） (2025-05-28T14:03:02Z)
• A Closer Look at System Prompt Robustness [2.5525497052179995]
  開発者は、重要なコンテキスト、出力フォーマット、パーソナリティ、ガードレール、コンテンツポリシー、安全対策を指定するためのシステムプロンプトに依存する。 実際には、モデルは関連するガードレールを考慮することを忘れたり、システムとユーザ間の矛盾する要求を解決するのに失敗することが多い。 OpenAIのGPTストアとHuggingFaceのHuggingChatから収集されたプロンプトに基づいて、現実的な新しい評価と微調整データセットを作成します。
  論文  参考訳（メタデータ） (2025-02-15T18:10:45Z)
• Linear Feedback Control Systems for Iterative Prompt Optimization in Large Language Models [0.9572675949441439]
  大規模言語モデル(LLM)は、与えられたプロンプトに基づいて出力を生成することで、様々なアプリケーションに革命をもたらした。 本稿では,LLMにおける反復的プロンプト最適化プロセスとフィードバック制御システムとの並列性を示す新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-01-21T08:52:47Z)
• RelayAttention for Efficient Large Language Model Serving with Long System Prompts [59.50256661158862]
  本稿では,長いシステムプロンプトを含むLCMサービスの効率を向上させることを目的とする。 これらのシステムプロンプトの処理には、既存の因果注意アルゴリズムにおいて、大量のメモリアクセスが必要である。 本稿では,DRAMから入力トークンのバッチに対して,DRAMから隠れた状態を正確に1回読み取ることのできるアテンションアルゴリズムであるRelayAttentionを提案する。
  論文  参考訳（メタデータ） (2024-02-22T18:58:28Z)
• Token-level Sequence Labeling for Spoken Language Understanding using Compositional End-to-End Models [94.30953696090758]
  音声合成言語理解システムを構築した。 ASRのために訓練された中間デコーダを頼りにすることで、私たちのエンドツーエンドシステムは、入力モダリティを音声からトークンレベルの表現に変換する。 我々のモデルは、名前付きエンティティ認識のラベル付けタスクにおいて、カスケードモデルと直接エンド・ツー・エンドモデルの両方より優れている。
  論文  参考訳（メタデータ） (2022-10-27T19:33:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。