論文の概要: Ready2Blend: From Natural-Language Instructions to Composable Alignment Prompts
- arxiv url: http://arxiv.org/abs/2609.39365v1
- Date: Wed, 30 Sep 2026 09:21:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.512265
- Title: Ready2Blend: From Natural-Language Instructions to Composable Alignment Prompts
- Title(参考訳): Ready2Blend: 自然言語命令から構成可能なアライメントプロンプトへ
- Abstract要約: Ready2Blendは自然言語の柔軟性と学習されたアライメントを組み合わせたものだ。
これは、トレーニング後のアライメントメソッドにマッチする唯一のフリーズバックボーンメソッドである。
- 参考スコア(独自算出の注目度): 26.179539111510618
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Continual alignment requires LLMs to adapt to new requirements without forgetting previously acquired behaviors. Natural-language instructions are flexible and composable but offer only indirect control, whereas post-training provides stronger adaptation at the cost of repeated parameter updates. We introduce Ready2Blend, which combines the flexibility of natural language with learned alignment. AlignFormer maps each requirement to a fixed-length alignment prompt stored in a modular prompt bank, while the backbone and prior prompts remain frozen. Composability regularization transfers the semantic geometry of textual requirements into prompt space, enabling inference-time blending and reweighting. Across two practical continual alignment settings, Ready2Blend is the only frozen-backbone method that matches post-training-based alignment methods, reaching $93.1$-$98.5\%$ of a joint-training reference with competitive retention, while requiring only a few prompt tokens and up to $4.3\times$ less training time. Its modular design further enables weighted personalization and order-free composition without retraining. Code will be released upon acceptance.
- Abstract(参考訳): 継続的なアライメントは、LLMが以前取得した振る舞いを忘れずに、新しい要求に適応する必要がある。
自然言語命令は柔軟で構成可能であるが、間接的な制御しか提供しない。
自然言語の柔軟性と学習されたアライメントを組み合わせたReady2Blendを紹介します。
AlignFormerは、各要件をモジュラープロンプトバンクに格納された固定長アライメントプロンプトにマップする。
構成可能性正則化(Composability regularization)は、テキスト要求の意味的幾何学を即時空間に変換し、推論時ブレンディングと再重み付けを可能にする。
2つの実践的な連続的なアライメント設定の中で、Ready2Blendは、トレーニング後のアライメント手法にマッチする唯一のフリーズバックボーンメソッドであり、競争的保持を伴う共同トレーニング参照の93.1$-98.5\%ドルに達し、数個のプロンプトトークンと最大4.3\times$のトレーニング時間を短縮した。
モジュラーデザインは、さらに重み付けされたパーソナライゼーションと秩序のない構成を、再訓練することなく実現している。
コードは受理時にリリースされる。
関連論文リスト
- Teaching Prompts to Coordinate: Hierarchical Layer-Grouped Prompt Tuning for Continual Learning [69.17264556340244]
連続学習のための階層型階層型プロンプトチューニング手法を提案する。
i) 同じグループの層がほぼ同じプロンプトを共有し、位置符号化によって調整される。
単一のタスク固有のルートプロンプトを使用して、各レイヤグループのサブプロンプトを生成する。
論文 参考訳(メタデータ) (2025-11-15T08:15:51Z) - Learning Decomposed Contextual Token Representations from Pretrained and Collaborative Signals for Generative Recommendation [17.061613097917217]
本稿では,トークン埋め込みの適応性を高めつつ,事前学習した意味を保存する統一的なフレームワークを提案する。
3つの実世界のデータセットの実験では、DECORが推奨パフォーマンスにおいて、最先端のベースラインを一貫して上回っていることが示されている。
論文 参考訳(メタデータ) (2025-08-22T18:50:38Z) - LW2G: Learning Whether to Grow for Prompt-based Continual Learning [55.552510632228326]
最近のPromptベースの連続学習は、事前訓練されたモデルで顕著な性能を達成した。
これらのアプローチは、学習中に新しいプロンプトセットを追加してプロンプトプールを拡張し、推論中に正しいセットを選択する。
従来,PCLの性能向上に課題を呈する課題として,タスク指向のプロンプトセットの個別化と選択精度の低さが指摘されてきた。
論文 参考訳(メタデータ) (2024-09-27T15:55:13Z) - Instruction Following without Instruction Tuning [87.72635104686275]
命令チューニングに比較して不十分な2種類の適応(チューニング)があるが、それでも命令に従うことができる。
我々は、事前訓練されたモデルを用いて、エキスパート製品における指示に従うルールベースの言語モデルを手書きで支援する。
論文 参考訳(メタデータ) (2024-09-21T22:36:22Z) - RESTORE: Towards Feature Shift for Vision-Language Prompt Learning [33.13407089704543]
ここでは,CLIPの1つの分岐のみに沿った即時チューニングが,誤調整の発生の原因であることを示す。
学習可能なパラメータをさまざまなモダリティで適切に正規化することなく、迅速な学習は元の事前学習制約に違反する。
クロスモーダルな一貫性に明示的な制約を課すマルチモーダルなプロンプト学習手法であるRESTOREを提案する。
論文 参考訳(メタデータ) (2024-03-10T08:52:48Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z) - OpenPrompt: An Open-source Framework for Prompt-learning [59.17869696803559]
PLM上でのプロンプト学習を行うための統一的な使いやすさツールキットであるOpenPromptを提案する。
OpenPromptは、効率性、モジュール性、拡張性を備えた、リサーチフレンドリーなフレームワークである。
論文 参考訳(メタデータ) (2021-11-03T03:31:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。