Fugu-MT 論文翻訳(概要): KuaiRP Series Role-playing Models Technical Report

論文の概要: KuaiRP Series Role-playing Models Technical Report

arxiv url: http://arxiv.org/abs/2609.11127v1
Date: Thu, 10 Sep 2026 06:14:58 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-11 23:53:35.219134
Title: KuaiRP Series Role-playing Models Technical Report
Title（参考訳）: KuaiRPシリーズロールプレイングモデルに関する技術報告
Abstract要約: 本稿では、KuaiRPシリーズのロールプレイングモデルに対する完全な技術的解決策を紹介する。本研究の目的は、簡易なプロンプトエンジニアリング、高度に安定した出力品質、内蔵されたドメイン世界の知識、高効率な展開の4つのコア目標を達成することである。実験の結果,KuaiRPモデルは,現在最先端のプロプライエタリモデルに適合するだけでなく,汎用エージェント能力の回復にも成功していることがわかった。
参考スコア（独自算出の注目度）: 18.54960296320583
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper introduces the complete technical solution for the KuaiRP series of role-playing models. We aim to achieve four core objectives for a dedicated role-playing model: simplified prompt engineering, highly stable output quality, built-in domain world knowledge, and high-efficiency deployment with a small parameter size. However, effectively injecting deep domain knowledge often leads to a severe catastrophic forgetting of the model's general agent capabilities. To overcome this trade-off, we propose a multi-stage training pipeline. First, we design a standardized character template and construct an SFT data pipeline based on user behavior simulation and reverse profile filtering. Next, we utilize a rule-based composite reward function during the Reinforcement Learning (RL) phase to eliminate common degradation phenomena like length expansion and repetitive generation. Finally, to recover the general capabilities compromised during SFT and RL, we propose a novel self-distillation paradigm using Two-stage On-Policy Distillation (OPD) equipped with Cumulative-Divergence Decay (CDD). By using the domain-adapted model as the teacher and the original base model as the student, we effectively balance deep domain knowledge injection with the preservation of general agent capabilities. Experimental results demonstrate that the KuaiRP models not only match the current state-of-the-art proprietary models in role-playing fidelity within our target domains, but also successfully recover general agent capabilities, maintaining extremely low deployment costs.
Abstract（参考訳）: 本稿では、KuaiRPシリーズのロールプレイングモデルに対する完全な技術的解決策を紹介する。本研究の目的は、簡易なプロンプトエンジニアリング、高度に安定した出力品質、内蔵されたドメイン世界の知識、小さなパラメータサイズで高効率な展開という、4つのコア目標を達成することである。しかし、ドメインの深い知識を効果的に注入すると、しばしばモデルの一般的なエージェント能力が壊滅的に忘れてしまう。このトレードオフを克服するため、我々はマルチステージトレーニングパイプラインを提案する。まず、標準化された文字テンプレートを設計し、ユーザ行動シミュレーションと逆プロファイルフィルタリングに基づくSFTデータパイプラインを構築する。次に、強化学習(RL)フェーズにおけるルールベース複合報酬関数を用いて、長さ拡大や繰り返し生成といった一般的な劣化現象を除去する。最後に,SFT と RL で妥協された一般機能を取り戻すために,2段階オン・ポリシィ蒸留 (OPD) を用いた新しい自己蒸留パラダイムを提案する。ドメイン適応型モデルを教師とし、元のベースモデルを学生として利用することにより、ドメイン知識注入と一般エージェント能力の保存を効果的にバランスさせる。実験の結果,KuaiRPモデルは,現在最先端のプロプライエタリモデルに適合するだけでなく,汎用エージェントの能力を回復し,展開コストを極端に低く抑えることができた。

関連論文リスト

On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
論文参考訳（メタデータ） (2026-05-12T11:33:49Z)
Why Does Reinforcement Learning Generalize? A Feature-Level Mechanistic Study of Post-Training in Large Language Models [51.45122910254346]
強化学習(RL)に基づくポストトレーニングは、トレーニングドメインを超えた大規模言語モデルの推論性能を改善することが多い。 Supervised Fine-tuning (SFT) はしばしば一般的な忘れる能力をもたらす。制御された実験装置を用いてRL一般化を探索する特徴レベル力学解析手法を提案する。
論文参考訳（メタデータ） (2026-04-27T21:22:34Z)
Emergent temporal abstractions in autoregressive models enable hierarchical reinforcement learning [61.380634253724594]
次トーケン予測に基づく大規模自己回帰モデルの構築と強化学習(RL)による微調整自己回帰モデルの内部表現を動作させ,探索することにより,この問題を克服できることを示す。
論文参考訳（メタデータ） (2025-12-23T18:51:50Z)
Cross-Modal Representational Knowledge Distillation for Enhanced Spike-Informed LFP Modeling [0.0]
潜伏電位(LFPs)は、神経実験においてスパイク活動と共に日常的に記録される。 LFPは集団レベルでの集合性のため、固有のモデリング上の課題を提起する。本稿では,多段スパイク変圧器モデルからLFP変圧器モデルへ高忠実度表現知識を伝達するクロスモーダルな知識蒸留フレームワークを提案する。
論文参考訳（メタデータ） (2025-12-13T21:20:13Z)
Scalable Offline Model-Based RL with Action Chunks [60.80151356018376]
モデルに基づく強化学習が、オフラインRLにおける複雑で長期のタスクに対処するためのスケーラブルなレシピを提供するかどうかを検討する。我々はこのレシピを textbfModel-based RL with Action Chunks (MAC) と呼ぶ。 MAC はオフラインモデルベース RL アルゴリズムの中で,特に長期的タスクにおいて,最高の性能を発揮することを示す。
論文参考訳（メタデータ） (2025-12-08T23:26:29Z)
Deep Generative Continual Learning using Functional LoRA: FunLoRA [12.547444644243543]
共通の戦略は、忘れを和らげるために、生成モデルを自身の合成データで再訓練することである。低階適応(LoRA)に基づく生成モデルのための新しい、より表現力のある条件付け機構を提案する。提案手法は,拡散モデルに基づく先行技術結果を上回るパラメータ効率細調整(PEFT)手法である。
論文参考訳（メタデータ） (2025-10-03T00:18:05Z)
PEER pressure: Model-to-Model Regularization for Single Source Domain Generalization [12.15086255236961]
対象領域におけるこのような拡張に基づく手法の性能は、訓練中に普遍的に変動することを示す。本稿では,新しい一般化法を提案する。 Space Ensemble with Entropy Regularization (PEER) – プロキシモデルを使用して、拡張データを学ぶ。
論文参考訳（メタデータ） (2025-05-19T06:01:11Z)
Masked Generative Priors Improve World Models Sequence Modelling Capabilities [23.48066383072968]
Masked Generative Modellingはより効率的で優れた帰納的バイアスとして登場した。 GIT-STORMは、Atari 100kベンチマークでRLタスクのパフォーマンスが大幅に向上したことを示している。トランスフォーマーをベースとした世界モデルが初めて連続行動環境に適用し、先行研究における大きなギャップに対処する。
論文参考訳（メタデータ） (2024-10-10T11:52:07Z)
Jointly Training and Pruning CNNs via Learnable Agent Guidance and Alignment [69.33930972652594]
本稿では,CNNモデルの重みと構造的プーン構造を協調的に学習するための新しい構造的プルーニング手法を提案する。本手法の中核となる要素は強化学習(RL)エージェントであり,その動作がCNNモデルの階層のプルーニング比を決定する。我々は,モデルの重みとエージェントのポリシーを反復的に訓練し,共同訓練と刈り取りを行う。
論文参考訳（メタデータ） (2024-03-28T15:22:29Z)
Towards Efficient Task-Driven Model Reprogramming with Foundation Models [52.411508216448716]
ビジョンファウンデーションモデルは、非常に大きなモデルキャパシティと幅広いトレーニングデータから恩恵を受け、印象的なパワーを示す。しかし、実際には、下流のシナリオは限られた計算資源や効率上の考慮のため、小さなモデルしかサポートできない。これは、ファンデーションモデルの現実的な応用に重要な課題をもたらします。
論文参考訳（メタデータ） (2023-04-05T07:28:33Z)
Learning a model is paramount for sample efficiency in reinforcement learning control of PDEs [5.488334211013093]
RLエージェントの訓練と並行して動作モデルを学ぶことで,実システムからサンプリングしたデータ量を大幅に削減できることを示す。また、RLトレーニングのバイアスを避けるために、モデルを反復的に更新することが重要であることも示している。
論文参考訳（メタデータ） (2023-02-14T16:14:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。