論文の概要: Improving Diversity in LLM Short Story Generation

• arxiv url: http://arxiv.org/abs/2610.06729v2
• Date: Tue, 06 Oct 2026 17:15:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.446018
• Title: Improving Diversity in LLM Short Story Generation
• Title（参考訳）: LLMショートストーリー生成における多様性の向上
• Abstract要約: 大規模言語モデル(LLM)は正確な応答を生成できるが、それらは多様性の欠如である。 2つのフェーズからなるLLMポストトレーニングフレームワークであるDivLMを紹介する。 まず、創造的な筆記コーパスで継続事前学習を行い、重量残量を用いて指示追従能力を復元する。 次に,目的物次元の多様性を両立させる,カスタムな複合報酬関数を用いた強化学習を適用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) can generate accurate responses, but these are void of diversity. We attempt to address this for the task of creative short story generation. Drawing on established writing conventions and known LLM limitations, we target variation in genre, tone, style, and named entities. To promote diversity across these dimensions, we introduce DivLM, an LLM post-training framework consisting of two phases. First, we perform continued pre-training on a creative writing corpus and restore instruction-following capabilities using weight residuals. We then apply reinforcement learning with a custom, composite reward function that jointly maximizes diversity across the targeted narrative dimensions while maintaining response quality. Our empirical results on two LLM families show that DivLM increases diversity metrics by more than 9% on average compared to alternative approaches, while preserving instruction following, overall response quality, and similarity to human outputs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は正確な応答を生成できるが、それらは多様性の欠如である。 我々は、創造的な短編物語生成の課題に対して、この問題に対処しようと試みる。 確立された書記規則と既知のLLM制限に基づいて、ジャンル、トーン、スタイル、名前付きエンティティのバリエーションをターゲットとしています。 これらの次元にまたがる多様性を促進するために,2つのフェーズからなるLLMポストトレーニングフレームワークであるDivLMを紹介した。 まず、創造的な筆記コーパスで継続事前学習を行い、重量残量を用いて指示追従能力を復元する。 次に, 目標次元の多様性を両立させ, 応答品質を維持したカスタム複合報酬関数による強化学習を適用した。 2つのLLMファミリーに対する実証実験の結果、DivLMは、他のアプローチと比較して平均で9%以上多様性の指標を増大させ、指示の追従、全体的な応答品質、人間の出力との類似性を保っていることがわかった。

関連論文リスト

• CreativeInstruct: Scalably Teaching LLMs to Balance Quality, Creativity, and Diversity [67.74087963315213]
  CreativeInstructは、大規模言語モデルに、創造的なベースモデルのような世代と、ポストトレーニング後のモデルの質のバランスをとるように教えるインストラクションチューニング手法である。 我々は,CreativeInstructが多モデルベースラインの多様性と,その出力の蒸留変種の両方に適合しているか,あるいは超越しているかを示す。 GRPOをCreative Instructチェックポイントに適用すると、AMCでは4%、MATHでは5%改善する。
  論文  参考訳（メタデータ） (2026-08-07T17:55:48Z)
• Jointly Reinforcing Diversity and Quality in Language Model Generations [64.72289248044514]
  大規模言語モデル(LM)のポストトレーニングは、しばしば多様性を犠牲にして正確さと役に立つことを優先する。 DARling(Diversity-Aware Reinforcement Learning)は、応答品質とセマンティック多様性を協調的に最適化するフレームワークである。
  論文  参考訳（メタデータ） (2025-09-02T17:38:47Z)
• Ensemble Learning for Large Language Models in Text and Code Generation: A Survey [6.041894045506043]
  本稿では,理解を深め,さらなる研究を奨励し,テキストおよびコード生成における実践的実装を促進するための,新たなアンサンブルアプローチについてレビューする。 大規模言語モデルは、重み付け、知識融合、エキスパートの混合、出力アンサンブル、ルーティング、カスケードの7つの主要な方法に分類する。 この結果から,多様性表現の改善,出力品質の向上,アプリケーション柔軟性の向上など,重要なメリットが浮かび上がっている。
  論文  参考訳（メタデータ） (2025-03-13T18:50:57Z)
• LLM2CLIP: Powerful Language Model Unlocks Richer Visual Representation [72.02635550088546]
  この研究は、大規模言語モデル(LLM)がCLIPの機能をどのように強化するか、特により長く複雑なイメージキャプションを処理するために検討する。 キャプション・トゥ・キャプション・トゥ・キャプション・トゥ・コントラスト・ファインチューニング・フレームワークを導入し,LLM出力の識別品質を大幅に向上させた。 提案手法はLoRA法よりも優れ,より優れた性能で4倍近い高速トレーニングを実現している。
  論文  参考訳（メタデータ） (2024-11-07T18:59:16Z)
• Bridging the Gap between Different Vocabularies for LLM Ensemble [10.669552498083709]
  様々な大言語モデル(LLM)における語彙の相違は、これまでの研究を制約してきた。 語彙アライメント(EVA)を用いたLLMのアンサンブル手法を提案する。 EVAは様々なLLM間の語彙ギャップを橋渡しし、各生成ステップで巧妙にアンサンブルすることができる。
  論文  参考訳（メタデータ） (2024-04-15T06:28:20Z)
• Knowledge Fusion of Large Language Models [73.28202188100646]
  本稿では,大規模言語モデル(LLM)における知識融合の概念を紹介する。 我々は、それらの集合的知識と独特な強みを外部化し、それによってターゲットモデルの能力が、どのソースLLMよりも高められるようにします。 この結果から,LLMの融合により,推論やコモンセンス,コード生成など,対象モデルの性能が向上することが確認された。
  論文  参考訳（メタデータ） (2024-01-19T05:02:46Z)
• Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
  大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。 自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。 本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
  論文  参考訳（メタデータ） (2023-12-26T07:24:46Z)
• How Far Can We Extract Diverse Perspectives from Large Language Models? [16.16678226707335]
  大規模言語モデル(LLM)が主観的トピックに対する多様な視点を生成できることを示す。 本稿では,様々な意見の根拠となる基準に基づくプロンプト手法を提案する。 本手法は,タスク主観性の度合いに応じて,LLMが多種多様な意見を生成可能であることを示す。
  論文  参考訳（メタデータ） (2023-11-16T11:23:38Z)
• Sight Beyond Text: Multi-Modal Training Enhances LLMs in Truthfulness and Ethics [32.123919380959485]
  MLLM(Multi-modal large language model)は、大規模言語モデル(LLM)に基づいて訓練される。 マルチモーダルなタスクでは優れているが、MLLMの純粋なNLP能力はしばしば過小評価され、テストされていない。 LLMをMLLMに移行するための一般的な戦略である視覚的インストラクションチューニングは、予期せぬ、興味深いことに、改善された真理性と倫理的整合性の両方を達成するのに役立ちます。
  論文  参考訳（メタデータ） (2023-09-13T17:57:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。