論文の概要: G2: Guided Generation for Enhanced Output Diversity in LLMs

• arxiv url: http://arxiv.org/abs/2511.00432v1
• Date: Sat, 01 Nov 2025 07:13:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-05 16:37:26.77482
• Title: G2: Guided Generation for Enhanced Output Diversity in LLMs
• Title（参考訳）: G2: LLMにおける出力多様性向上のためのガイドジェネレーション
• Authors: Zhiwen Ruan, Yixia Li, Yefeng Liu, Yun Chen, Weihua Luo, Peng Li, Yang Liu, Guanhua Chen,
• Abstract要約: 大規模言語モデル(LLM)は、様々な自然言語処理タスクにまたがる例外的な性能を示している。 LLMは出力の多様性に限界があり、しばしば複数の試行において非常に類似したコンテンツを生成する。 生成品質を維持しながら出力の多様性を高める訓練不要なプラグアンドプレイ方式であるガイド・ツー・ジェネレーション(G2)を提案する。
• 参考スコア（独自算出の注目度）: 22.52615993477612
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have demonstrated exceptional performance across diverse natural language processing tasks. However, these models exhibit a critical limitation in output diversity, often generating highly similar content across multiple attempts. This limitation significantly affects tasks requiring diverse outputs, from creative writing to reasoning. Existing solutions, like temperature scaling, enhance diversity by modifying probability distributions but compromise output quality. We propose Guide-to-Generation (G2), a training-free plug-and-play method that enhances output diversity while preserving generation quality. G2 employs a base generator alongside dual Guides, which guide the generation process through decoding-based interventions to encourage more diverse outputs conditioned on the original query. Comprehensive experiments demonstrate that G2 effectively improves output diversity while maintaining an optimal balance between diversity and quality.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、様々な自然言語処理タスクにまたがる例外的な性能を示している。 しかし、これらのモデルは出力の多様性に限界があり、しばしば複数の試みにおいて非常に類似したコンテンツを生成する。 この制限は、クリエイティブな文章から推論まで、多様なアウトプットを必要とするタスクに大きく影響します。 温度スケーリングのような既存のソリューションは、確率分布を変更することによって多様性を高めるが、出力品質を損なう。 生成品質を保ちながら出力の多様性を向上させる訓練不要なプラグアンドプレイ方式であるガイド・ツー・ジェネレーション(G2)を提案する。 G2はデュアルガイドと共にベースジェネレータを採用しており、デコードベースの介入を通じて生成プロセスをガイドし、元のクエリでより多様な出力を推奨している。 総合的な実験により、G2は多様性と品質の最適なバランスを維持しながら、出力の多様性を効果的に改善することを示した。

関連論文リスト

• Jointly Reinforcing Diversity and Quality in Language Model Generations [64.72289248044514]
  大規模言語モデル(LM)のポストトレーニングは、しばしば多様性を犠牲にして正確さと役に立つことを優先する。 DARling(Diversity-Aware Reinforcement Learning)は、応答品質とセマンティック多様性を協調的に最適化するフレームワークである。
  論文  参考訳（メタデータ） (2025-09-02T17:38:47Z)
• Mind the Gap: Conformative Decoding to Improve Output Diversity of Instruction-Tuned Large Language Models [0.0]
  本稿では,物語生成作業における「多様性ギャップ」について検討する。 その結果,指導指導による多様性の低下が認められた。 本稿では、より多様なベースモデルを用いてインストラクションモデルを誘導し、出力の多様性を再導入する新しいデコーディング戦略であるコンストラクティブデコーディングを提案する。
  論文  参考訳（メタデータ） (2025-07-28T16:04:25Z)
• Semantic uncertainty in advanced decoding methods for LLM generation [35.31962554915952]
  本研究では,大規模言語モデル(LLM)における意味的不確実性について検討した。 モデル出力の多様性と信頼性の両方に異なる復号戦略がどう影響するかを分析する。
  論文  参考訳（メタデータ） (2025-06-17T10:09:29Z)
• SUDER: Self-Improving Unified Large Multimodal Models for Understanding and Generation with Dual Self-Rewards [55.99492656542475]
  textbfSDER (textbfSelf-improving textbfUnified LMMs with textbfDual stextbfElf-textbfRewards) を提案する。
  論文  参考訳（メタデータ） (2025-06-09T17:38:45Z)
• Evaluating the Diversity and Quality of LLM Generated Content [72.84945252821908]
  品質閾値を満たす出力間の効果的な意味的多様性を測定するための枠組みを導入する。 嗜好調整モデルでは語彙的および構文的多様性が低下するが、SFTやベースモデルよりも効果的な意味的多様性が得られる。 これらの発見は、多種多様な高品質な出力を必要とするアプリケーションに重要な意味を持つ。
  論文  参考訳（メタデータ） (2025-04-16T23:02:23Z)
• Diversity-Rewarded CFG Distillation [62.08448835625036]
  そこで本研究では,CFGの限界に対処しつつ,CFGの強度を蒸留する新しい微調整法であるCFG蒸留を導入する。 提案手法は,(1)蒸留目標,(CFGを使わずに)モデルのみにCFG拡張予測を模倣するよう促すこと,(2)多様性報酬を付与したRL目標,および与えられたプロンプトに対する多様な出力の生成を促進すること,の2つの訓練目標を最適化する。
  論文  参考訳（メタデータ） (2024-10-08T14:40:51Z)
• Improving Diversity of Commonsense Generation by Large Language Models via In-Context Learning [28.654890118684957]
  生成コモンセンス推論 (Generative Commonsense Reasoning, GCR) は、コモンセンス知識を用いて状況を理解するためのモデルを必要とする。 生成の多様性は、モデルが様々な常識的知識事実を使用する能力を反映しているため、同様に重要である。 そこで本研究では,LLMの世代を多様化し,その品質を保ちながら簡便な手法を提案する。
  論文  参考訳（メタデータ） (2024-04-25T17:52:39Z)
• Improved Paraphrase Generation via Controllable Latent Diffusion [60.479643304122504]
  textitLatent textitDiffusion textitParaphraser(LDP)を提案する。 実験の結果,LDPはベースラインよりもパラフレーズ生成の質や多様性をよく再現できることがわかった。
  論文  参考訳（メタデータ） (2024-04-13T09:24:32Z)
• Rethinking conditional GAN training: An approach using geometrically structured latent manifolds [58.07468272236356]
  条件付きGAN(cGAN)は、生成された出力の多様性の欠如などの重大な欠点に悩まされる。 本稿では,バニラcGANの多様性と視覚的品質を両立させる新しいトレーニング機構を提案する。
  論文  参考訳（メタデータ） (2020-11-25T22:54:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。