論文の概要: Where You Inject Diversity Matters: A Unified Framework for Diverse Generation

• arxiv url: http://arxiv.org/abs/2606.10302v1
• Date: Tue, 09 Jun 2026 01:40:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.251826
• Title: Where You Inject Diversity Matters: A Unified Framework for Diverse Generation
• Title（参考訳）: 多様性を注入する場所: ダイバーシティ生成のための統一フレームワーク
• Authors: Cheng Zhang, Rui Xin, Chudi Zhong,
• Abstract要約: 生成時に導入された多様性ソースによって,テストタイムの多様な生成手法を特徴付けるフレームワークを導入する。 そこで本研究では,まず様々な中間仕様を自動生成し,次に最終応答を生成するための条件を定め,完全自動仕様レベル生成手法を提案する。 分析の結果,多様性注入の成功は,音源の多様性と出力への伝達に左右されることがわかった。
• 参考スコア（独自算出の注目度）: 11.157357341000248
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Open-ended generation tasks often require a set of meaningfully different outputs, yet large language models often produce similar generations. Existing test-time diversity methods operate at different stages of generation with varying effectiveness, but it remains unclear what design choices lead to meaningful diversity in the output. We introduce a framework that characterizes test-time diverse generation methods by the diversity source introduced during generation and provide a transmission score for measuring how effectively variation in the source reaches the final output. Guided by this framework, we propose fully automated specification-level generation methods that first generate diverse intermediate specifications and then condition on them to produce final responses. Across five open-ended tasks and four backbone models, specification-level injection improves output diversity over test-time baselines while maintaining comparable quality. Our analysis shows that successful diversity injection depends on both the diversity of the sources and their transmission to the output, highlighting source design and source-to-output realization as two key levers for building more diverse generation systems.
• Abstract（参考訳）: オープンエンド生成タスクは、しばしば意味のある異なる出力を必要とするが、大きな言語モデルは、しばしば同様の世代を生成する。 既存のテストタイムの多様性手法は、様々な効果で異なる世代で機能するが、どのような設計選択が出力に有意義な多様性をもたらすかは定かではない。 生成時に導入された多様性ソースによってテスト時多様な生成手法を特徴付けるフレームワークを導入し、ソースの変動が最終的な出力にどの程度効果的に到達するかを測定するための送信スコアを提供する。 このフレームワークによって導かれる仕様レベルの完全自動生成手法は、まず様々な中間仕様を生成し、次に最終応答を生成するよう条件付けする。 5つのオープンなタスクと4つのバックボーンモデルにまたがって、仕様レベルのインジェクションは、同等の品質を維持しながら、テスト時のベースラインよりも出力の多様性を改善します。 分析の結果, 多様性注入が成功するには, ソースの多様性と出力への伝達の両方に依存し, より多様な世代システムを構築するための2つのキーレバーとして, ソース設計とソース・ツー・アウトプットの実現が重要であることがわかった。

関連論文リスト

• DPWriter: Reinforcement Learning with Diverse Planning Branching for Creative Writing [78.70918589095639]
  強化学習(RL)に基づく大規模言語モデル(LLM)の強化は、しばしば出力の多様性を低下させる。 本稿では,半構造化長鎖(CoT)を中心に構成されたRLフレームワークを提案する。 本稿では,多様性の多様性に基づいて,計画段階での分岐を戦略的に導入する横計画分岐手法を提案する。
  論文  参考訳（メタデータ） (2026-01-14T16:30:20Z)
• G2: Guided Generation for Enhanced Output Diversity in LLMs [22.52615993477612]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにまたがる例外的な性能を示している。 LLMは出力の多様性に限界があり、しばしば複数の試行において非常に類似したコンテンツを生成する。 生成品質を維持しながら出力の多様性を高める訓練不要なプラグアンドプレイ方式であるガイド・ツー・ジェネレーション(G2)を提案する。
  論文  参考訳（メタデータ） (2025-11-01T07:13:28Z)
• Jointly Reinforcing Diversity and Quality in Language Model Generations [64.72289248044514]
  大規模言語モデル(LM)のポストトレーニングは、しばしば多様性を犠牲にして正確さと役に立つことを優先する。 DARling(Diversity-Aware Reinforcement Learning)は、応答品質とセマンティック多様性を協調的に最適化するフレームワークである。
  論文  参考訳（メタデータ） (2025-09-02T17:38:47Z)
• Evaluating the Diversity and Quality of LLM Generated Content [72.84945252821908]
  品質閾値を満たす出力間の効果的な意味的多様性を測定するための枠組みを導入する。 嗜好調整モデルでは語彙的および構文的多様性が低下するが、SFTやベースモデルよりも効果的な意味的多様性が得られる。 これらの発見は、多種多様な高品質な出力を必要とするアプリケーションに重要な意味を持つ。
  論文  参考訳（メタデータ） (2025-04-16T23:02:23Z)
• Improving Diversity of Commonsense Generation by Large Language Models via In-Context Learning [28.654890118684957]
  生成コモンセンス推論 (Generative Commonsense Reasoning, GCR) は、コモンセンス知識を用いて状況を理解するためのモデルを必要とする。 生成の多様性は、モデルが様々な常識的知識事実を使用する能力を反映しているため、同様に重要である。 そこで本研究では,LLMの世代を多様化し,その品質を保ちながら簡便な手法を提案する。
  論文  参考訳（メタデータ） (2024-04-25T17:52:39Z)
• Diversify Question Generation with Retrieval-Augmented Style Transfer [68.00794669873196]
  本稿では,検索型スタイル転送のためのフレームワーク RAST を提案する。 本研究の目的は,多様なテンプレートのスタイルを質問生成に活用することである。 多様性報酬と一貫性報酬の重み付けを最大化する新しい強化学習(RL)ベースのアプローチを開発する。
  論文  参考訳（メタデータ） (2023-10-23T02:27:31Z)
• VOLTA: Improving Generative Diversity by Variational Mutual Information Maximizing Autoencoder [38.35049378875308]
  VOLTAは,VAEでトランスフォーマーをブリッジすることで,遺伝子多様性を高めるフレームワークである。 6つのデータセット上で2種類のトランスフォーマーを用いた総合的な実験を行い、生成品質を維持しながら生成の多様性を著しく向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-07-03T08:45:42Z)
• Contrastive Learning for Diverse Disentangled Foreground Generation [67.81298739373766]
  本稿では,様々な要因を明示的に制御した多種多様な前景生成手法を提案する。 我々は、暗黙の入力に対して様々なフォアグラウンド結果を生成するために、遅延符号を用いたコントラスト学習を利用する。 実験により,本手法の多様性と生成制御性において,最先端技術よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-11-04T18:51:04Z)
• Expressivity of Parameterized and Data-driven Representations in Quality Diversity Search [111.06379262544911]
  2つの異なる検索空間で実施した品質多様性進化探索の出力多様性を比較する。 学習モデルは、未知の例への外挿や拡大よりも、既知のデータポイント間の補間が優れている。
  論文  参考訳（メタデータ） (2021-05-10T10:27:43Z)
• Informed Sampling for Diversity in Concept-to-Text NLG [8.883733362171034]
  本稿では,言語生成モデルが確実に生成できる多様性のレベルを探索するために,Imitation Learningアプローチを提案する。 具体的には、任意のタイミングでどの単語が高品質な出力につながるかを識別するように訓練されたメタ分類器を用いて復号処理を強化する。
  論文  参考訳（メタデータ） (2020-04-29T17:43:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。