論文の概要: Intent Factored Generation: Unleashing the Diversity in Your Language Model

• arxiv url: http://arxiv.org/abs/2506.09659v1
• Date: Wed, 11 Jun 2025 12:26:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-13 06:35:02.947243
• Title: Intent Factored Generation: Unleashing the Diversity in Your Language Model
• Title（参考訳）: Intent Factored Generation: 言語モデルにおける多様性の解放
• Authors: Eltayeb Ahmed, Uljad Berdica, Martha Elliott, Danijela Horak, Jakob N. Foerster,
• Abstract要約: 多様性を高める方法はしばしばトークンレベルでのみ動作し、同じ応答を言い換える。 本稿では, サンプリング過程を2段階に分解するIntent Factored Generationを提案する。 本手法の有効性は,様々なタスクにまたがって実証する。
• 参考スコア（独自算出の注目度）: 18.299668531350825
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Obtaining multiple meaningfully diverse, high quality samples from Large Language Models for a fixed prompt remains an open challenge. Current methods for increasing diversity often only operate at the token-level, paraphrasing the same response. This is problematic because it leads to poor exploration on reasoning problems and to unengaging, repetitive conversational agents. To address this we propose Intent Factored Generation (IFG), factorising the sampling process into two stages. First, we sample a semantically dense intent, e.g., a summary or keywords. Second, we sample the final response conditioning on both the original prompt and the intent from the first stage. This allows us to use a higher temperature during the intent step to promote conceptual diversity, and a lower temperature during the final generation to ensure the outputs are coherent and self-consistent. Additionally, we find that prompting the model to explicitly state its intent for each step of the chain-of-thought before generating the step is beneficial for reasoning tasks. We demonstrate our method's effectiveness across a diverse set of tasks. We show this method improves both pass@k and Reinforcement Learning from Verifier Feedback on maths and code tasks. For instruction-tuning, we combine IFG with Direct Preference Optimisation to increase conversational diversity without sacrificing reward. Finally, we achieve higher diversity while maintaining the quality of generations on a general language modelling task, using a new dataset of reader comments and news articles that we collect and open-source. In summary, we present a simple method of increasing the sample diversity of LLMs while maintaining performance. This method can be implemented by changing the prompt and varying the temperature during generation, making it easy to integrate into many algorithms for gains across various applications.
• Abstract（参考訳）: 固定プロンプトのために、大規模言語モデルから有意義に多様で高品質なサンプルを得ることは、依然としてオープンな課題である。 多様性を高める現在の方法は、しばしばトークンレベルでのみ動作し、同じ応答を言い換える。 これは、推論上の問題や、未熟で反復的な会話エージェントの探究に繋がるからである。 そこで本研究では, 抽出過程を2段階に分解するIntent Factored Generation (IFG)を提案する。 まず、意味的に密接な意図、例えば要約やキーワードをサンプリングする。 第2に、最初のプロンプトと第1段階からのインテントの両方で最終応答条件をサンプリングする。 これにより、概念的多様性を促進するために意図段階においてより高い温度を、最終世代において低い温度を用いて、出力が一貫性と自己整合性であることを保証することができる。 さらに、ステップを生成する前のチェーンの各ステップに対して、モデルに明示的にその意図を述べるように促すことは、タスクを推論するのに有益であることがわかった。 本手法の有効性は,様々なタスクにまたがって実証する。 本稿では,この手法が数学やコードタスクの検証フィードバックからパス@kと強化学習の両方を改善することを示す。 インストラクションチューニングでは、IFGと直接選好最適化を組み合わせることで、報酬を犠牲にすることなく会話の多様性を向上させる。 最後に、私たちが収集、オープンソース化した読者コメントとニュース記事の新しいデータセットを使用して、汎用言語モデリングタスクにおいて世代の品質を維持しながら、より高い多様性を達成する。 そこで本研究では,LLMのサンプルの多様性を向上し,性能を向上する手法を提案する。 この方法は、生成中のプロンプトを変更して温度を変化させることで実現可能であり、様々なアプリケーションにまたがる利得のために、多くのアルゴリズムに容易に統合できる。

関連論文リスト

• Prompt as Free Lunch: Enhancing Diversity in Source-Free Cross-domain Few-shot Learning through Semantic-Guided Prompting [9.116108409344177]
  ソースフリーのクロスドメイン数ショット学習タスクは、最小限のサンプルを使用して、トレーニング済みのモデルをターゲットのドメインに転送することを目的としている。 本稿では2つのフェーズに分けられるSeGD-VPTフレームワークを提案する。 最初のステップは、各サポートサンプルに多様性プロンプトを追加し、様々な入力を生成し、サンプルの多様性を高めることで、機能の多様性を高めることを目的としている。
  論文  参考訳（メタデータ） (2024-12-01T11:00:38Z)
• SpeechPrompt: Prompting Speech Language Models for Speech Processing Tasks [94.10497337235083]
  我々はまず,音声処理分野における音声 LM の促進の可能性を探る。 音声処理タスクを音声単位生成タスクに再構成する。 提案手法は, 強い微調整法と比較して, 競争性能を向上できることを示す。
  論文  参考訳（メタデータ） (2024-08-23T13:00:10Z)
• Meta-Task Prompting Elicits Embeddings from Large Language Models [54.757445048329735]
  本稿では,新しい教師なしテキスト埋め込み手法であるMeta-Task Prompting with Explicit One-Word Limitationを紹介する。 モデル微調整を必要とせずに,大規模言語モデルから高品質な文埋め込みを生成する。 提案法は,多種多様なシナリオにまたがって生成を組み込む汎用的で資源効率のよい手法を提供する。
  論文  参考訳（メタデータ） (2024-02-28T16:35:52Z)
• Diversify Question Generation with Retrieval-Augmented Style Transfer [68.00794669873196]
  本稿では,検索型スタイル転送のためのフレームワーク RAST を提案する。 本研究の目的は,多様なテンプレートのスタイルを質問生成に活用することである。 多様性報酬と一貫性報酬の重み付けを最大化する新しい強化学習(RL)ベースのアプローチを開発する。
  論文  参考訳（メタデータ） (2023-10-23T02:27:31Z)
• Diversity of Thought Improves Reasoning Abilities of LLMs [26.149914503910235]
  大規模言語モデル(LLM)は、複雑な推論を必要とする設定で苦労するために文書化されている。 我々は、思考の多様性の手段として、入力プロンプトのバリエーションを作成し、活用する方法について議論する。
  論文  参考訳（メタデータ） (2023-10-11T00:01:41Z)
• Improving Factuality and Reasoning in Language Models through Multiagent Debate [95.10641301155232]
  複数の言語モデルインスタンスが共通の最終回答に到達するために、複数のラウンドで個別の応答と推論プロセスを提案し、議論する言語応答を改善するための補完的なアプローチを提案する。 以上の結果から,本手法は様々なタスクにおける数学的・戦略的推論を著しく向上させることが示唆された。 我々のアプローチは、既存のブラックボックスモデルに直接適用され、調査するすべてのタスクに対して、同じ手順とプロンプトを使用することができる。
  論文  参考訳（メタデータ） (2023-05-23T17:55:11Z)
• Grad2Task: Improved Few-shot Text Classification Using Gradients for Task Representation [24.488427641442694]
  本稿では,数ショットのテキスト分類のための条件付きニューラルプロセスに基づく新しいアプローチを提案する。 私たちのキーとなるアイデアは、ベースモデルからの勾配情報を使って各タスクを表現することです。 我々のアプローチは、従来の微調整、シーケンシャルトランスファーラーニング、そして最先端のメタラーニングアプローチよりも優れています。
  論文  参考訳（メタデータ） (2022-01-27T15:29:30Z)
• Instance-aware Prompt Learning for Language Understanding and Generation [49.22899822734549]
  本稿では,インスタンス毎に異なるプロンプトを学習するインスタンス対応プロンプト学習手法を提案する。 提案手法は,SuperGLUE数ショット学習ベンチマークの最先端性を実現する。
  論文  参考訳（メタデータ） (2022-01-18T17:03:25Z)
• Pre-training via Paraphrasing [96.79972492585112]
  教師なし多言語パラフレージング目的を用いて学習した,事前学習されたシーケンス・ツー・シーケンスモデルであるMARGEを紹介する。 ランダムな初期化のみを前提として,検索と再構築を共同で行うことができることを示す。 例えば、追加のタスク固有のトレーニングがなければ、文書翻訳のBLEUスコアは最大35.8に達する。
  論文  参考訳（メタデータ） (2020-06-26T14:43:43Z)
• Informed Sampling for Diversity in Concept-to-Text NLG [8.883733362171034]
  本稿では,言語生成モデルが確実に生成できる多様性のレベルを探索するために,Imitation Learningアプローチを提案する。 具体的には、任意のタイミングでどの単語が高品質な出力につながるかを識別するように訓練されたメタ分類器を用いて復号処理を強化する。
  論文  参考訳（メタデータ） (2020-04-29T17:43:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。