論文の概要: The Significance of Style Diversity in Annotation-Free Synthetic Data Generation
- arxiv url: http://arxiv.org/abs/2606.20400v1
- Date: Thu, 18 Jun 2026 15:53:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.963629
- Title: The Significance of Style Diversity in Annotation-Free Synthetic Data Generation
- Title(参考訳): 注釈なし合成データ生成におけるスタイル多様性の意義
- Authors: Zahra Abbasiantaeb, Zeno Belligoli, Omar Essam, Mohammad Aliannejadi,
- Abstract要約: 本稿では,人手による注釈付きデータなしで完全に機能する合成対話生成フレームワークを提案する。
提案する対話生成フレームワークは,2種類のトピックとスタイル属性を用いて,データの多様性を向上させる。
- 参考スコア(独自算出の注目度): 15.880309266303042
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generating high-utility synthetic data for intent classification typically requires human-annotated seed data, which is often unavailable in fast-paced industrial settings. In this paper, we propose a framework for synthetic dialogue generation that works entirely without human-annotated data, relying solely on intent definitions. Our proposed dialogue generation framework utilizes two different types of topic and style attributes to improve data diversity. Also, we propose two novel post-hoc stylization models called Univ and Exam to transform synthetic LLM-generated utterances into more varied, human-like linguistic styles. To enhance data quality, we utilize an LLM-as-a-judge filtering process. Experimental results on both industrial and public datasets demonstrate that the proposed approach achieves up to 93.3% of the performance obtained using human-annotated training data. Crucially, the findings reveal that style diversity is more critical than topic diversity for synthetic data utility, as it prevents models from learning spurious stylistic correlations. Furthermore, the study shows that incorporating style attributes during the generation process is more effective than post-hoc style adaptation.
- Abstract(参考訳): 意図分類のための高ユーティリティな合成データを生成するには、通常、人間に注釈を付けたシードデータが必要である。
本稿では,意図的定義にのみ依存せず,人間による注釈付きデータなしで完全に機能する合成対話生成フレームワークを提案する。
提案する対話生成フレームワークは,2種類のトピックとスタイル属性を用いて,データの多様性を向上させる。
また,LLM生成音声をより多様で人間らしい言語スタイルに変換するために,UnivとExamという2つの新しいポストホックスタイリングモデルを提案する。
データ品質を向上させるために,LLM-as-a-judgeフィルタ法を用いる。
産業用および公共用両方のデータセットに対する実験結果から,提案手法は人手によるトレーニングデータを用いて得られた性能の最大93.3%を達成できることが示された。
重要なことは、モデルがスプリケートなスタイリスティックな相関を学習するのを防ぐため、スタイルの多様性は合成データユーティリティのトピックの多様性よりも重要であることを示している。
さらに, 生成過程におけるスタイル属性の導入は, ポストホックなスタイル適応よりも効果的であることを示す。
関連論文リスト
- Understanding the Influence of Synthetic Data for Text Embedders [52.04771455432998]
まず,Wangらによって提案された合成データの再生と公開を行った。
合成データがモデル一般化をどのように改善するかを批判的に検討する。
本研究は, 汎用インバータ構築における, 現在の合成データ手法の限界を浮き彫りにしたものである。
論文 参考訳(メタデータ) (2025-09-07T19:28:52Z) - SoK: Can Synthetic Images Replace Real Data? A Survey of Utility and Privacy of Synthetic Image Generation [5.2438534296318355]
この研究は、PPDSの質問に答えようとしている: 合成データは、実際のデータを効果的に置き換えることができるか?
本研究は,多種多様な手法を体系的に評価することにより,合成データ生成手法の実用・プライバシトレードオフに関する実用的な知見を提供する。
論文 参考訳(メタデータ) (2025-06-24T06:41:34Z) - An Empirical Study of Validating Synthetic Data for Text-Based Person Retrieval [51.10419281315848]
我々は,テキストベース人検索(TBPR)研究における合成データの可能性を探るため,実証的研究を行った。
本稿では,自動プロンプト構築戦略を導入するクラス間画像生成パイプラインを提案する。
我々は、画像のさらなる編集に生成AIモデルを応用した、クラス内画像拡張パイプラインを開発する。
論文 参考訳(メタデータ) (2025-03-28T06:18:15Z) - FSPO: Few-Shot Preference Optimization of Synthetic Preference Data in LLMs Elicits Effective Personalization to Real Users [111.56469697145519]
メタ学習問題として報酬モデルを再設計するFew-Shot Preference Optimizationを提案する。
このフレームワークでは、LDMはそのユーザからいくつかのラベル付けされた好みを通じてユーザへの迅速な適応を学び、パーソナライズされた報酬関数を構築する。
公開されているLLMを用いて100万以上の合成パーソナライズされた好みを生成する。
本研究は,映画レビュー,教育背景に基づく教育適応,一般質問応答の3分野を対象に,最大1,500人の総合ユーザを対象に,パーソナライズされたオープンエンド世代に対するFSPOの評価を行った。
論文 参考訳(メタデータ) (2025-02-26T17:08:46Z) - LLM See, LLM Do: Guiding Data Generation to Target Non-Differentiable Objectives [44.781967004009715]
合成データ統合の結果を系統的に研究し, モデル特性の受動的継承の影響について検討した。
合成データが「中立」に見える場合でも、モデルが特定の属性に対して驚くほど敏感であることがわかった。
本研究では,非微分不可能な目的に応じて意図的に合成データを制約する用語として,アクティブ継承を提案する。
論文 参考訳(メタデータ) (2024-07-01T17:26:21Z) - Data Generation Using Large Language Models for Text Classification: An Empirical Case Study [15.447491854250227]
我々は、合成データに基づいて訓練された自然言語理解(NLU)モデルを用いて、異なる世代からの合成データの品質を評価する。
この研究は、これらの要因の影響を実証分析し、データ生成の実践を改善するためのレコメンデーションを提供する。
論文 参考訳(メタデータ) (2024-06-27T21:41:43Z) - SynthesizRR: Generating Diverse Datasets with Retrieval Augmentation [55.2480439325792]
トピック分類,感情分析,トーン検出,ユーモアの6つのデータセットの合成について検討した。
その結果,SynthesizRRは語彙や意味の多様性,人文との類似性,蒸留性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-05-16T12:22:41Z) - Unsupervised Neural Stylistic Text Generation using Transfer learning
and Adapters [66.17039929803933]
応答生成のためのスタイル特化属性を学習するために,モデルパラメータの0.3%しか更新しない新しい転送学習フレームワークを提案する。
我々はPERSONALITY-CAPTIONSデータセットからスタイル固有の属性を学習する。
論文 参考訳(メタデータ) (2022-10-07T00:09:22Z) - Generating More Pertinent Captions by Leveraging Semantics and Style on
Multi-Source Datasets [56.018551958004814]
本稿では,データソースの非一様結合をトレーニングすることで,流動的な記述を生成するタスクに対処する。
ノイズの多い画像とテキストのペアを持つ大規模データセットは、サブ最適の監視源を提供する。
本稿では,検索コンポーネントから抽出したスタイルトークンとキーワードを組み込むことにより,セマンティクスと記述スタイルを活用・分離することを提案する。
論文 参考訳(メタデータ) (2021-11-24T19:00:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。