論文の概要: Easy Dataset: A Unified and Extensible Framework for Synthesizing LLM Fine-Tuning Data from Unstructured Documents

• arxiv url: http://arxiv.org/abs/2507.04009v1
• Date: Sat, 05 Jul 2025 11:38:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-08 15:46:34.973309
• Title: Easy Dataset: A Unified and Extensible Framework for Synthesizing LLM Fine-Tuning Data from Unstructured Documents
• Title（参考訳）: 簡単なデータセット: 構造化されていないドキュメントからLLMファインチューニングデータを合成するための統一的で拡張可能なフレームワーク
• Authors: Ziyang Miao, Qiyu Sun, Jingyuan Wang, Yuchen Gong, Yaowei Zheng, Shiqi Li, Richong Zhang,
• Abstract要約: 簡単なデータセットは、構造化されていないドキュメントから微調整データを合成するためのフレームワークである。 ユーザーはテキスト抽出モデルやチャンキング戦略を設定して、生文書を一貫性のあるテキストチャンクに変換することができる。 次に、ペルソナ駆動のプロンプトアプローチを活用して、多様な質問応答ペアを生成する。 財務質問応答タスクの実験により、合成データセット上の微調整LDMはドメイン固有の性能を著しく向上することが示された。
• 参考スコア（独自算出の注目度）: 34.55648227035844
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have shown impressive performance on general-purpose tasks, yet adapting them to specific domains remains challenging due to the scarcity of high-quality domain data. Existing data synthesis tools often struggle to extract reliable fine-tuning data from heterogeneous documents effectively. To address this limitation, we propose Easy Dataset, a unified framework for synthesizing fine-tuning data from unstructured documents via an intuitive graphical user interface (GUI). Specifically, Easy Dataset allows users to easily configure text extraction models and chunking strategies to transform raw documents into coherent text chunks. It then leverages a persona-driven prompting approach to generate diverse question-answer pairs using public-available LLMs. Throughout the pipeline, a human-in-the-loop visual interface facilitates the review and refinement of intermediate outputs to ensure data quality. Experiments on a financial question-answering task show that fine-tuning LLMs on the synthesized dataset significantly improves domain-specific performance while preserving general knowledge. The source code and installable package are available at https://github.com/ConardLi/easy-dataset and have garnered over 9,000 GitHub stars.
• Abstract（参考訳）: 大規模言語モデル(LLM)は汎用的なタスクにおいて顕著なパフォーマンスを示しているが、高品質なドメインデータが不足しているため、特定のドメインに適応することは依然として困難である。 既存のデータ合成ツールは、不均一な文書から信頼できる微調整データを効果的に抽出するのに苦労することが多い。 この制限に対処するため,直感的なグラフィカルユーザインタフェース(GUI)を介して非構造化文書から微調整データを合成するための統合フレームワークであるEasy Datasetを提案する。 具体的には、Easy Datasetを使えば、テキスト抽出モデルやチャンキング戦略を簡単に構成して、生文書を一貫性のあるテキストチャンクに変換することができる。 次に、公開可能なLLMを用いて、ペルソナ駆動のプロンプトアプローチを利用して、多様な質問応答ペアを生成する。 パイプライン全体を通して、ヒューマン・イン・ザ・ループのビジュアルインターフェースは、中間出力のレビューと改善を容易にし、データ品質を保証する。 財務質問応答タスクの実験により、合成データセット上の微調整LDMは、一般知識を保ちながら、ドメイン固有の性能を著しく向上することが示された。 ソースコードとインストール可能なパッケージはhttps://github.com/ConardLi/easy-datasetで入手できる。

関連論文リスト

• RouteNator: A Router-Based Multi-Modal Architecture for Generating Synthetic Training Data for Function Calling LLMs [3.41612427812159]
  デジタルコンテンツ作成ツールでは、ユーザは、API呼び出しにマップしなければならない自然言語クエリを通じて、ニーズを表現します。 既存の合成データ生成アプローチでは、実世界のデータ分散を複製することができない。 高品質な合成学習データを生成するルータベースのアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2025-05-15T16:53:45Z)
• SynthDoc: Bilingual Documents Synthesis for Visual Document Understanding [23.910783272007407]
  本稿では、ビジュアル文書理解(VDU)を強化するために設計された新しい合成文書生成パイプラインであるSynthDocを紹介する。 データ取得の課題と既存のデータセットの制限に対処するため、SynthDocは、一般公開されたコーパスと高度なレンダリングツールを活用して、包括的な汎用データセットを作成する。 ドナウモデルを用いて実験を行った結果,SynthDocのデータを用いて学習したモデルは,事前学習された読み出しタスクにおいて優れた性能を示し,言語的矛盾にもかかわらず,下流タスクにおいて堅牢性を維持することができた。
  論文  参考訳（メタデータ） (2024-08-27T03:31:24Z)
• Better Synthetic Data by Retrieving and Transforming Existing Datasets [63.875064274379824]
  我々は、データセットの自動生成を改善するために、公開データセットをよりよく利用する方法であるDataTuneを紹介した。 多様な言語ベースのタスクセットでは、DataTuneによる微調整言語モデルが改善され、ベースラインが49%向上する。 データセット変換は、多くのタスクにおいて生成されたデータの多様性と難易度を著しく向上させる。
  論文  参考訳（メタデータ） (2024-04-22T17:15:32Z)
• Improving Text Embeddings with Large Language Models [59.930513259982725]
  合成データと1k以下のトレーニングステップのみを用いて,高品質なテキスト埋め込みを実現するための,新しい簡易な手法を提案する。 我々は、93言語にまたがる数十万のテキスト埋め込みタスクのための多様な合成データを生成するために、プロプライエタリなLLMを活用している。 実験により,ラベル付きデータを使わずに,高度に競争力のあるテキスト埋め込みベンチマークにおいて高い性能が得られることが示された。
  論文  参考訳（メタデータ） (2023-12-31T02:13:18Z)
• Visualizing Linguistic Diversity of Text Datasets Synthesized by Large Language Models [9.808214545408541]
  LinguisticLensは,データセットの構文的多様性を理解し解析するための,新たなインタラクティブな可視化ツールである。 テキストデータセットの階層的な可視化をサポートしており、ユーザーは概要を素早くスキャンし、個々の例を検査することができる。
  論文  参考訳（メタデータ） (2023-05-19T00:53:45Z)
• TRoVE: Transforming Road Scene Datasets into Photorealistic Virtual Environments [84.6017003787244]
  本研究では、シミュレーションデータセットに存在する困難とドメインギャップに対処する合成データ生成パイプラインを提案する。 既存のデータセットからアノテーションや視覚的手がかりを利用すれば、自動マルチモーダルデータ生成が容易になることを示す。
  論文  参考訳（メタデータ） (2022-08-16T20:46:08Z)
• Partially-Aligned Data-to-Text Generation with Distant Supervision [69.15410325679635]
  我々はPADTG(Partially-Aligned Data-to-Text Generation)と呼ばれる新しい生成タスクを提案する。 自動的にアノテートされたデータをトレーニングに利用し、アプリケーションドメインを大幅に拡張するため、より実用的です。 我々のフレームワークは、全てのベースラインモデルより優れており、部分整合データの利用の可能性を検証する。
  論文  参考訳（メタデータ） (2020-10-03T03:18:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。