論文の概要: HSS-Synth: Humanities and Social Sciences Data Synthesis for LLMs
- arxiv url: http://arxiv.org/abs/2607.27379v1
- Date: Wed, 29 Jul 2026 18:37:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.307591
- Title: HSS-Synth: Humanities and Social Sciences Data Synthesis for LLMs
- Title(参考訳): HSS-Synth : LLMのための人文科学と社会科学データ合成
- Abstract要約: 我々は人文科学と社会科学のための最初のデータ合成パイプラインであるHSS-Synthを紹介する。
HSS-Synthは,(1)Webコーパスからのシード文書を,審査員が評価した多段階のフィルタリングとテキストリファインメントによって構築すること,(2)厳格なQ&Aアライメントチェックによって,シード文書を多種多様な忠実な命令に"要求+ペルソナ"を指定すること,(3)教師による回答の限界を突破すること,からなる。
- 参考スコア(独自算出の注目度): 49.984192011187275
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-quality, diverse data are vital for large language models (LLMs) but remain scarce and costly. Data synthesis is a viable alternative and succeeds on closed tasks, yet the humanities and social sciences (HSS) are overlooked, and their open-ended nature makes synthesis challenging. Moving beyond prior capability-centric, fragmented attempts, we adopt a subject-centric paradigm, define the first HSS domain system covering 14 mainstream fields, and introduce HSS-Synth, the first data synthesis pipeline for HSS. HSS-Synth comprises: (1) constructing seed documents from web corpora via multi-step filtering and text refinement evaluated by a judge; (2) specifying "requirements + persona" to backtranslate seed documents into diverse yet faithful instructions with a strict Q&A alignment check; and (3) breaking LLM response limits via teacher-forced Answering that feeds seed documents during response generation to anchor semantics, reduce hallucinations, and preserve tone and integrity. HSS-Synth yields 237k high-quality, diverse instruction-tuning samples that outperform 14 leading baselines on 16 benchmarks. The fine-tuned Qwen3-8B-Base sets a new SOTA and approaches the official Qwen3-8B, improving both human preference and knowledge capabilities without performance seesaws. Extensive experiments demonstrate HSS-Synth's robustness and transferability. Our code is publicly available at https://github.com/pengr/HSS-Synth.
- Abstract(参考訳): 高品質で多様なデータは、大きな言語モデル(LLM)には不可欠ですが、不足してコストがかかります。
データ合成は有効な代替手段であり、クローズドなタスクで成功するが、人文科学と社会科学(HSS)は見落とされ、そのオープンな性質は合成を困難にしている。
従来の能力中心の断片化の試みを超えて、主題中心のパラダイムを採用し、14の主流フィールドをカバーする最初のHSSドメインシステムを定義し、HSSのための最初のデータ合成パイプラインであるHSS-Synthを導入する。
HSS-Synthは,(1)Webコーパスからのシード文書を,審査員が評価した多段階のフィルタリングとテキストリファインメントを通じて構築すること,(2)厳格なQ&Aアライメントチェックによって,シード文書を多種多様な忠実な命令に翻訳する要件+ペルソナを規定すること,(3)教師が強制したAnsweringによるLCM応答制限を破ること,(3)アンカーセマンティクスへの応答生成中にシード文書を供給し,幻覚を低減し,調と整合性を維持すること,を含む。
HSS-Synthは237kの高品質で多様な命令チューニングサンプルを生成し、16のベンチマークで14のベースラインを上回ります。
微調整されたQwen3-8Bベースは、新しいSOTAをセットし、公式のQwen3-8Bに近づき、パフォーマンスシーソーを使わずに人間の好みと知識能力の両方を改善した。
大規模な実験は、HSS-Synthの堅牢性と伝達性を示す。
私たちのコードはhttps://github.com/pengr/HSS-Synth.comで公開されています。
関連論文リスト
- SciLENS: RL-Driven Autonomous Agents for Scientific Localized Evidence Navigation and Synthesis [25.589775096416176]
SciLENSは、デュアル層インフラストラクチャで動作する完全にローカルな自律エージェントフレームワークである。
我々は、推論ループ内で実行可能なツールとして構造視覚化の統合を開拓した。
我々は,引用知識グラフからサブグラフを抽出する自動データ合成パイプラインを開発した。
エージェントはその後、逆分解戦略によって整列される。
論文 参考訳(メタデータ) (2026-09-03T03:54:43Z) - BridgeAlign: Bridging Preference Alignment for Humanities and Social Sciences [52.67755020436915]
我々は、幅広い社会科学分野のための最初の好み調整パイプラインとして、BridgeAlignを提案する。
我々は、BridgeAlignが17のベンチマークで11の強いベースラインに対して最高の平均を達成することができることを示した。
論文 参考訳(メタデータ) (2026-07-29T18:22:50Z) - InfoSynth: Information-Guided Benchmark Synthesis for LLMs [69.80981631587501]
大規模言語モデル (LLM) は推論やコード生成において大きな進歩を見せている。
従来のベンチマーク作成は人手による作業に依存しています。
この作業では、推論ベンチマークの自動生成と評価のための新しいフレームワークであるInfo Synthを紹介した。
論文 参考訳(メタデータ) (2026-01-02T05:26:27Z) - Label Semantics for Robust Hyperspectral Image Classification [6.578456055730258]
ハイパースペクトルイメージング(HSI)分類は、農業、環境モニタリング、医学、材料科学などの様々な分野において重要なツールである。
高品質なトレーニングサンプルの不足とスペクトルデータの高次元性のため、HSI分類モデルは過度に適合する傾向にあり、精度と計算複雑性のバランスをとることの難しさに直面することが多い。
本研究では,HSI分類モデルのトレーニングを補完するために,文脈的,クラス固有のテキスト記述を用いた汎用セマンティックスペクトル・空間融合ネットワーク(S3FN)を提案する。
論文 参考訳(メタデータ) (2025-10-08T21:13:11Z) - DeepScholar-Bench: A Live Benchmark and Automated Evaluation for Generative Research Synthesis [52.636738269442766]
本稿では,生のベンチマークと総合的自動評価フレームワークであるDeepScholar-benchを紹介する。
DeepScholar-benchは、最近の高品質なArXiv論文からクエリを抽出し、真の研究合成タスクにフォーカスしている。
また,LOTUS APIを用いて効率的に実装した参照パイプラインであるDeepScholar-baseを開発した。
論文 参考訳(メタデータ) (2025-08-27T16:36:34Z) - Scaling Laws of Synthetic Data for Language Models [125.41600201811417]
プレトレーニングコーパスを多種多様な高品質な合成データセットに変換するスケーラブルなフレームワークであるSynthLLMを紹介した。
提案手法は,グラフアルゴリズムを用いて複数の文書にまたがるハイレベルな概念を自動的に抽出し,再結合することで実現している。
論文 参考訳(メタデータ) (2025-03-25T11:07:12Z) - SynthesizRR: Generating Diverse Datasets with Retrieval Augmentation [55.2480439325792]
トピック分類,感情分析,トーン検出,ユーモアの6つのデータセットの合成について検討した。
その結果,SynthesizRRは語彙や意味の多様性,人文との類似性,蒸留性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-05-16T12:22:41Z) - Skip the Benchmark: Generating System-Level High-Level Synthesis Data using Generative Machine Learning [8.416553728391309]
高レベル合成(HLS)設計空間探索(DSE)は、HLSプロセスにおいて最適なハードウェアソリューションを探索するための広く受け入れられているアプローチである。
いくつかのHLSベンチマークとデータセットは、研究コミュニティが彼らの方法論を評価するために利用できる。
本稿では,複雑なシステムレベルのHLS DSE実験を支援するのに十分頑健な合成データを生成するために,生成機械学習を用いた新しいアプローチであるVaeganを提案する。
論文 参考訳(メタデータ) (2024-04-23T05:32:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。