論文の概要: Synthetic Child-Adult Interactions Are Not Developmentally Plausible

• arxiv url: http://arxiv.org/abs/2610.35029v1
• Date: Mon, 26 Oct 2026 08:40:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.797769
• Title: Synthetic Child-Adult Interactions Are Not Developmentally Plausible
• Title（参考訳）: 子どもと子どもの相互作用は発達的にプラウズブルではない
• Abstract要約: 我々は,TinyDialoguesデータセットを,幅広い言語尺度の自然な対話と比較した。 合成データは語彙レベルで自然データと一致するが、音声対話の混乱した断片化された性質を劇的に過小評価している。 そこで本研究では,実対話から生成したデータを用いたインストラクションチューニングを提案し,中程度パラメータ効率の微調整後の自然データの統計的傾向を小さなモデルで近似することを示した。
• 参考スコア（独自算出の注目度）: 0.21485350418225244
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Synthetic data has become a common resource for training language models, and this trend has spilled over into research on developmentally plausible language modeling. However, it remains unclear whether LM-generated child-adult interactions actually resemble natural ones. We compare the synthetic TinyDialogues dataset to natural dialogue across a broad range of linguistic measures. While synthetic data matches natural data on the lexical level, it drastically underestimates the messy, fragmented nature of spoken interaction. To mitigate this, we propose instruction-tuning with data created from real dialogues, and show in a pilot study that a small model approximates the statistical tendencies of natural data after moderate parameter-efficient fine-tuning.
• Abstract（参考訳）: 合成データは言語モデルを訓練するための共通資源となり、この傾向は発達的に妥当な言語モデリングの研究に浸透した。 しかし、LMが生成した子どもと大人の相互作用が実際に自然と似ているかどうかは不明である。 我々は,TinyDialoguesデータセットを,幅広い言語尺度の自然な対話と比較した。 合成データは語彙レベルで自然データと一致するが、音声対話の混乱した断片化された性質を劇的に過小評価している。 そこで本研究では,実際の対話から生成されたデータを用いた命令チューニングを提案し,中程度のパラメータ効率の微調整の後,小さなモデルで自然データの統計的傾向を近似することを示した。

関連論文リスト

• Synthetic linguistic data [0.10152838128195468]
  この用語集は、人工的な植物園を合成データの比喩として導入することで、ブレスナンの言語庭園と茂みの区別を広げている。 モデル生成言語のコーパスのような集合体を主成分とする合成茂みデータと,制御条件下でモデル出力を誘導し,特定の言語仮説を解明する合成園芸データとを区別する。
  論文  参考訳（メタデータ） (2026-10-25T11:11:22Z)
• Assessing Generative Models for Structured Data [0.0]
  本稿では,データ内のカラム間依存関係を調べることで,実データに対して合成データを評価するための厳密な手法を提案する。 大規模言語モデル (GPT-2) は,数発のプロンプトによってクエリされた場合と微調整された場合の両方で,GAN (CTGAN) モデルは元の実データに類似した依存関係を持つデータを生成しないことがわかった。
  論文  参考訳（メタデータ） (2025-03-26T18:19:05Z)
• Is Child-Directed Speech Effective Training Data for Language Models? [34.46268640655943]
  GPT-2 と RoBERTa モデルを英語の子供指向音声の29万語で学習する。 子どものトレーニングデータのグローバルな発達順序付けやローカルな談話順序付けが、他のデータセットと比較して高いパフォーマンスを支えているかどうかを検証する。 これらの結果は、より良いデータから進むのではなく、子供の学習アルゴリズムが現在の言語モデリング技術よりもはるかにデータ効率が高いという仮説を支持している。
  論文  参考訳（メタデータ） (2024-08-07T08:18:51Z)
• Let's Synthesize Step by Step: Iterative Dataset Synthesis with Large Language Models by Extrapolating Errors from Small Models [69.76066070227452]
  ※データ合成*はラベル付きデータの少ない小さなモデルをトレーニングするための有望な方法です。 本稿では,この分散ギャップを縮めるデータ合成フレームワークであるStep* (**S3**) による合成ステップを提案する。 提案手法は,合成データセットと実データとのギャップを小さくすることで,小型モデルの性能を向上させる。
  論文  参考訳（メタデータ） (2023-10-20T17:14:25Z)
• From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
  我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。 実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。 実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
  論文  参考訳（メタデータ） (2023-08-08T19:52:28Z)
• mFACE: Multilingual Summarization with Factual Consistency Evaluation [79.60172087719356]
  抽象的な要約は、事前訓練された言語モデルと大規模データセットの可用性のおかげで、近年で新たな関心を集めている。 有望な結果にもかかわらず、現在のモデルはいまだに現実的に矛盾した要約を生み出すことに苦しむ。 事実整合性評価モデルを利用して、多言語要約を改善する。
  論文  参考訳（メタデータ） (2022-12-20T19:52:41Z)
• Comparison of Interactive Knowledge Base Spelling Correction Models for Low-Resource Languages [81.90356787324481]
  低リソース言語に対する正規化の推進は、パターンの予測が難しいため、難しい作業である。 この研究は、ターゲット言語データに様々な量を持つニューラルモデルとキャラクタ言語モデルの比較を示す。 我々の利用シナリオは、ほぼゼロのトレーニング例によるインタラクティブな修正であり、より多くのデータが収集されるにつれてモデルを改善する。
  論文  参考訳（メタデータ） (2020-10-20T17:31:07Z)
• Exploiting Syntactic Structure for Better Language Modeling: A Syntactic Distance Approach [78.77265671634454]
  我々はマルチタスクの目的、すなわち、モデルが単語を同時に予測し、また「シンタクティック距離」と呼ばれる形態で真実解析木を解析する。 Penn Treebank と Chinese Treebank のデータセットによる実験結果から,地上の真理解析木を追加の訓練信号として提供すると,そのモデルはより低いパープレキシティを実現し,より良い品質で木を誘導できることが示された。
  論文  参考訳（メタデータ） (2020-05-12T15:35:00Z)
• Unnatural Language Processing: Bridging the Gap Between Synthetic and Natural Language Data [37.542036032277466]
  本稿では,言語理解問題における-simulation-to-real'転送手法を提案する。 我々のアプローチは、いくつかのドメインで自然言語データに基づいて訓練された最先端のモデルと一致または性能を向上する。
  論文  参考訳（メタデータ） (2020-04-28T16:41:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。