論文の概要: The Impact of Synthetic Data Augmentation on Discourse-Pragmatic Function Classification
- arxiv url: http://arxiv.org/abs/2609.03652v1
- Date: Thu, 03 Sep 2026 10:50:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:39.022937
- Title: The Impact of Synthetic Data Augmentation on Discourse-Pragmatic Function Classification
- Title（参考訳）: 合成データ拡張が言論・語学機能分類に及ぼす影響
- Abstract要約: 我々は、Llama 3.1で合成トレーニング例を生成し、RoBERTa埋め込み空間の実際のトレーニングデータからコサイン距離で分割する。
すべての拡張条件はマクロFと実際の唯一のベースラインよりも精度が向上するが、コア近位(NEAR)はマクロF(0.113)で最大のゲインをもたらす。
AUCを改良する条件はなく、モデルの基本となる確率推定を改善するのではなく、拡張によって決定境界がシフトすることを示している。
- 参考スコア（独自算出の注目度）: 5.4847793708274954
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Synthetic data augmentation has become a common strategy for addressing class imbalance in NLP, but most approaches focus on the quantity and diversity of generated examples rather than their geometric relationship to real training data. We investigate this question in the context of discourse pragmatic function classification, a task where data sparsity is a structural feature rather than a collection artefact. Using 410 manually annotated instances of the English word look drawn from the British National Corpus, spanning four functions: Attention Signal, Directive, Discourse Marker, and Interjection. We generate synthetic training examples with Llama 3.1 and partition them by their cosine distance from real training data in RoBERTa embedding space. We compare six training conditions that differ in the placement of synthetic examples relative to the empirical decision boundary, while holding augmentation quantity constant across conditions. All augmented conditions improve macro F and accuracy over the real only baseline, but core proximal examples (NEAR) yield the largest gains in macro F (0.113), while a distance balanced mix achieves the highest accuracy (0.748). No condition improves AUC, indicating that augmentation shifts the decision boundary rather than improving the model's underlying probability estimates. These findings suggest that where synthetic examples land in representation space matters as much as how many are generated, with implications for low resource pragmatic classification more broadly.
- Abstract（参考訳）: 合成データの増大は、NLPにおけるクラス不均衡に対処するための一般的な戦略となっているが、ほとんどのアプローチは、実際のトレーニングデータとの幾何学的関係よりも、生成されたサンプルの量と多様性に焦点を当てている。
本稿では,この課題を,データ空間がコレクションアーティファクトではなく構造的特徴となる課題である言論実用関数分類の文脈で検討する。
英語の単語を手動で注記した410の例を使って、イギリス国立コーパスから、注意信号、ディレクティブ、ディスコースマーカー、インタージェクションの4つの機能にまたがっている。
我々は、Llama 3.1で合成トレーニング例を生成し、RoBERTa埋め込み空間の実際のトレーニングデータからコサイン距離で分割する。
経験的決定境界に対する合成例の配置が異なる6つの訓練条件を比較し, 拡張量を一定に抑えながら比較した。
すべての拡張条件はマクロFと実際の唯一のベースラインよりも精度が向上するが、コア近位(NEAR)はマクロF(0.113)で最大の利得を得る一方、距離バランスの取れた混合は最大精度(0.748)を達成する。
AUCを改良する条件はなく、モデルの基本となる確率推定を改善するのではなく、拡張によって決定境界がシフトすることを示している。
これらの結果から, 表現空間に着地する合成例は, 生成量と同じくらい重要であり, 低資源の実用的分類がより広範に存在することが示唆された。
関連論文リスト
- GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution [5.770893169582546]
この研究は、属性をサブセットレベルの反事実的ユーティリティ予測として再定義する。
相互作用を意識したサロゲートであるGRASPを紹介する。
それは、既存のスケーラブルなベースラインを決定的に上回る。
論文 参考訳（メタデータ） (2026-06-05T04:17:50Z) - Generalization Gaps in Political Fake News Detection: An Empirical Study on the LIAR Dataset [0.764671395172401]
LIARベンチマークを用いて,9つの機械学習アルゴリズムの診断評価を行った。
モデルの重み付きF1スコアを超えないきめ細かい分類の「パフォーマンスシーリング」を発見した。
木に基づくアンサンブルの大規模な"一般化ギャップ"は、99%以上のトレーニング精度を達成したが、テストデータで約25%に崩壊した。
論文 参考訳（メタデータ） (2025-12-20T23:08:18Z) - Advancing Text Classification with Large Language Models and Neural Attention Mechanisms [11.31737492247233]
このフレームワークには、テキストエンコーディング、コンテキスト表現モデリング、注意に基づく拡張、分類予測が含まれる。
その結果,提案手法はすべての指標において既存モデルよりも優れていることがわかった。
論文 参考訳（メタデータ） (2025-12-10T09:18:41Z) - Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。
生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
論文 参考訳（メタデータ） (2025-10-16T03:37:16Z) - SYNAPSE-G: Bridging Large Language Models and Graph Learning for Rare Event Classification [18.14381983478547]
本稿では,SynAPSE-G(Synthetic Augmentation for Positive Smpling via Expansion on Graphs)を提案する。
この合成データは、種子と大きなラベルなしデータセットの間に構築された類似性グラフ上に、半教師付きラベル伝搬のためのシードとして機能する。
不均衡なSST2とMHSデータセットの実験は、正のラベルを見つける上でSynAPSE-Gの有効性を示す。
論文 参考訳（メタデータ） (2025-08-13T06:58:44Z) - Prismatic Synthesis: Gradient-based Data Diversification Boosts Generalization in LLM Reasoning [77.120955854093]
我々は,データ多様性が言語モデルにおける一般化の強力な予測因子であることを示す。
モデル誘起勾配のエントロピーを通して多様性を定量化する計量であるG-Vendiを導入する。
多様な合成データを生成するためのフレームワークであるPrismatic Synthesisを提案する。
論文 参考訳（メタデータ） (2025-05-26T16:05:10Z) - Co-training for Low Resource Scientific Natural Language Inference [65.37685198688538]
遠隔教師付きラベルに分類器のトレーニング力学に基づいて重みを割り当てる新しいコトレーニング手法を提案する。
予測された信頼度に対する任意のしきい値に基づいてサンプルをフィルタリングするのではなく、重要重みを割り当てることにより、自動ラベル付きデータの使用を最大化する。
提案手法は、遠隔監視ベースラインに対するマクロF1の1.5%の改善と、他の強力なSSLベースラインよりも大幅に改善されている。
論文 参考訳（メタデータ） (2024-06-20T18:35:47Z) - CAFE: Learning to Condense Dataset by Aligning Features [72.99394941348757]
本稿ではCAFE(Aligning features)によるCondenseデータセットの新しいスキームを提案する。
このアプローチの核心は、さまざまなスケールにわたる実データと合成データから機能を整合させる効果的な戦略です。
提案したCAFEを様々なデータセットで検証し,概ね最先端技術であることを示す。
論文 参考訳（メタデータ） (2022-03-03T05:58:49Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳（メタデータ） (2021-07-09T19:48:23Z) - Bridging the Gap Between Clean Data Training and Real-World Inference
for Spoken Language Understanding [76.89426311082927]
既存のモデルはクリーンデータに基づいてトレーニングされ、クリーンデータトレーニングと現実世界の推論の間にtextitgapが発生する。
本稿では,良質なサンプルと低品質のサンプルの両方が類似ベクトル空間に埋め込まれた領域適応法を提案する。
広く使用されているデータセット、スニップス、および大規模な社内データセット(1000万のトレーニング例)に関する実験では、この方法は実世界の(騒々しい)コーパスのベースラインモデルを上回るだけでなく、堅牢性、すなわち、騒々しい環境下で高品質の結果を生み出すことを実証しています。
論文 参考訳（メタデータ） (2021-04-13T17:54:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。