論文の概要: Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation
- arxiv url: http://arxiv.org/abs/2606.11127v1
- Date: Tue, 09 Jun 2026 17:24:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.636274
- Title: Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation
- Title(参考訳): 学習後データキュレーションにおける前向きゲーティングと適応的回復
- Abstract要約: ゲート構成,リカバリ戦略,ジェネレータスケールにまたがる2つの質問について,制御された検討を行った。
より強力な審査員にとって正確な情報源は、幻覚と報奨ゲートが、双方の必要である大半が不一致なサンプル集団を拒絶する、証明のゲーティングを改善することを発見した。
下流の微調整の質は、主に発電機スケールによって駆動され、濾過と回収条件は有意だが第二に寄与する。
- 参考スコア(独自算出の注目度): 3.5786174772957415
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Synthetic post-training pipelines commonly filter generated samples with reward models or holistic LLM judges, yet two practices remain rarely examined together: whether the filtering signal is grounded in the source evidence that induced each generation, and whether rejected samples can be systematically recovered rather than permanently discarded. We present a controlled study of both questions across gate configurations, recovery strategies, and generator scales, using adversarially injected corpora to provide ground-truth failure labels. We find that exact source provenance improves faithfulness gating for stronger judges, that hallucination and reward gates reject largely disjoint sample populations making both necessary, and that an adaptive recovery pipeline combining failure diagnosis with targeted regeneration achieves higher yield, recovery rate, and injection recall than naive resampling. Downstream fine-tuning quality is driven primarily by generator scale, with filtration and recovery conditions contributing meaningfully but secondarily.
- Abstract(参考訳): 合成後訓練パイプラインは、通常、生成されたサンプルを報酬モデルまたは総論的なLCM審査員でフィルタリングするが、フィルタリング信号が各世代を誘導する証拠に根拠づけられているかどうか、削除されたサンプルを永久に破棄するよりも体系的に回収できるかどうかの2つのプラクティスが一緒に検討されることは稀である。
本稿では, 逆噴射コーパスを用いて, ゲート構成, 回復戦略, ジェネレータスケールにまたがる問合せの制御を行った。
正確な出典は, 強い判断に対する忠実度向上, 幻覚と報酬ゲートは, どちらも必要としない標本群の大部分を拒絶し, 目標再生と障害診断を組み合わせた適応的回復パイプラインは, ナイーブ再サンプリングよりも高い収率, 回復率, インジェクションリコールを達成できることを見出した。
下流の微調整の質は、主に発電機スケールによって駆動され、濾過と回収条件は有意だが第二に寄与する。
関連論文リスト
- DRIFT: Removing Diffusion Watermarks by Deflecting the Generative Trajectory [9.706332101916248]
拡散透かしは、検証可能な信号を生成過程に埋め込む。
我々は,部分的な前方拡散と逆再サンプリングを組み合わせたブラックボックス攻撃であるDRIFTを提案する。
3つのパラダイムにまたがる9つの透かしのうち、DRIFTは98-100%の攻撃成功と最高の画質を達成する。
論文 参考訳(メタデータ) (2026-09-08T03:54:17Z) - TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。
しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。
凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。
MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
論文 参考訳(メタデータ) (2026-08-18T23:40:28Z) - RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification [38.8278639079174]
クラス不均衡は、詐欺検出や診断などのリスクに敏感なアプリケーションにおいて、根本的な課題となる。
そこで, RUBRICは, 合成試料選択を品質/周波数最適化問題として定式化する, ジェネレータに依存しないフィルタリングフレームワークである。
RUBRICはF1マクロとリコールを改善しつつ,複数のジェネレータ間で同等のROC-AUCを維持していることを示す。
論文 参考訳(メタデータ) (2026-07-10T06:37:12Z) - When Sample Selection Bias Precipitates Model Collapse [18.23682629353108]
各検証器が対象多様体の小さな、断片化され、偏りのあるスライスのみを観測する低リソース検証方式において、選択自体がバイアスとなることを示す。
このようなサイロ選択が崩壊を加速し、パワー・ローの多様性の崩壊を引き起こすことを理論的に証明する。
論文 参考訳(メタデータ) (2026-06-11T11:49:39Z) - When Poison Fails After Retrieval: Revisiting Corpus Poisoning under Chunking and Reranking Pipelines [13.701523553327116]
Retrieval-Augmented Generation (RAG) システムは、悪質な知識注入を通じて下流モデル出力を操作するコーパス中毒攻撃に対して脆弱である。
既存の研究では、文書チャンキング、密集検索、再ランク付け、接地生成を含む実用的なRAGパイプラインを見越して、簡易な検索設定下での中毒の評価が主である。
我々は,検索関連性,リランカの整合性,およびチャンク境界の堅牢性を共同で最適化する中毒治療フレームワークであるChunk-aware and Rerank-Consistent Poisoning (CRCP)を提案する。
論文 参考訳(メタデータ) (2026-06-09T04:45:28Z) - Probability-Conserving Flow Guidance [49.03107678763765]
Adaptive Manifold Guidance (AdaMaG)はリアリズムを改善し、幻覚を減らし、高誘導下での劣化を制御する。
画像生成ベンチマーク全体で、AdaMaGはリアリズムを改善し、幻覚を減らし、高誘導下での劣化を制御する。
論文 参考訳(メタデータ) (2026-05-19T16:34:01Z) - Know When To Fold 'Em: Token-Efficient LLM Synthetic Data Generation via Multi-Stage In-Flight Rejection [3.1572670872557196]
Multi-Stage In-Flight Rejection (MSIFR) は軽量でトレーニング不要なフレームワークで、完成前に低品質な世代軌道を終了する。
飛行中の拒否を逐次決定プロセスとして定式化し、非自明な破棄ポリシーが期待されるトークン消費を減少させることを示す。
論文 参考訳(メタデータ) (2026-05-13T19:35:49Z) - Active Learning for Conditional Generative Compressed Sensing [45.88028371034407]
生成的圧縮センシングは、限られた測定値から構造化信号を復元する非線形モデルとして、事前訓練されたジェネレータの範囲を使用する。
本フレームワークでは,サンプリング分布の設計に使用するプロンプトと,リカバリモデルの定義に使用するプロンプトの2つを分離する。
安定拡散実験により、クリストッフェルサンプリング分布を有意に再構成し、画像回復に影響を与えることが示されている。
論文 参考訳(メタデータ) (2026-05-06T20:50:14Z) - Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation [51.55755193937205]
提案するQREAMは,検索した文書を事実を保存しながら質問指向のスタイルで整列するスタイル制御リライタである。
本フレームワークは,(1) 反復的書き換え探索にスタイリスティックシードを用いたQREAM-ICL,(2) ICL出力から抽出した軽量学生モデルQREAM-FTの2段階からなる。
論文 参考訳(メタデータ) (2026-04-19T08:39:21Z) - ProGRank: Probe-Gradient Reranking to Defend Dense-Retriever RAG from Corpus Poisoning [5.725082598014574]
Retrieval-Augmented Generation (RAG) は、検索された証拠に生成を基礎づけることで、大規模言語モデルの信頼性を向上させる。
相手がパスを注入または編集して、ターゲットクエリのTop-K$結果にランク付けし、下流生成に影響を与えるようにします。
本稿では,高密度レトリバーRAGのためのポストホック,トレーニングフリーレトリバーサイドディフェンスであるProGRankを提案する。
論文 参考訳(メタデータ) (2026-03-24T08:29:15Z) - ReSURE: Regularizing Supervision Unreliability for Multi-turn Dialogue Fine-tuning [72.05731026796335]
マルチターン対話システムは、低品質のデータに晒された場合、しばしば劣化した性能に悩まされる。
本稿では,適応学習手法であるReSUREを提案する。
単一ソースと混合品質のデータセットの実験では、安定性と応答品質が改善された。
論文 参考訳(メタデータ) (2025-08-27T15:54:01Z) - Generating on Generated: An Approach Towards Self-Evolving Diffusion Models [58.05857658085845]
再帰的自己改善(Recursive Self-Improvement、RSI)は、インテリジェンスシステムがその能力を自律的に改善することを可能にする。
本稿では、テキスト・画像拡散モデルにおけるRSIの適用について検討し、合成データによるトレーニング崩壊の課題に対処する。
論文 参考訳(メタデータ) (2025-02-14T07:41:47Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Adapt and Diffuse: Sample-adaptive Reconstruction via Latent Diffusion Models [24.5360032541275]
逆問題は、ノイズや(非線形でない)観測からクリーンな信号を回復することが目的である複数のアプリケーションで発生する。
我々のキーとなる観察は、既存の逆問題解決器のほとんどは、再構成作業の難易度に計算力を適応させる能力が欠如していることである。
オートエンコーダの潜時空間における劣化信号の劣化度を推定するために,$textitseverity encoding$という新しい手法を提案する。
論文 参考訳(メタデータ) (2023-09-12T23:41:29Z) - Reparameterized Sampling for Generative Adversarial Networks [71.30132908130581]
本稿では,マルコフ連鎖をジェネレータの潜在空間に再配置することで,一般依存型提案を可能にする新しいサンプリング手法REP-GANを提案する。
実験的な実験により、我々のREP-GANはサンプル効率を大幅に改善し、同時により良いサンプル品質を得ることを示した。
論文 参考訳(メタデータ) (2021-07-01T10:34:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。