論文の概要: Label-Efficient Document-Grounded Factuality Detection via Cross-Paraphrastic Invariance Learning
- arxiv url: http://arxiv.org/abs/2611.16264v1
- Date: Thu, 12 Nov 2026 04:06:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.356973
- Title: Label-Efficient Document-Grounded Factuality Detection via Cross-Paraphrastic Invariance Learning
- Title(参考訳): クロスパラフラスティック不変学習によるラベル効率の良い文書周囲の人物検出
- Abstract要約: 大規模な言語モデルは、与えられたソースドキュメントによって、流れることのできないクレームを生成することができる。
コンパクトな事実性検出器は推論時に効率的であるが、一般に大きなラベル付きまたは合成されたコーパスに依存している。
本稿では,2段階のシームズフレームワークであるCPILを提案する。
- 参考スコア(独自算出の注目度): 13.433404959890645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) can generate fluent claims that are unsupported by a given source document, motivating accurate and efficient document-grounded factuality detection. Existing LLM-based evaluators often require repeated inference and incur high computational cost, whereas compact factuality detectors are efficient at inference time but commonly rely on large labeled or synthetically generated corpora. We propose CPIL (Cross-Paraphrastic Invariance Learning), a two-stage Siamese framework that converts a small labeled set into relational supervision without acquiring additional factuality labels. CPIL constructs positive pairs from distinct label-preserving paraphrastic views of the same document-claim instance and negative pairs from opposite-label examples associated with the same source document. It further introduces quantile-aware semi-hard negative mining, which derives a boundary from the positive-pair similarity distribution and balances informative negatives with broader coverage. In the two-stage training procedure, Stage 1 learns an encoder from these task-aware pairs, and Stage 2 jointly fine-tunes the encoder and a linear classification head for binary factuality prediction. At inference time, CPIL requires no paraphrase generation, pair construction, or Siamese comparison and uses only one encoder-classifier forward pass. On the 11-task LLM-AggreFact benchmark, CPIL-2% and CPIL-3% achieve macro-F1 scores of 81.04 and 81.60 while using only 2-3% of the FactCG-released labeled pool. Both settings outperform all compared compact detectors and two vanilla LLM references. Ablations and sensitivity analyses support the contributions of task-aware pair construction, dynamic negative mining, and multi-pivot paraphrasing.
- Abstract(参考訳): 大規模言語モデル(LLMs)は、与えられたソースドキュメントがサポートしていない流動的なクレームを生成し、正確で効率的な文書基底の事実検出を動機付ける。
既存のLCMベースの評価器は、しばしば繰り返し推論と高い計算コストを必要とするが、コンパクトな事実性検出器は推論時に効率的であるが、一般に大きなラベル付きまたは合成されたコーパスに依存している。
提案するCPIL(Cross-Paraphrastic Invariance Learning)は,小さなラベル付きセットを追加の事実ラベルを取得せずにリレーショナル監視に変換する2段階のシームズフレームワークである。
CPILは、同一の文書定義インスタンスのラベル保存パラフラスティックビューと、同一の資料に関連付けられたラベルの反対例の負のペアから、正のペアを構成する。
さらに、正対類似性分布から境界を導出し、より広い範囲で情報的負のバランスをとる、量子的に認識された半ハードな負のマイニングを導入する。
2段階の訓練手順において、ステージ1はこれらのタスク対応ペアからエンコーダを学習し、ステージ2は、二項事実性予測のためのエンコーダと線形分類ヘッドを共同で微調整する。
推論時には、CPILはパラフレーズ生成、ペア構成、シームズ比較を必要とせず、1つのエンコーダ分類器フォワードパスのみを使用する。
11タスクのLCM-AggreFactベンチマークでは、CPIL-2%とCPIL-3%が81.04と81.60のマクロF1スコアを獲得し、FactCGがリリースしたラベル付きプールの2-3%しか使用していない。
両方の設定は、コンパクト検出器と2つのバニラLCM基準を比較した。
アブレーションと感度分析は、タスク対応ペア構築、動的負のマイニング、マルチピボットパラフレーズの寄与を支持する。
関連論文リスト
- Partition-Aware Unlearning for Removing Spurious Correlations in Large Vision-Language Models [12.293070202366316]
LVLM(Large Vision-Language Models)は多くのマルチモーダルタスクにおいて高いパフォーマンスを達成する。
それらはしばしば、刺激的なオブジェクト背景の堅牢性を利用しており、結果として、オブジェクト関連の視覚的証拠ではなく、文脈的ショートカットによって引き起こされる予測をもたらす。
我々は,LVLMにおけるスプリラス相関による障害を構築,ベンチマーク,緩和するフレームワークであるPURGEを紹介する。
論文 参考訳(メタデータ) (2026-08-30T19:42:47Z) - Cross Paraphrastic Invariance Learning for Hallucination Detection [12.781631646147964]
CPILは、各ドキュメント定義例のパラフレーズビューを生成することで、情報的トレーニングペアを構築する。
LLM-AggreFactベンチマークでは、CPILはF1スコアに関する強力なベースラインを1%のラベル付きデータで越えている。
論文 参考訳(メタデータ) (2026-06-06T13:13:12Z) - EmbGen: Teaching with Reassembled Corpora [0.300988853836121]
コーパスをエンティティ記述ペアに分解する合成データ生成パイプラインであるEmbGenを紹介する。
EmbGen を EntiGraph,InstructLab,Knowledge-Instruct に対して,多種多様な意味的不均一性のデータセット上で評価する。
論文 参考訳(メタデータ) (2026-05-19T05:40:12Z) - $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
$V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。
V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。
V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
論文 参考訳(メタデータ) (2026-03-04T17:22:16Z) - Calibratable Disambiguation Loss for Multi-Instance Partial-Label Learning [53.9713678229744]
MIPL(Multi-instance partial-label Learning)は、インスタンス空間とラベル空間の両方において、不正確な監督の課題に対処する弱い教師付きフレームワークである。
既存のMIPLアプローチは、しばしばキャリブレーションが悪く、信頼性を損なう。
分類精度と校正性能を同時に向上するプラグアンドプレイ校正型曖昧さ損失(CDL)を提案する。
論文 参考訳(メタデータ) (2025-12-19T16:58:31Z) - BiXSE: Improving Dense Retrieval via Probabilistic Graded Relevance Distillation [6.272555849379284]
BiXSE は2値のクロスエントロピーをグレードレバレンススコアより最適化するポイントワイズトレーニング手法である。
アノテーションと計算コストを削減して、強力なパフォーマンスを実現する。
BiXSEは、密度の高い検索モデルをトレーニングするための堅牢でスケーラブルな代替手段を提供する。
論文 参考訳(メタデータ) (2025-08-09T02:15:17Z) - CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。
数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。
我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
論文 参考訳(メタデータ) (2025-08-05T17:55:24Z) - Document-Level Tabular Numerical Cross-Checking: A Coarse-to-Fine Approach [27.581678327762003]
情報開示文書の表間の数値的な一貫性は 正確性を確保し 信頼性を維持し 評判と経済のリスクを維持するために 不可欠です
本稿では,これら課題に対処する新しいフレームワークであるCoFiTCheckを紹介する。
CoFiTCheckは、実用効率を維持しながら、従来の方法よりも大幅に優れている。
論文 参考訳(メタデータ) (2025-06-16T10:17:21Z) - Project-Probe-Aggregate: Efficient Fine-Tuning for Group Robustness [61.45587642780908]
画像テキスト基礎モデルのパラメータ効率向上のための3段階のアプローチを提案する。
本手法は, マイノリティ標本同定とロバストトレーニングアルゴリズムの2つの重要な要素を改良する。
我々の理論分析は,PPAが少数群の識別を向上し,バランスの取れたグループエラーを最小限に抑えるためにベイズが最適であることを示している。
論文 参考訳(メタデータ) (2025-03-12T15:46:12Z) - SparseCL: Sparse Contrastive Learning for Contradiction Retrieval [87.02936971689817]
コントラディション検索(Contradiction Search)とは、クエリの内容に明示的に異を唱える文書を識別し、抽出することである。
類似性探索やクロスエンコーダモデルといった既存の手法には、大きな制限がある。
文間の微妙で矛盾したニュアンスを保存するために特別に訓練された文埋め込みを利用するSparseCLを導入する。
論文 参考訳(メタデータ) (2024-06-15T21:57:03Z) - Efficient Nearest Neighbor Search for Cross-Encoder Models using Matrix
Factorization [60.91600465922932]
本稿では,クロスエンコーダのみに頼って,二重エンコーダによる検索を回避する手法を提案する。
我々のアプローチは、現在の広く使われている方法よりも優れたテスト時間リコール-vs計算コストトレードオフを提供する。
論文 参考訳(メタデータ) (2022-10-23T00:32:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。