論文の概要: How much of an LLM-generated clinical corpus is actually new? A production-scale measurement of content redundancy for provenance classification
- arxiv url: http://arxiv.org/abs/2606.29605v1
- Date: Sun, 28 Jun 2026 21:17:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.980606
- Title: How much of an LLM-generated clinical corpus is actually new? A production-scale measurement of content redundancy for provenance classification
- Title（参考訳）: LLMが生成する臨床コーパスは実際どれくらい新しいのか?プロヴァンス分類のためのコンテンツ冗長性の生産規模測定
- Abstract要約: Provenance-based Redundancy Decompositionは、ソースによるアウトプット全体のトークンレベルの分類である。
出力の10.9%はトレーニング可能なユニクコンテンツであり、79.4%は冗長である。
1つのパイプラインチャネルはほとんど冗長性を持っておらず、冗長性のレベルがそれぞれのチャネルがどのように構成されているかに依存することを示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Clinical machine learning increasingly relies on training corpora generated by large language models (LLMs) rather than annotated by clinicians, and such corpora are described and reused largely on the basis of their reported scale. We test whether volume reflects information content. Analysing the complete output of a multi-agent clinical extraction pipeline applied to 167,034 patient narratives, 2.51 billion generated tokens across the ten text-bearing channels of an eleven-channel pipeline, we introduce Provenance-based Redundancy Decomposition, a token-level classification of the entire output by source. Only 10.9% of the output is trainable-unique content while 79.4% is redundant; raw token count overstates information content by roughly ninefold. The redundancy arises through two distinct mechanisms, verbatim copying of source context into per-item fields, and duplication of generated text across records, of which only the former is losslessly removable. An independent, model-free analysis based on lossless compression confirms the redundancy, recovering the two mechanisms without reference to the provenance labels. One pipeline channel carries almost no redundancy, showing that the level of redundancy depends on how each channel is structured rather than being a fixed property of LLM extraction. Because uncorrected redundancy up-weights the longer, more complex presentations that generate the most items, it skews the token-level training distribution of the corpus, a property we measure directly. In a controlled downstream test, de-duplicating the corpus before adaptation improved a clinical encoder on external disease-recognition benchmarks at equal token budget, robustly across adaptation depths and replicated on a second benchmark, confirming that the redundancy carries a measurable cost beyond storage. The classification tool is released openly.
- Abstract（参考訳）: 臨床機械学習は, 大規模言語モデル(LLM)が生成する学習コーパスに, 臨床医が注釈を付けるのではなく, ますます頼りにしており, 報告された尺度に基づいて, それらのコーパスを記述・再利用している。
ボリュームが情報内容を反映しているかどうかをテストする。
167,034件の患者物語,51億件のトークンを11個のパイプラインパイプラインの10個のテキスト付加チャネルに応用したマルチエージェント臨床抽出パイプラインの全出力を分析し,Provenance-based Redundancy Decompositionを紹介した。
出力の10.9%はトレーニング可能なユニクコンテンツであり、79.4%は冗長である。
冗長性は、ソースコンテキストをバイト単位のフィールドに冗長にコピーすることと、レコード間で生成されたテキストの重複という、2つの異なるメカニズムによって生じる。
損失のない圧縮に基づく独立モデルフリー解析は冗長性を確認し、前駆体ラベルに言及せずに2つのメカニズムを復元する。
1つのパイプラインチャネルはほとんど冗長性を持たず、冗長性のレベルはLLM抽出の固定特性ではなく、それぞれのチャネルがどのように構成されているかに依存する。
訂正されていない冗長性は、最も多くのアイテムを生成する、より長くより複雑なプレゼンテーションをアップウェイトするので、直接測定するプロパティであるコーパスのトークンレベルのトレーニング分布を歪めます。
制御された下流試験では、適応前にコーパスを分離することで、同等のトークン予算で外部疾患認識ベンチマークのクリニカルエンコーダを改良し、適応深さを頑健に越え、第2のベンチマークで複製し、冗長性がストレージを超えて測定可能なコストをもたらすことを確認した。
分類ツールは公開されている。
関連論文リスト
- A Hybrid Hierarchical 1D-CNN-BiLSTM Framework for Extractive Summarization of Biomedical and Clinical Text [0.39146761527401436]
大規模な言語モデルでは抽象的な要約は極めて流動的であるが、生成された要約は事実を幻覚させることがある。
パイプラインから生成を除去し,要約を抽出文選択としてフレーミングすることで,この問題に対処する。
我々のアーキテクチャはCNNやLSTMのベースラインよりも優れており、Ablationsはより広い畳み込み受容領域が文のスコアリングを改善することを示している。
論文 参考訳（メタデータ） (2026-09-11T19:49:33Z) - SynthSentry: Detecting Synthetic Data Contamination in Language Model Training Data [2.998247765202193]
コーパスレベルのモデルに依存しない汚染信号は生成モデルへのアクセスを必要とせず、生成履歴も合成ラベルも不要である。
我々は,小型オープンウェイト発生器が汚染したコーパスと,アウト・ワン・ジェネレータ・アウトプロトコルに基づく命令調整オープンウェイト・モデルについて検討した。
スコアは、ジェネレータファミリー全体が持ち出されるときにほとんど損失のない重大さでコーパスをランク付けする。
論文 参考訳（メタデータ） (2026-09-11T02:25:18Z) - Noēsis: Deterministic-First Retrieval with Two-Tier Context Hydration for Factuality-Critical Queries on Small Local Models [0.0]
我々は、Noesisアーキテクチャの決定論的第一のクエリプレーンであるNoesisを提示する。
ノイズは生成前にすべての決定論的判断を下す。
報告されたすべての値は、その正確なソースと構築による位置にトレース可能である。
論文 参考訳（メタデータ） (2026-09-07T15:49:16Z) - Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents [1.4915002678801434]
ボンフェロニ配置は分布自由であるが,相関誤差下では保守的であることを示す。
粗いラベルの選択は、学習された依存なしにほぼ完璧な相関関係を作ることができる。
ステージ単位の証明書とペアの重なり合うバウンドを用いたモジュール証明書は、正の平均利得が0.6%となる。
論文 参考訳（メタデータ） (2026-08-04T23:48:36Z) - From Sparse Features to Trustworthy Proxies: Certifying SAE-Based Interpretability [53.681678236115836]
我々は,SAEに基づく説明を,基盤となる凍結LMの忠実な見方として扱うことができるかを検討した。
この枠組みは, 4つの測定可能な量を用いて, 基本モデルの予測リスクの上限を導出する。
我々は, GPT-2 Small, Gemma-2B, Llama-3-8B のサンプルサイズにおいて, 境界が非空洞となることを示す。
論文 参考訳（メタデータ） (2026-06-16T18:28:23Z) - What Are We Actually Decoding? Source Attribution for Non-Invasive Brain-to-Language Retrieval [42.66754319854329]
我々は,刺激同期MEG-to-audio検索を監査フレームワークとして再放送した。
構造的ショートカット、ウィンドウレベルの刺激ロックされたエビデンス、ウィンドウ間のコンテキストアグリゲーションを使用します。
これらの結果は、脳から言語へのパフォーマンスは、単に報告されるのではなく、ソース属性であるべきだことを示唆している。
論文 参考訳（メタデータ） (2026-05-23T11:23:39Z) - Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation [51.55755193937205]
提案するQREAMは,検索した文書を事実を保存しながら質問指向のスタイルで整列するスタイル制御リライタである。
本フレームワークは,(1) 反復的書き換え探索にスタイリスティックシードを用いたQREAM-ICL,(2) ICL出力から抽出した軽量学生モデルQREAM-FTの2段階からなる。
論文 参考訳（メタデータ） (2026-04-19T08:39:21Z) - Scaling Video Pretraining for Surgical Foundation Models [51.92777479821822]
SurgRecは、スケーラブルで再現可能な、外科的ビデオ理解のための事前学習のレシピだ。
内視鏡,腹腔鏡,白内障,ロボット手術を対象とする10,535ビデオと214.5Mフレームの大規模なコーパスをキュレートした。
論文 参考訳（メタデータ） (2026-03-31T16:31:25Z) - CaLM: Contrasting Large and Small Language Models to Verify Grounded Generation [76.31621715032558]
グラウンデッドジェネレーションは、言語モデル(LM)に、より信頼性が高く説明可能な応答を生成する能力を持たせることを目的としている。
本稿では,新しい検証フレームワークであるCaLMを紹介する。
我々のフレームワークは、より少ないパラメトリックメモリに依存する小さなLMを有効活用し、より大きなLMの出力を検証する。
論文 参考訳（メタデータ） (2024-06-08T06:04:55Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳（メタデータ） (2023-12-27T09:03:43Z) - Factual Error Correction for Abstractive Summaries Using Entity
Retrieval [57.01193722520597]
本稿では,エンティティ検索後処理に基づく効率的な事実誤り訂正システムRFECを提案する。
RFECは、原文と対象要約とを比較して、原文から証拠文を検索する。
次に、RFECは、エビデンス文を考慮し、要約中のエンティティレベルのエラーを検出し、エビデンス文から正確なエンティティに置換する。
論文 参考訳（メタデータ） (2022-04-18T11:35:02Z) - Rethinking Reconstruction Autoencoder-Based Out-of-Distribution
Detection [0.0]
リコンストラクションオートエンコーダに基づく手法は、入力再構成誤差を新規性対正規性の計量として用いることでこの問題に対処する。
本稿では, 意味的再構成, データの確実性分解, 正規化L2距離を導入し, 元の手法を大幅に改善する。
提案手法は,追加データや実装の困難さ,時間を要するパイプライン,さらには既知のクラスの分類精度を損なうことなく機能する。
論文 参考訳（メタデータ） (2022-03-04T09:04:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。