論文の概要: Copies Are Not Confirmations: How News Duplication Fools LLM Judges and Continual Learners
- arxiv url: http://arxiv.org/abs/2611.09203v2
- Date: Wed, 11 Nov 2026 10:49:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.860089
- Title: Copies Are Not Confirmations: How News Duplication Fools LLM Judges and Continual Learners
- Title(参考訳): ニュースの重複がLLM判事や継続学習者にどのように影響するか
- Abstract要約: CC-Newsの20万件の英語記事では、18.9%がコピーリンクを検知している。
模擬連続学習ストリームでは、検出されたコピーチェーン毎に1つのレポートがカットされ、4人の審査員の間で0.10-0.24で受け入れられている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A language model that keeps learning from the news sees the same claim many times, but many reports are copies of one source: wire stories, content shared within a media group, syndication and press releases. We ask whether LLM judges and continual learners treat such copies as independent confirmations. In 200,000 English articles from CC-News, a near-duplicate detector identifies copy links to another outlet for 18.9% of the articles, a detector-based lower bound. In a controlled experiment with claims about invented people, three identical reprints instead of one report raised the lies accepted by Llama 3.2 from 0.06 to 0.71 and by phi4 from 0.21 to 0.90; Gemini 2.5 Flash already believed a single report, and Gemini 2.5 Pro followed provenance information most consistently. In a simulated continual-learning stream, showing the judge one report per detected copy chain cut the copied lies accepted by 0.10-0.24 across four judges, at a mean cost of at most 4.2 points of accepted truths. Text similarity links none of the copies reworded by three LLMs. An entity-novelty test, the share of a report's named entities absent from an earlier look-alike, separates these rewrites from 100 author-labelled independent reports of the same event (AUC 0.98-0.99), statistically indistinguishable from TF-IDF and the best tested embedding model, but recognises only 17% of natural same-source derivatives. With both detectors run on 15,084 real articles carrying inserted claims, one report per chain cut the lies accepted by phi4 from 0.57-0.67 to 0.09 (copies), 0.14 (rewrites) and 0.34 (rewrites with invented details), and by Llama 3.2 from 0.56-0.62 to 0.07, 0.09 and 0.25, at a cost of 2.4 and 10 points of accepted truths. Counting reports or chains without a judge is unreliable, and colluding sources that do not copy each other remain an open problem.
- Abstract(参考訳): ニュースから学び続ける言語モデルは、何度も同じ主張を見ることができるが、多くのレポートは、1つのソースのコピーである: ワイヤーストーリー、メディアグループ内で共有されるコンテンツ、シンジケーション、プレスリリース。
LLMの審査員と継続学習者は、そのようなコピーを独立した確認として扱うかどうかを問う。
CC-Newsの20万件の英語記事では、ほぼ重複した検出器が18.9%の項目のコピーリンクを検知している。
発明者に関する主張をコントロールした実験では、1つのレポートの代わりに3つの同一のリプリントが、Llama 3.2が0.06から0.71、phi4が0.21から0.90、Gemini 2.5 Flashが1つのレポートをすでに信じており、Gemini 2.5 Proは最も一貫して証明情報に従っていた。
模擬連続学習ストリームでは、検出されたコピーチェーンごとの判定結果が示され、4人の審査員の間で0.10-0.24で受け入れられ、平均4.2ポイントの真理が受け入れられた。
テキストの類似性は、3つの LLM でリワードされたコピーのどれにもリンクしない。
エンティティ・ノーベルティ・テスト(エンティティ・ノーベルティ・テスト)は、レポートの名前を冠したエンティティのシェアが、同じイベントの100の著者による独立なレポート(AUC 0.98-0.99)から切り離され、TF-IDFと統計的に区別できない。
両方の検出器が15,084個の実物に挿入されたクレームを運んでいるため、チェーン毎の1つの報告では、phi4が許容する嘘を0.57-0.67から0.09(コピー)、0.14と0.34(発明された詳細で書き換える)、Llama 3.2は0.56-0.62から0.07、0.09と0.25と、2.4と10ポイントの真理で減らした。
裁判官のいないレポートやチェーンのカウントは信頼性が低く、互いにコピーしないソースの衝突は未解決の問題である。
関連論文リスト
- Signed but Steerable: Measuring and Closing the Text-Vector Integrity Gap in Offline Retrieval-Augmented Generation [45.88028371034407]
ベクトルを再計算してコサイントレランス内で受け入れる検証器は、予測可能なクエリの共有を攻撃者に譲る。
ローカル言語モデルを実行するRaspberry Pi 5では、このような攻撃は正しい回答を0.75から0.39に下げる。
一般的な浮動小数点および動的INT8推論パイプラインは、バッチサイズやアーキテクチャでビット再生可能であることを示す。
論文 参考訳(メタデータ) (2026-11-04T13:32:04Z) - Surprise Alone Learns Lies: Evidence-Gated Continual Learning for LLMs from Streaming Claims [0.0]
発明者や実在の反ファクト事実に関する真偽の主張の流れから学習するLoRA適応学生を対象に,この問題について検討する。
各クレームを承認しなければならない判断者である検証者鍵は、その検証者が正確である程度に誤りを除去する。
無関係な知識に関する校正された回帰テストは、嘘をフィルタリングせずに学習を遅くする。
論文 参考訳(メタデータ) (2026-10-29T11:19:08Z) - What Survives Self-Evolution: Provenance Marks in Copied Agent Harnesses [43.26554326312535]
盗賊は、流出したハーネスを公表された自己進化器に渡すことができ、その結果を独自のものとして出荷することができる。
大規模な言語モデル(LLM)の提案者は、それを運ぶファイルを書き直し、スコアはより良い書き直しを維持する。
スキームを意識したプラジャリストは、測定不可能なコストでネクタイをリシャッフルし、プロジェクタにもっと一般的なコードを求めるプラジャリストは、75-100%の書き直しで鍵を除去する。
論文 参考訳(メタデータ) (2026-10-15T08:03:10Z) - Copies or Sources? Measuring How LLM Aggregators Count Restated Evidence in Multi-Agent Systems [16.895933142289817]
大規模言語モデル上に構築されたマルチエージェントシステムは、もちろん観測を再開する。
このようなメッセージをプールするアグリゲータは、ステートメントではなく、ソースをカウントすべきである。
我々は、報告された確率を独立した読み取り単位に変換し、すべての再試行にコピーウェイトを割り当てる。
論文 参考訳(メタデータ) (2026-10-05T12:08:11Z) - CITECHOICE: A Causal Audit of How Document Presentation Redistributes Citation Credit in Agentic Search [0.0]
CITECHOICEは、マルチターンエージェントサーチの因果監査である。
同一の既定事実に対して独立に認証されたサポートを持つ113の同呼文書ペアを選択する。
構造化レンダリングは、ソースの入力を明示的に増加させるのではなく、引用クレジットに集中する。
論文 参考訳(メタデータ) (2026-09-14T07:47:47Z) - Reconcile Once, Write Anytime: A Trust-Tiered Librarian and a Multi-Agent Writer for Drift-Free, Point-in-Time Research [7.426963307811556]
本稿では,保守型ポイントインタイム知識ライブラリをレポート作成から分離する2層エージェントシステムを提案する。
ポータブルなマルチエージェント"ライター"ランタイムは、任意の知識遮断Tにおいて矛盾のないエビデンス基底レポートを構成する。
我々は,555,926枚のエビデンスカードを出力する6,130個のソースの自己収集・公開コーパスを評価した。
論文 参考訳(メタデータ) (2026-08-13T09:09:28Z) - Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks [68.64050157343334]
既存の透かしは編集の際は残されているが、このような堅牢性は、敵が帰属を維持しながら重要な内容を変更することを可能にする。
実証と改ざんの証拠を共同で提供する革新的な透かしを導入する。
信号は同じメカニズムを共有するが、独立キーと正規化テキスト上の異なるシードウィンドウを使用するため、一方は編集に耐性があり、もう一方は読み取り可能な変更に敏感である。
論文 参考訳(メタデータ) (2026-08-13T01:55:16Z) - Are LLMs More Skeptical of Entertainment News? [0.0]
大規模言語モデル(LLM)は、ニュースの信頼性の自動評価にますます利用されている。
ゼロショットLLMが、合法的なエンターテイメントニュースを、合法的なハードニュースよりもフェイクと誤分類する可能性が高いかどうかを検討する。
4つのフロンティアモデルにまたがる、明確だがモデル固有のジャンル非対称性を見いだす。
論文 参考訳(メタデータ) (2026-05-03T05:55:00Z) - Exploring Response Uncertainty in MLLMs: An Empirical Evaluation under Misleading Scenarios [49.53589774730807]
マルチモーダル大規模言語モデル(MLLM)は近年,視覚的質問応答から映像理解に至るまでのタスクにおいて,最先端のパフォーマンスを実現している。
12件のオープンソースMLLMが, 単一の偽装キューを受けた65%の症例において, 既往の正解を覆した。
論文 参考訳(メタデータ) (2024-11-05T01:11:28Z) - CopyBench: Measuring Literal and Non-Literal Reproduction of Copyright-Protected Text in Language Model Generation [132.00910067533982]
LM世代におけるリテラルコピーと非リテラルコピーの両方を測定するために設計されたベンチマークであるCopyBenchを紹介する。
リテラル複写は比較的稀であるが、イベント複写と文字複写という2種類の非リテラル複写は、7Bパラメータのモデルでも発生する。
論文 参考訳(メタデータ) (2024-07-09T17:58:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。