論文の概要: When Generated Information Returns: Error Persistence in LLM-Mediated Information Ecosystems

• arxiv url: http://arxiv.org/abs/2610.33617v1
• Date: Sat, 24 Oct 2026 11:45:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.373795
• Title: When Generated Information Returns: Error Persistence in LLM-Mediated Information Ecosystems
• Title（参考訳）: 生成情報返却時:LLMを利用した情報生態系におけるエラー永続化
• Abstract要約: 大規模言語モデル (LLMs) は、後に他のモデルに入力される素材からオンライン記事を生成する傾向にある。 記事は、その再現を可能にする具体的な詳細を保存しながら、虚偽のクレームを裏付けることを避けることができる。 我々は,出版物を入力として返却するか否か,外部供給量,入力容量,生成量に応じて制御されたコミュニティ記述プロセスを実装した。
• 参考スコア（独自算出の注目度）: 4.28787537081191
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) increasingly produce online articles from material that later becomes input to other models. This circulation connects individual responses to the information available for subsequent generation. We study a consequential distinction: an article can avoid endorsing a false claim while preserving the concrete details that enable its reproduction. Our framework connects claim content, expressed stance, and downstream reuse to explain selective error persistence under a continuing supply of accurate and inaccurate information. We implement a controlled community writing process that varies whether published articles return as inputs, matching external supply, input capacity, and generation volume. Across twelve factual targets and four production models, recirculation increases the presence of complete false claims by 7.29 percentage points at the final round while reducing explicit endorsement by 8.33 points. Effects differ across facts and models. Paired interventions then abstract eligible error details within fixed histories while preserving correct content and the surrounding controversy. Error reproduction remains largely unchanged across the evaluation targets, while a development quotation target exhibits local reductions. These findings connect persistent errors to the information available throughout a writing process and motivate evaluation of both what models affirm and what their publications supply to future writers.
• Abstract（参考訳）: 大規模言語モデル (LLMs) は、後に他のモデルに入力される素材からオンライン記事を生成する傾向にある。 この循環は、その後の世代で利用可能な情報に個々の応答を接続する。 記事は、その再現を可能にする具体的な詳細を保存しながら、虚偽のクレームを裏付けることを避けることができる。 我々のフレームワークは、正確な情報と不正確な情報の継続的な供給の下で、クレームの内容、表現された姿勢、および下流の再利用を接続し、選択的なエラー永続性を説明する。 我々は,出版物を入力として返却するか否か,外部供給量,入力容量,生成量に応じて制御されたコミュニティ記述プロセスを実装した。 12の事実的目標と4つの生産モデルにまたがって、再循環は、最終ラウンドで完全な虚偽のクレームの存在を7.29ポイント増加させ、明示的な支持を8.33ポイント減少させる。 効果は事実やモデルによって異なる。 ペア化された介入は、正しい内容と周囲の論争を保ちながら、固定された歴史の中で許容可能なエラーの詳細を抽象化する。 誤差の再現は評価対象によって大きく変化しないが、開発見積もり対象は局所的な縮小を示す。 これらの知見は、筆記プロセスを通じて利用可能な情報に永続的なエラーを関連付け、モデルが何を確認し、その出版物が将来の作家に何を提供するかを評価する動機付けとなる。

関連論文リスト

• Did the Model Use That? Counterfactual Training Boosts Self-Attribution in Language Models [10.62784887593804]
  本稿では,モデルが自己帰属的かどうかを検討する。 反実的訓練によって自己貢献がいかに改善されるかを示す。
  論文  参考訳（メタデータ） (2026-10-26T12:03:05Z)
• Not All Needles Are Found: How Fact Distribution and Don't Make It Up Prompts Shape Literal Extraction, Logical Inference, and Hallucination Risks in Long-Context LLMs [0.0]
  大きな言語モデル(LLM)は、非常に長い入力コンテキストをサポートするようになった。 どのようにして情報を抽出し、大規模に推測するかは、まだ不明である。 我々は, 事実配置, コーパスレベルの事実分布, そして, モデル行動にどう影響するかを考察する。
  論文  参考訳（メタデータ） (2026-01-05T11:30:56Z)
• Merging Facts, Crafting Fallacies: Evaluating the Contradictory Nature of Aggregated Factual Claims in Long-Form Generations [63.90357081534995]
  大型言語モデル(LLM)からの長文生成には、事実と非事実のクレームが混在している。 Llama-chatのような強力なオープンソースモデルは、検証可能な事実を含む段落を生成することができるが、事実はエンティティの曖昧さのため、非現実的な段落にまとめられる。 我々は、曖昧なエンティティを持つコンテンツに特化して設計された拡張メトリックD-FActScoreを導入する。
  論文  参考訳（メタデータ） (2024-02-08T12:36:29Z)
• Bias in News Summarization: Measures, Pitfalls and Corpora [4.917075909999548]
  本稿では,要約モデルにおけるバイアス付き行動の定義と実用運用について紹介する。 目的合成モデルと汎用チャットモデルの両方で生成された英語要約における性別バイアスを測定する。 単一文書要約におけるコンテンツ選択は、性バイアスの影響をほとんど受けていないが、幻覚は偏見の証拠である。
  論文  参考訳（メタデータ） (2023-09-14T22:20:27Z)
• Correcting Diverse Factual Errors in Abstractive Summarization via Post-Editing and Language Model Infilling [56.70682379371534]
  提案手法は, 誤要約の修正において, 従来手法よりもはるかに優れていることを示す。 我々のモデルであるFactEditは、CNN/DMで11点、XSumで31点以上のファクトリティスコアを改善する。
  論文  参考訳（メタデータ） (2022-10-22T07:16:19Z)
• Evaluating Factuality in Generation with Dependency-level Entailment [57.5316011554622]
  本稿では,依存弧のレベルで分解するエンテーメントの新たな定式化を提案する。 このデータに基づいて訓練された依存関係弧包含モデルにより,文レベルの手法よりもパラフレーズ化や要約における現実的不整合を識別できることが示されている。
  論文  参考訳（メタデータ） (2020-10-12T06:43:10Z)
• Few-Shot Learning for Opinion Summarization [117.70510762845338]
  オピニオン要約は、複数の文書で表現された主観的な情報を反映したテキストの自動生成である。 本研究では,要約テキストの生成をブートストラップするのには,少数の要約でも十分であることを示す。 提案手法は, 従来の抽出法および抽象法を, 自動的, 人的評価において大きく上回っている。
  論文  参考訳（メタデータ） (2020-04-30T15:37:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。