論文の概要: Know Your Source: A Public Knowledge Store for Media Background Checks
- arxiv url: http://arxiv.org/abs/2607.02383v2
- Date: Tue, 07 Jul 2026 15:00:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 14:37:43.034826
- Title: Know Your Source: A Public Knowledge Store for Media Background Checks
- Title(参考訳): Know Your Source:メディアの背景チェックのための公開知識ストア
- Abstract要約: 既存のアプローチはしばしば、回収された証拠は信頼できると仮定するが、現実の情報は矛盾し、時代遅れになり、信頼できないまたはバイアスのある情報源から生じる可能性がある。
我々は,200のメディアソースにまたがるMBC生成の再現性,低コストな評価を可能にする,Webソースドキュメントの公開知識ストアであるMEDIAREFを紹介した。
本稿では, MBC 生成タスクにおいて広く使用されている LLM を評価し, 自動評価と定性評価の両方により, 高品質な MBC 生成をサポートすることを実証する。
- 参考スコア(独自算出の注目度): 4.084855963328228
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-based retrieval-augmented generation (RAG) is increasingly used for automated fact-checking (AFC) and related tasks. By grounding LLM outputs in retrieved evidence, RAG-based systems provide transparent justifications while allowing external information to be updated independently of the underlying model. However, existing approaches often assume retrieved evidence is reliable, although real-world information may be conflicting, outdated, and can originate from unreliable or biased sources. Recent work on *source-critical reasoning* addresses this challenge through media background checks (MBCs) (Schlichtkrull, 2024), which assess the credibility of evidence sources to support downstream fact verification. However, generating MBCs relies on costly proprietary search APIs, limiting reproducibility. To mitigate this issue, we introduce MEDIAREF, a publicly available knowledge store of web-sourced documents that enables reproducible, low-cost evaluation of MBC generation across 200 media sources. We describe a reproducible methodology for constructing and updating the collection, assess widely used LLMs on the MBC generation task, and demonstrate that MEDIAREF supports higher-quality MBC generation through both automatic and qualitative evaluation.
- Abstract(参考訳): LLMベースの検索強化生成(RAG)は、自動化ファクトチェック(AFC)や関連するタスクにますます利用されている。
抽出された証拠にLCM出力を接地することで、RAGベースのシステムは、基礎となるモデルとは独立して外部情報を更新し、透過的な正当性を提供する。
しかし、既存のアプローチはしばしば、回収された証拠は信頼できると仮定するが、現実の情報は矛盾し、時代遅れになり、信頼できないまたはバイアスのある情報源から生じる可能性がある。
ソースクリティカルな推論*に関する最近の研究は、メディアバックグラウンドチェック(MBC)を通じてこの問題に対処している(Schlichtkrull, 2024)。
しかし、MBCの生成はコストのかかる独自の検索APIに依存し、再現性を制限する。
この問題を軽減するため,200のメディアソースにまたがるMBC生成の再現性,低コストな評価を可能にする Web ソースドキュメントの公開知識ストアである MEDIAREF を紹介した。
本稿では, MBC 生成タスクにおいて広く使用されている LLM を評価し, 自動評価と定性評価の両方により, 高品質な MBC 生成をサポートすることを実証する。
関連論文リスト
- MIRAGE: Defending Long-Form RAG Against Misinformation Pollution [87.40537931342082]
我々は、長期RAGのためのトレーニング不要でモデルに依存しない防御システムであるMIRAGEを紹介した。
MIRAGEはNLIベースのクロスドキュメントクレームグラフを構築し、一貫性のあるマルチソースサポートサブセットの条件生成や、検索とパラメトリック応答のブロックにDefended-Claims Gateを適用している。
論文 参考訳(メタデータ) (2026-07-06T13:36:12Z) - RW-Post: Auditable Evidence-Grounded Multimodal Fact-Checking in the Wild [9.55806677152407]
RW-Postは、実世界のマルチモーダルなファクトチェックのための、ポストアラインなtextbftext-imageベンチマークである。
RW-Postは、クローズドブック、エビデンスバウンド、オープンウェブレジーム間の制御評価をサポートする。
論文 参考訳(メタデータ) (2026-05-11T11:04:04Z) - Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation [51.55755193937205]
提案するQREAMは,検索した文書を事実を保存しながら質問指向のスタイルで整列するスタイル制御リライタである。
本フレームワークは,(1) 反復的書き換え探索にスタイリスティックシードを用いたQREAM-ICL,(2) ICL出力から抽出した軽量学生モデルQREAM-FTの2段階からなる。
論文 参考訳(メタデータ) (2026-04-19T08:39:21Z) - Multi-Sourced, Multi-Agent Evidence Retrieval for Fact-Checking [47.47518672198846]
インターネット上に拡散する誤報は、社会と個人の両方に重大な脅威をもたらす。
これまでの方法は、トレーニングデータから学んだ意味的パターンと社会的コンテキスト的パターンに依存していた。
我々は、証拠のコアリソースとして認証されたオープンナレッジグラフを利用するWKGFCを提案する。
論文 参考訳(メタデータ) (2026-02-27T19:29:01Z) - Contradiction to Consensus: Dual Perspective, Multi Source Retrieval Based Claim Verification with Source Level Disagreement using LLM [0.17188280334580197]
事実確認と呼ばれるクレーム検証は、潜在的な誤情報を特定するのに役立つ。
ほとんどの自動クレーム検証システムは単一の知識源に依存している。
オープンドメインのクレーム検証のための新しいシステムを提案する。
論文 参考訳(メタデータ) (2026-02-21T02:21:31Z) - Resolving Conflicting Evidence in Automated Fact-Checking: A Study on Retrieval-Augmented LLMs [12.923119372847834]
本稿では,ファクトチェックのためのRAGモデルを初めて体系的に評価する。
実験では、最先端のRAG手法、特にメディアソースの信頼性の違いに起因する紛争の解決において、重大な脆弱性が明らかにされている。
以上の結果から,情報源の信頼性を効果的に取り入れることで,矛盾する証拠を解決し,事実確認性能を向上させるRAGモデルの能力が著しく向上することが示唆された。
論文 参考訳(メタデータ) (2025-05-23T11:35:03Z) - CrAM: Credibility-Aware Attention Modification in LLMs for Combating Misinformation in RAG [50.030526904378256]
Retrieval-Augmented Generation (RAG)は、外部文書を参照することにより、LLM(Large Language Models)の幻覚を軽減することができる。
この問題に対処するために,我々は「クレディビリティ・アウェアRAG」の課題を探求する。
我々は$textbfCr$edibility-aware $textbfA$ttention $textbfM$odification (CrAM)というプラグイン・アンド・プレイ方式を導入する。
Llama2-13B, Llama3-8B, Qwen1.5-7Bを用いた経時的質問とトリビアQA実験
論文 参考訳(メタデータ) (2024-06-17T13:01:12Z) - CaLM: Contrasting Large and Small Language Models to Verify Grounded Generation [76.31621715032558]
グラウンデッドジェネレーションは、言語モデル(LM)に、より信頼性が高く説明可能な応答を生成する能力を持たせることを目的としている。
本稿では,新しい検証フレームワークであるCaLMを紹介する。
我々のフレームワークは、より少ないパラメトリックメモリに依存する小さなLMを有効活用し、より大きなLMの出力を検証する。
論文 参考訳(メタデータ) (2024-06-08T06:04:55Z) - Re-Search for The Truth: Multi-round Retrieval-augmented Large Language Models are Strong Fake News Detectors [38.75533934195315]
大きな言語モデル(LLM)はその顕著な推論と生成能力で知られている。
クレーム検証のための Web ソースからキーエビデンスを自動的に戦略的に抽出する,新たな LLM フレームワークについて紹介する。
我々の枠組みは十分な証拠の取得を保証し、性能を向上させる。
論文 参考訳(メタデータ) (2024-03-14T00:35:39Z) - Assessing the Reliability of Large Language Model Knowledge [78.38870272050106]
大規模言語モデル(LLM)は、知識探索タスクにおける高い性能のため、知識ベースとして扱われてきた。
LLMが実際に正しい答えを連続的に生成する能力をどのように評価するか。
LLMの信頼性を直接測定するための新しい指標であるMOdel kNowledge relIabiliTy score (MONITOR)を提案する。
論文 参考訳(メタデータ) (2023-10-15T12:40:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。