論文の概要: When Imperfect Automated Fact-Checking Backfires: Social Learning in the Presence of Misinformation

• arxiv url: http://arxiv.org/abs/2611.08053v1
• Date: Thu, 05 Nov 2026 14:10:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 04:55:13.531123
• Title: When Imperfect Automated Fact-Checking Backfires: Social Learning in the Presence of Misinformation
• Title（参考訳）: 不完全なファクトチェッキングバックファイア - 誤情報の存在下での社会学習-
• Abstract要約: 本研究では,偽情報の逐次学習モデルにおいて,自動事実チェックツールがバックファイアを発生させる可能性について検討する。 適切なカスケードの確率として定義される福祉が、無償でエラーを発生させる自動化ツールが、費用がかかるが完全に正確な手作業による事実チェックを補助するときにどのように変化するかを検討する。 本ツールの追加は,真理記事があまり情報に乏しく,手作業によるチェックが十分にコストがかかる場合に,中間的信頼性のある記事に対する福祉を厳格に低下させることを実証する。
• 参考スコア（独自算出の注目度）: 6.128701890753888
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Automated fact-checking tools, cheap and fast but imperfect, are increasingly available on social platforms. We study when such tools can backfire in a sequential social learning model of misinformation. Agents observe an article's reliability and their predecessors' actions, which indicate whether they liked or disliked the article. They may also pay to fact-check it. We examine how welfare, defined as the probability of a correct cascade, changes when a free, error-prone automated tool supplements costly but perfectly accurate manual fact-checking. Two opposing effects arise. Broader use of fact-checking helps agents escape wrong cascades. At the same time, errors from the automated tool can mislead agents who would otherwise have verified the article perfectly, reducing the likelihood of correct cascades. We prove that adding the tool strictly lowers welfare for articles of intermediate reliability when truthful articles are not too informative and manual checking is sufficiently costly. Simulations show that the tool can help on either side of the intermediate range, and that it improves on manual-only checking on average only above a threshold accuracy.
• Abstract（参考訳）: 自動化されたファクトチェックツール、安くて速いが不完全なものは、ますますソーシャルプラットフォームで利用できるようになる。 このようなツールが誤情報を逐次学習する社会学習モデルに逆転する可能性について検討する。 エージェントは、記事の信頼性と前任者の行動を観察し、記事が好まれているか好まれていないかを示す。 事実確認の費用も支払うことができる。 適切なカスケードの確率として定義される福祉が、無償でエラーを発生させる自動化ツールが、コストがかかるが完全に正確な手作業による事実チェックを補助するときにどのように変化するかを検討する。 2つの反対効果が生じる。 ファクトチェックの幅広い利用は、エージェントが間違ったカスケードから逃れるのに役立つ。 同時に、自動化ツールのエラーは、記事を完全に検証するエージェントを誤解させ、正しいカスケードの可能性を減らすことができる。 本ツールの追加は、真理記事があまり情報に乏しく、手作業によるチェックが十分にコストがかかる場合に、中間的信頼性のある記事に対する福祉を厳格に低下させることを証明している。 シミュレーションにより、このツールは中間範囲の両側で有効であり、しきい値の精度以上の平均で手動のみのチェックを改善することが示された。

関連論文リスト

• EvoSpatial: Experience-Driven Skill and Tool Evolution for Spatial Reasoning Agents [37.198027354707826]
  関連スキルとツールのライブラリを更新することで,実行経験から学習するフレームワークであるEvoSpatialを紹介した。 20のベンチマークで、EvoSpatialの平均は63.9, 4.0ポイントであり、SpatialClawが報告した平均よりも高い。 チェック手順を記録に残し、それらをサポートするツールとともに、エージェントは、あるタスクから次のタスクまでの空間的推論体験を運ぶことができる。
  論文  参考訳（メタデータ） (2026-10-12T12:21:51Z)
• TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
  ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。 本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T07:15:43Z)
• Can LLMs Automate Fact-Checking Article Writing? [69.90165567819656]
  我々は、一般的なファクトチェックパイプラインを拡張し、フルファクトチェック記事の自動生成の必要性を論じる。 我々は,人間のファクトチェッカーの筆記ワークフローを模倣した LLM ベースのエージェントフレームワーク QRAFT を開発した。
  論文  参考訳（メタデータ） (2025-03-22T07:56:50Z)
• Show Me the Work: Fact-Checkers' Requirements for Explainable Automated Fact-Checking [43.300457630671154]
  オンラインメディアにおける大規模言語モデルと生成AIは、効果的な自動事実チェックの必要性を増幅している。 これらの説明が、ファクトチェッカーの意思決定と推論プロセスとどのように一致すべきかは不明だ。
  論文  参考訳（メタデータ） (2025-02-13T08:56:25Z)
• A Systematic Review of Machine Learning Approaches for Detecting Deceptive Activities on Social Media: Methods, Challenges, and Biases [0.037693031068634524]
  本稿では、機械学習(ML)モデルとディープラーニング(DL)モデルを用いて、ソーシャルメディア上の偽ニュース、スパム、偽アカウントを検出する研究を体系的に評価する。
  論文  参考訳（メタデータ） (2024-10-26T23:55:50Z)
• Lyra: Orchestrating Dual Correction in Automated Theorem Proving [63.115422781158934]
  Lyraは新しいフレームワークで、ツール補正とConjecture Correctionという2つの異なる補正メカニズムを採用している。 ツール補正は幻覚の緩和に寄与し、それによって証明の全体的な精度が向上する。 Conjecture Correctionは命令で生成を洗練させるが、ペア化された(生成、エラー、改善)プロンプトは収集しない。
  論文  参考訳（メタデータ） (2023-09-27T17:29:41Z)
• Generating Fact Checking Explanations [52.879658637466605]
  まだ欠けているパズルの重要なピースは、プロセスの最も精巧な部分を自動化する方法を理解することです。 本稿では、これらの説明を利用可能なクレームコンテキストに基づいて自動生成する方法について、最初の研究を行う。 この結果から,個別に学習するのではなく,両目標を同時に最適化することで,事実確認システムの性能が向上することが示唆された。
  論文  参考訳（メタデータ） (2020-04-13T05:23:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。