論文の概要: On the Effectiveness of Fact Checking Information from Politically Congruent and Incongruent Large Language Models

• arxiv url: http://arxiv.org/abs/2607.15364v1
• Date: Thu, 16 Jul 2026 18:08:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.678097
• Title: On the Effectiveness of Fact Checking Information from Politically Congruent and Incongruent Large Language Models
• Title（参考訳）: 政治的に一致した大規模言語モデルからのFact Checking情報の有効性について
• Abstract要約: ソーシャルメディア企業は、人間のファクトチェッカーから離れ、代わりにプラットフォームに会話型大規模言語モデル(LLM)を組み込んでいる。 本研究では,イデオロギー的に構成されたLLMチャットボットのファクトチェック情報の有効性について検討した。 LLMのファクトチェッカーは、ボットが政治的にユーザーと相容れない場合でも、真偽の政治的ニュースの見出しに対する信頼を著しくシフトしている。
• 参考スコア（独自算出の注目度）: 0.28675177318965045
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Social media companies have shifted away from human fact-checkers and instead have embedded conversational Large Language Models (LLM) on their platforms. LLM chatbots differ from human fact-checkers in many ways that may shape user responses to corrections. Of particular interest in this study is that LLM chatbots can be ideologically configured via the content emphasized in their responses, the sources cited, and the configured persona. Using data from two within-subjects experiments (n=705), this paper investigates the effectiveness of fact checking information from ideologically configured LLM chatbots. We find that LLM fact-checkers significantly shift trust in true and false political news headlines, even when the chatbot is politically incongruent with the user. The perceived political congruency between the participant and the bot matters only when headlines are politically distant. That is, trust in correctly labeled true headlines increases less when politically distant chatbots check distant headlines and increases more when moderate chatbots check distant headlines. The perceived political congruency of LLM chatbots did not impact their effectiveness at decreasing trust in false headlines. Unfortunately, LLM fact-checkers also significantly change trust in news when they are wrong or provide inconclusive answers. Our results demonstrate both the potential for LLMs to correct false information at scale but also their potential to taint the truth at scale.
• Abstract（参考訳）: ソーシャルメディア企業は、人間のファクトチェッカーから離れ、代わりにプラットフォームに会話型大規模言語モデル(LLM)を組み込んでいる。 LLMチャットボットは、修正に対するユーザの反応を形作る多くの方法において、人間のファクトチェッカーとは異なる。 この研究の特に関心は、LLMチャットボットは、その応答、引用されたソース、設定されたペルソナで強調されたコンテンツを通して、イデオロギー的に構成できることである。 本稿では,2つのインテリアオブジェクト実験(n=705)のデータを用いて,イデオロギー的に構成されたLLMチャットボットの事実チェック情報の有効性について検討する。 LLMのファクトチェッカーは、チャットボットが政治的にユーザーと相容れない場合でも、真偽の政治的ニュースの見出しに対する信頼を著しくシフトしている。 参加者とボットの間の政治的一致は、見出しが政治的に遠くにある場合に限られる。 つまり、政治的に遠方のチャットボットが遠方の見出しをチェックし、中程度のチャットボットが遠方の見出しをチェックすると、正しいラベル付けされた真の見出しに対する信頼はより少なくなる。 LLMチャットボットの政治的一致は、偽見出しの信頼を低下させる効果には影響しなかった。 残念なことに、LCMのファクトチェッカーは、誤った時にニュースに対する信頼を著しく変えたり、決定的な回答を与えたりする。 以上の結果から,LLMが誤情報を大規模に訂正する可能性に加えて,その真理を大規模に把握する可能性も示された。

関連論文リスト

• Large Means Left: Political Bias in Large Language Models Increases with Their Number of Parameters [0.571853823214391]
  大規模言語モデル(LLM)は、主に多くの人が様々なトピックの主要な情報源として使っている。 LLMは、しばしば事実の誤りを犯したり、データ(幻覚)を作成したり、バイアスを提示したり、ユーザーが誤った情報に晒したり、意見に影響を与えたりする。 我々は、Wale-O-Matのスコアを用いて、ドイツ連邦議会の最近の投票の文脈において、人気のあるLLMの政治的バイアスを定量化する。
  論文  参考訳（メタデータ） (2025-05-07T13:18:41Z)
• Large Language Models are often politically extreme, usually ideologically inconsistent, and persuasive even in informational contexts [1.9782163071901029]
  大規模言語モデル(LLM)は、人々が情報を取得し、世界と対話する方法を根本的に変える、変革的な技術である。 LLMの全体的な党派的嗜好は、特定のトピックに対する極端な見解の相違による純結果であることを示す。 ランダム化実験では、LLMは情報検索の文脈においても、自らの好みを政治的説得力に広めることができることを示す。
  論文  参考訳（メタデータ） (2025-05-07T06:53:59Z)
• "I'm Not Sure, But...": Examining the Impact of Large Language Models' Uncertainty Expression on User Reliance and Trust [51.542856739181474]
  不確実性の自然言語表現の違いが、参加者の信頼、信頼、全体的なタスクパフォーマンスにどのように影響するかを示す。 その結果, 一人称表情は, 参加者のシステムに対する信頼度を低下させ, 参加者の正確性を高めつつ, システムの回答に同調する傾向にあることがわかった。 以上の結果から,不確実性の自然言語表現の使用は,LLMの過度な依存を軽減するための効果的なアプローチである可能性が示唆された。
  論文  参考訳（メタデータ） (2024-05-01T16:43:55Z)
• Whose Side Are You On? Investigating the Political Stance of Large Language Models [56.883423489203786]
  大規模言語モデル(LLM)の政治的指向性について,8つのトピックのスペクトルにわたって検討する。 我々の調査は、中絶からLGBTQ問題まで8つのトピックにまたがるLLMの政治的整合性について考察している。 この結果から,ユーザはクエリ作成時に留意すべきであり,中立的なプロンプト言語を選択する際には注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-15T04:02:24Z)
• Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference [48.99117537559644]
  人間の好みに基づいた大規模言語モデル(LLM)を評価するオープンプラットフォームであるArenaを紹介する。 本手法は,クラウドソーシングを通じて,多種多様なユーザベースからのインプットを活用する。 本稿では,このプラットフォームについて述べるとともに,これまでに収集したデータを分析し,実際に使用している統計的手法について説明する。
  論文  参考訳（メタデータ） (2024-03-07T01:22:38Z)
• The Earth is Flat? Unveiling Factual Errors in Large Language Models [89.94270049334479]
  ChatGPTのような大規模言語モデル(LLM)は、事前学習や微調整の知識が豊富にあるため、様々な応用がある。 それにもかかわらず、医療、ジャーナリズム、教育といった重要な分野に懸念を抱き、事実と常識の誤りを引き起こす傾向にある。 LLMにおける事実不正確な事実を明らかにすることを目的とした,新しい自動テストフレームワークであるFactCheckerを紹介する。
  論文  参考訳（メタデータ） (2024-01-01T14:02:27Z)
• The Perils & Promises of Fact-checking with Large Language Models [55.869584426820715]
  大規模言語モデル(LLM)は、学術論文、訴訟、ニュース記事を書くことをますます信頼されている。 語句検索,文脈データ検索,意思決定などにより,実検におけるLLMエージェントの使用状況を評価する。 本研究は, 文脈情報を用いたLLMの高度化を示すものである。 LLMは事実チェックにおいて有望であるが、不整合の正確性のため注意が必要である。
  論文  参考訳（メタデータ） (2023-10-20T14:49:47Z)
• Fact-checking information from large language models can decrease headline discernment [6.814801748069122]
  本稿では,人気大言語モデルが生成した事実確認情報が,政治ニュースの見出しの信条や共有意図に与える影響について検討する。 この情報は、見出しの正確さを識別したり、正確なニュースを共有したりする参加者の能力を大幅に向上させるものではない。 我々の発見は、AIアプリケーションから生じる潜在的な害の重大な原因を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-08-21T15:47:37Z)
• ChatGPT-4 Outperforms Experts and Crowd Workers in Annotating Political Twitter Messages with Zero-Shot Learning [0.0]
  本稿では、ツイートの内容に基づいて、Twitterポスターの政治的関連を分類するテキスト分析タスクにおいて、Large Language Model (LLM) ChatGPT-4の精度、信頼性、バイアスを評価する。 2020年の大統領選挙では、米国政治家のTwitterメッセージを使い、正確さを測定するための根拠となる真実を提供します。
  論文  参考訳（メタデータ） (2023-04-13T14:51:40Z)
• Accuracy and Political Bias of News Source Credibility Ratings by Large Language Models [8.367075755850983]
  本稿では,3つの主要なプロバイダから9つの広く使用されている言語モデル(LLM)を評価し,信頼性および高品質な情報ソースを識別する能力を評価する。 より大規模なモデルは、情報不足のために評価の提供を拒否する傾向にあるのに対して、より小さなモデルは、評価においてエラーを起こす傾向にある。
  論文  参考訳（メタデータ） (2023-04-01T05:04:06Z)
• Right and left, partisanship predicts (asymmetric) vulnerability to misinformation [71.46564239895892]
  我々は、Twitter上でのニュース共有行動を研究することにより、パルチザン、エコーチャンバー、およびオンライン誤情報に対する脆弱性の関係を分析する。 誤情報に対する脆弱性は、左派と右派の両方のユーザーの党派の影響を強く受けている。
  論文  参考訳（メタデータ） (2020-10-04T01:36:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。