論文の概要: Can AI Debias the News? LLM Interventions Improve Cross-Partisan Receptivity but LLMs Overestimate Their Own Effectiveness
- arxiv url: http://arxiv.org/abs/2605.01006v2
- Date: Thu, 07 May 2026 18:16:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 16:31:22.538609
- Title: Can AI Debias the News? LLM Interventions Improve Cross-Partisan Receptivity but LLMs Overestimate Their Own Effectiveness
- Title（参考訳）: AIはニュースを損なうか? LLMの介入は党間の受容性を改善するが、LLMは自らの効果を過大評価する
- Abstract要約: しかし、大きな言語モデル(LLM)は、そのようなコンテンツを大規模に嫌悪する潜在的手段を提供する。
LLMによるリベラルニュースの見出しのデバイアスが、保守的な読者の信頼関連判断を改善できるかどうかを検証した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Partisan news media erode cross-partisan trust, but large language models (LLMs) offer a potential means of debiasing such content at scale. Across two pre-registered experiments, we tested whether LLM-generated debiasing of liberal news headlines could improve conservative readers' trust-relevant judgments. Study 1 found that subtle lexical debiasing (replacing emotive words with more moderate synonyms) had no effect on any outcome. Study 2 found that a more substantive reframing intervention significantly increased conservatives' perceived trustworthiness, completeness, and willingness to engage with liberal news headlines, without producing a backfire effect among a sample of liberals. In Study 1, the intervention produced robust effects among LLM-simulated silicon participants, whereas it had no impact on human readers. In Study 2, the intervention's effects among silicon participants aligned directionally with human responses but were significantly larger in magnitude for some outcomes. Moderation analyses revealed that the model's implicit theory of who responds to debiasing diverged from the psychological profile that actually predicted human responsiveness. These findings demonstrate that LLM-based debiasing can improve cross-partisan receptivity when targeting ideological framing rather than surface-level language, but that current models lack both the quantitative accuracy and qualitative psychological fidelity to evaluate their own interventions without human oversight.
- Abstract（参考訳）: しかし、大きな言語モデル(LLM)は、そのようなコンテンツを大規模に嫌悪する潜在的手段を提供する。
事前登録された2つの実験で、リベラルニュースの見出しをLCMが生成した嫌悪感が保守的な読者の信頼関連判断を改善するかどうかを検証した。
研究1では、微妙な語彙的嫌悪(より穏健な同義語による動機的単語の置き換え)がいかなる結果にも影響を与えないことが判明した。
調査2では、より実質的な再フレーミング介入は保守派の信頼感、完全性、およびリベラルニュースの見出しへの参加意欲を、リベラルニュースのサンプルの間でバックファイア効果を生じさせることなく、著しく増大させることが判明した。
研究1では、この介入はLLMを模擬したシリコンの参加者に堅牢な効果をもたらしたが、ヒトの読者には何の影響も与えなかった。
研究2では, シリコン参加者の介入効果はヒトの反応と順に一致したが, いくつかの結果において有意に大きかった。
モデレーション分析により、モデルがデバイアスに反応する人の暗黙の理論は、人間の反応を実際に予測する心理学的プロファイルから逸脱したことが明らかとなった。
以上の結果から,LLMに基づく脱バイアスは,表層言語よりもイデオロギー的フレーミングを対象とする場合の,党派間の受容性を向上させるが,現在のモデルでは,人間の監督なしに介入を評価するための定量的精度と質的心理的忠実性の両方が欠如していることが示唆された。
関連論文リスト
- Perceived Political Bias in LLMs Reduces Persuasive Abilities [0.0]
信頼性攻撃がLSMに基づく説得を減少させるかどうかを検証する。
短いメッセージでは、LSMは回答者の党に偏りがあり、説得力は28%減った。
これらの知見は、会話型AIの説得的影響は、パルチザン的アライメントの知覚によって制約され、政治的に矛盾していることを示唆している。
論文 参考訳（メタデータ） (2026-02-20T09:33:16Z) - How Does Cognitive Bias Affect Large Language Models? A Case Study on the Anchoring Effect in Price Negotiation Simulations [21.772359439850874]
本稿では,LLMによる価格交渉におけるアンカー効果について検討する。
実験の結果, LLMはヒトのアンカー効果に影響されていることが明らかとなった。
推論モデルはアンカー効果の傾向が低いことが示され、思考の長い連鎖が効果を緩和することを示唆した。
論文 参考訳（メタデータ） (2025-08-28T18:13:46Z) - Persona-Assigned Large Language Models Exhibit Human-Like Motivated Reasoning [5.697110454224871]
人間における推論は、アイデンティティ保護のような根底にあるモチベーションのためにバイアスを起こしやすい。
本研究では,4つの政治的・社会的な属性に8つのペルソナを割り当てることによって,大きな言語モデルにおける動機づけが引き起こされるかどうかを検討する。
論文 参考訳（メタデータ） (2025-06-24T21:35:17Z) - Fairness Mediator: Neutralize Stereotype Associations to Mitigate Bias in Large Language Models [66.5536396328527]
LLMは必然的にトレーニングデータから急激な相関関係を吸収し、偏りのある概念と特定の社会的グループの間のステレオタイプ的関連をもたらす。
ステレオタイプアソシエーションを中和するバイアス緩和フレームワークであるFairness Mediator (FairMed)を提案する。
本フレームワークは, ステレオタイプアソシエーションプローバーと, 対向型デバイアス中和剤の2つの主成分からなる。
論文 参考訳（メタデータ） (2025-04-10T14:23:06Z) - Through the LLM Looking Glass: A Socratic Probing of Donkeys, Elephants, and Markets [42.55423041662188]
この研究は、外部解釈に頼るのではなく、モデルのバイアスを直接測定することを目的としている。
我々の結果は、あらゆるモデルで共和党の立場よりも民主党を一貫して好んでいることを示している。
経済の話題では、西洋のLLMには偏見があるが、中国で開発されたものは社会主義に強く依存している。
論文 参考訳（メタデータ） (2025-03-20T19:40:40Z) - Are We There Yet? Revealing the Risks of Utilizing Large Language Models in Scholarly Peer Review [66.73247554182376]
大規模言語モデル(LLM)がピアレビューに統合された。
未確認のLLMの採用は、ピアレビューシステムの完全性に重大なリスクをもたらす。
5%のレビューを操作すれば、論文の12%が上位30%のランキングでその地位を失う可能性がある。
論文 参考訳（メタデータ） (2024-12-02T16:55:03Z) - Biased AI can Influence Political Decision-Making [64.9461133083473]
本稿では,大言語モデル(LLM)におけるパルチザンバイアスが政治的意見や意思決定に与える影響について検討する。
その結果,党派偏見モデルに曝露した参加者は,LLMの偏見と一致した意見を取り入れ,決定を下す可能性が有意に高いことがわかった。
論文 参考訳（メタデータ） (2024-10-08T22:56:00Z) - Evaluating Implicit Bias in Large Language Models by Attacking From a Psychometric Perspective [66.34066553400108]
我々は、ある人口層に対する大きな言語モデルの暗黙の偏見を厳格に評価する。
心理測定の原則にインスパイアされた我々は,3つの攻撃的アプローチ,すなわち,軽視,軽視,指導を提案する。
提案手法は,LLMの内部バイアスを競合ベースラインよりも効果的に引き出すことができる。
論文 参考訳（メタデータ） (2024-06-20T06:42:08Z) - Self-Reflection Makes Large Language Models Safer, Less Biased, and Ideologically Neutral [1.472830326343432]
自己回帰はより安全になり(毒性のないものは97.8%、毒性のないものは75.8%)、バイアスの少ない(77%、偏りのないものは94.3%)、イデオロギー的に中立な反応(党派寄りの反応は100%、非党派的な反応は87.7%)であることが示される。
本稿は,大規模言語モデルの展開における本研究の意義について論じる。
論文 参考訳（メタデータ） (2024-06-14T20:07:11Z) - "I'm Not Sure, But...": Examining the Impact of Large Language Models' Uncertainty Expression on User Reliance and Trust [51.542856739181474]
不確実性の自然言語表現の違いが、参加者の信頼、信頼、全体的なタスクパフォーマンスにどのように影響するかを示す。
その結果, 一人称表情は, 参加者のシステムに対する信頼度を低下させ, 参加者の正確性を高めつつ, システムの回答に同調する傾向にあることがわかった。
以上の結果から,不確実性の自然言語表現の使用は,LLMの過度な依存を軽減するための効果的なアプローチである可能性が示唆された。
論文 参考訳（メタデータ） (2024-05-01T16:43:55Z) - Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。
本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。
観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
論文 参考訳（メタデータ） (2023-11-15T00:02:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。