論文の概要: When Truth Misleads -- Phase-Aware Coherence Detection for Misinformation Correction Across Epistemic Communities

• arxiv url: http://arxiv.org/abs/2603.20221v1
• Date: Wed, 04 Mar 2026 08:08:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 02:36:12.905495
• Title: When Truth Misleads -- Phase-Aware Coherence Detection for Misinformation Correction Across Epistemic Communities
• Title（参考訳）: 心的コミュニティにおける誤情報訂正のための相認識コヒーレンス検出
• Authors: Heimo Müller, Andreas Holzinger,
• Abstract要約: 真実は嘘であるだけでなく、間違ったチャンネルや別のフレームへの権限を通じてそれを届けることによって、それを減少させるのではなく、別のフレームに固まるため、誤解を招く可能性がある。
• 参考スコア（独自算出の注目度）: 2.650269129684318
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Truth can mislead not because it is false but because delivering it through the wrong channel or authority to an audience with a different epistemic frame can harden misbelief rather than reduce it. Conventional fact checking assumes a shared epistemology that corrections from credible institutional sources will be received constructively across audiences. Evidence suggests instead that effectiveness declines and can reverse into backfire as the distance between source positioning and recipient epistemic orientation grows. We introduce Phase Aware Coherence Detection PACD which operationalises epistemic orientation from pre intervention assessments across institutional trust scientific epistemology conspiracy or anti elite openness and experiential or alternative epistemology. In a study of 45 participants we stratified individuals into three epistemic clusters and randomly assigned them to traditional fact checking phase aware coherence analysis or control before evaluating three claims 5G health effects urban trees and air quality and mRNA vaccine mechanism. Traditional fact checking shifted beliefs toward truth on average but produced substantial backfire and sharply reduced effectiveness among more sceptical participants. Phase aware coherence analysis produced little average change overall yet remained stable across epistemic clusters and substantially reduced backfire. On identity adjacent claims traditional fact checking increased confidence while reducing accuracy whereas phase aware framing avoided this harm. These findings motivate a shift from content centric to epistemology centric correction when truth misleads the problem is often a mismatch between audience orientation and the reference frame of the intervention.
• Abstract（参考訳）: 真実は虚偽であるだけでなく、異なる認識フレームを持つ聴衆に間違ったチャンネルや権威を通じてそれを届けることによって、それを減らさずに誤った信条を固くすることができるため、誤解を招くことがある。 従来の事実チェックでは、信頼性のある機関の情報源からの修正が聴衆の間で構成的に受けられるという共有の認識論が想定されている。 エビデンスでは、有効性が低下し、ソースの位置と受信者の認識方向の間の距離が大きくなるにつれて、バックファイアに逆転する可能性があることを示唆している。 本稿では, 機関信頼科学認識学の陰謀や反エリート開放性, 経験的, 代替的認識学に対する事前介入評価から, 疫学の方向性を運用するPACDについて紹介する。 45名の被験者を対象に, 被験者を3つのてんかんクラスターに分類し, 3つのクレーム5Gの健康影響と大気質およびmRNAワクチンのメカニズムを評価する前に, 従来の事実チェックフェーズを意識したコヒーレンス分析や制御にランダムに割り当てた。 伝統的な事実チェックは、信念を平均的に真実へとシフトさせたが、かなりのバックファイアを発生させ、より懐疑的な参加者の間で効果を著しく低下させた。 相認識コヒーレンス分析では, 全体の平均変化はほとんど得られなかったが, てんかんクラスター全体では安定であり, バックファイアは著しく減少した。 身元隣接する主張では、従来の事実チェックは信頼性を高めながら精度を低下させ、位相認識フレーミングはこの害を回避した。 これらの知見は、事実が事実を誤解させるときにコンテンツ中心から認識論中心の修正への転換を動機付けており、しばしば観客の意図と介入の基準フレームとのミスマッチである。

関連論文リスト

• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Faithful or Just Plausible? Evaluating the Faithfulness of Closed-Source LLMs in Medical Reasoning [0.0]
  我々は,広く使用されている3つの大規模言語モデルの中で,医学的推論における忠実度を体系的に評価する。 CoT推論のステップは、しばしば予測を因果的に駆動せず、モデルは、認識せずに容易に外部ヒントを組み込む。
  論文  参考訳（メタデータ） (2026-03-14T15:30:53Z)
• Effect-Level Validation for Causal Discovery [1.8192444294441061]
  大規模テレメトリデータに因果発見を適用して,ユーザの介入効果を推定する。 しかし,フィードバック駆動型システムにおける意思決定の信頼性は高い。 本稿では,発見されたグラフを構造仮説として扱う,効果中心のアクセシビリティ優先フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-09T07:26:55Z)
• Illusions of Confidence? Diagnosing LLM Truthfulness via Neighborhood Consistency [78.91846841708586]
  完全な自己整合性で答えられた事実でさえ、軽微な文脈干渉の下で急速に崩壊することを示します。 本研究では,概念的近傍における応答コヒーレンスを評価する信念の構造尺度であるNighbor-Consistency Belief(NCB)を提案する。 また、文脈不変の信念構造を最適化し、長い知識の脆さを約30%低減する構造意識訓練(SAT)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T16:23:21Z)
• The Facade of Truth: Uncovering and Mitigating LLM Susceptibility to Deceptive Evidence [49.94160400740222]
  MisBeliefは、協調的な多ラウンドの相互作用によって誤解を招く証拠を生成するフレームワークである。 MisBeliefを用いて、3つの難易度で4,800のインスタンスを生成し、7つの代表的なLCMを評価する。 結果は、モデルは直接的な誤報に対して堅牢であるが、この洗練された証拠に非常に敏感であることを示している。 本稿では,疑似意図を証拠裏で推測することにより早期警告信号を提供するガバナンス機構である,認知的意図遮蔽(DIS)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T02:28:00Z)
• Plausibility as Failure: How LLMs and Humans Co-Construct Epistemic Error [0.0]
  この研究は、異なる形のてんかんが出現し、マスクされ、人間のAI相互作用に許容されるかを調べる。 評価者はしばしば、正確性、妥当性、バイアス、基底性、一貫性などの基準を混同し、人間の判断が分析的区別を形と流布によって形づくられた直観に分解することを示す。 この研究は、LLMアセスメント、デジタルリテラシー、そして信頼できる人間AIコミュニケーションの設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2025-12-18T16:45:29Z)
• On the Variational Costs of Changing Our Minds [1.2617078020344616]
  本稿では,実践的・認知的コストが信念の更新メカニズムに与える影響をモデル化するフォーマルな枠組みを提案する。 このような「ビアーゼ」は本質的に認知上の欠陥ではなく、自分の信念を改定することに伴う実践的・認知的コストに対する適応的な反応である、と我々は主張する。
  論文  参考訳（メタデータ） (2025-09-22T16:13:06Z)
• Uncertainty, bias and the institution bootstrapping problem [0.0]
  エージェントが既に存在するという誤った信念が、このパラドックスを解決できると提案する。 これらの要因がブートストラップ問題をどのように緩和するかを示す。 我々の分析は、理想化された合理性だけでなく、人間のような認知的制約を制度的出現とレジリエンスのモデルに組み込むことの重要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-04-30T12:36:06Z)
• Context-Aware Reasoning On Parametric Knowledge for Inferring Causal Variables [49.31233968546582]
  本稿では,部分因果グラフの完成を目的とした新しいベンチマークを提案する。 原因と効果の間のバックドア変数を仮説化するLLMの強い能力を示す。 固定された関連性の単純な記憶とは異なり、我々のタスクはグラフ全体のコンテキストに応じてLCMを推論する必要がある。
  論文  参考訳（メタデータ） (2024-09-04T10:37:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。