論文の概要: Do Large Language Models Show Biases in Causal Learning? Insights from Contingency Judgment

• arxiv url: http://arxiv.org/abs/2510.13985v1
• Date: Wed, 15 Oct 2025 18:09:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-17 21:15:14.570246
• Title: Do Large Language Models Show Biases in Causal Learning? Insights from Contingency Judgment
• Title（参考訳）: 大規模言語モデルは因果学習のバイアスを示すか?
• Authors: María Victoria Carro, Denise Alejandra Mester, Francisca Gauna Selasco, Giovanni Franco Gabriel Marraffini, Mario Alejandro Leiva, Gerardo I. Simari, María Vanina Martinez,
• Abstract要約: 因果学習は因果推論を行う能力を開発するための認知過程である。 このプロセスは、因果関係の錯覚のような誤りや偏見がちである。 この認知バイアスは多くの社会的問題を解決するために提案されている。
• 参考スコア（独自算出の注目度）: 0.1547863211792184
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Causal learning is the cognitive process of developing the capability of making causal inferences based on available information, often guided by normative principles. This process is prone to errors and biases, such as the illusion of causality, in which people perceive a causal relationship between two variables despite lacking supporting evidence. This cognitive bias has been proposed to underlie many societal problems, including social prejudice, stereotype formation, misinformation, and superstitious thinking. In this work, we examine whether large language models are prone to developing causal illusions when faced with a classic cognitive science paradigm: the contingency judgment task. To investigate this, we constructed a dataset of 1,000 null contingency scenarios (in which the available information is not sufficient to establish a causal relationship between variables) within medical contexts and prompted LLMs to evaluate the effectiveness of potential causes. Our findings show that all evaluated models systematically inferred unwarranted causal relationships, revealing a strong susceptibility to the illusion of causality. While there is ongoing debate about whether LLMs genuinely understand causality or merely reproduce causal language without true comprehension, our findings support the latter hypothesis and raise concerns about the use of language models in domains where accurate causal reasoning is essential for informed decision-making.
• Abstract（参考訳）: 因果学習は、しばしば規範的原理によって導かれる、利用可能な情報に基づいて因果推論を行う能力を開発するための認知過程である。 この過程は、2つの変数間の因果関係を認識できるという因果関係の錯覚のような誤りや偏見に起因している。 この認知バイアスは、社会的偏見、ステレオタイプ形成、誤情報、迷信的思考など、多くの社会的問題を未然に解決するために提案されている。 本研究では,古典的な認知科学パラダイムに直面する場合,大きな言語モデルが因果錯覚を生じやすいかを検討する。 そこで我々は,医学的文脈において1,000のヌル緊急シナリオ(変数間の因果関係を確立するのに十分な情報が得られていない)のデータセットを構築し,潜在的原因の有効性を評価するためにLSMを誘導した。 以上の結果から,すべての評価モデルが不規則な因果関係を系統的に推定し,因果関係の錯覚に対する強い感受性を示した。 LLMが真に因果性を理解しているのか、それとも単に因果的言語を真に理解していないのかについては議論が続いているが、本研究は後者の仮説を支持し、正確な因果的推論が情報意思決定に不可欠である領域における言語モデルの使用に関する懸念を提起する。

関連論文リスト

• Do Large Language Models Show Biases in Causal Learning? [3.0264418764647605]
  因果学習は、利用可能な情報に基づいて因果推論を行う能力を開発するための認知過程である。 本研究では,大言語モデル(LLM)が因果錯覚を発生させるかどうかを考察する。
  論文  参考訳（メタデータ） (2024-12-13T19:03:48Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• Context-Aware Reasoning On Parametric Knowledge for Inferring Causal Variables [49.31233968546582]
  本稿では,部分因果グラフの完成を目的とした新しいベンチマークを提案する。 原因と効果の間のバックドア変数を仮説化するLLMの強い能力を示す。 固定された関連性の単純な記憶とは異なり、我々のタスクはグラフ全体のコンテキストに応じてLCMを推論する必要がある。
  論文  参考訳（メタデータ） (2024-09-04T10:37:44Z)
• CELLO: Causal Evaluation of Large Vision-Language Models [9.928321287432365]
  因果推論は人間の知性の基本であり、現実世界の環境における効果的な意思決定に不可欠である。 我々は,人間と物体の相互作用を含む因果関係の微細で統一的な定義を導入する。 我々は,4段階の因果関係に関する14,094の因果関係質問からなる新しいデータセットであるCellOを構築した。
  論文  参考訳（メタデータ） (2024-06-27T12:34:52Z)
• Cause and Effect: Can Large Language Models Truly Understand Causality? [1.2334534968968969]
  本研究では,CARE CA(Content Aware Reasoning Enhancement with Counterfactual Analysis)フレームワークという新しいアーキテクチャを提案する。 提案するフレームワークには,ConceptNetと反ファクト文を備えた明示的な因果検出モジュールと,大規模言語モデルによる暗黙的な因果検出が組み込まれている。 ConceptNetの知識は、因果的発見、因果的識別、反事実的推論といった複数の因果的推論タスクのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T08:02:14Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [55.66353783572259]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• Causal Deep Learning [77.49632479298745]
  因果性は、現実世界の問題を解決する方法を変える可能性がある。 しかし因果関係は、実際にテストできない重要な仮定を必要とすることが多い。 我々は、因果性に関する新しい考え方を提案します。
  論文  参考訳（メタデータ） (2023-03-03T19:19:18Z)
• Towards Causal Representation Learning [96.110881654479]
  機械学習とグラフィカル因果関係の2つの分野が生まれ、別々に発展した。 現在、他分野の進歩の恩恵を受けるために、クロスポリン化と両方の分野への関心が高まっている。
  論文  参考訳（メタデータ） (2021-02-22T15:26:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。