論文の概要: The role of System 1 and System 2 semantic memory structure in human and LLM biases

• arxiv url: http://arxiv.org/abs/2604.12816v1
• Date: Tue, 14 Apr 2026 14:43:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-15 19:11:32.50785
• Title: The role of System 1 and System 2 semantic memory structure in human and LLM biases
• Title（参考訳）: ヒトおよびLDMバイアスにおける System 1 と System 2 のセマンティックメモリ構造の役割
• Authors: Katherine Abramski, Giulio Rossetti, Massimo Stella,
• Abstract要約: 人間と大言語モデル(LLM)の両方における帰属バイアスは、社会的な重大なリスクを生じさせる。 システム1とシステム2を、異なる構造を持つセマンティックメモリネットワークとしてモデル化する。 意味記憶構造は人間にのみ既知であり,LLMには人間のような概念的知識が欠如していることが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Implicit biases in both humans and large language models (LLMs) pose significant societal risks. Dual process theories propose that biases arise primarily from associative System 1 thinking, while deliberative System 2 thinking mitigates bias, but the cognitive mechanisms that give rise to this phenomenon remain poorly understood. To better understand what underlies this duality in humans, and possibly in LLMs, we model System 1 and System 2 thinking as semantic memory networks with distinct structures, built from comparable datasets generated by both humans and LLMs. We then investigate how these distinct semantic memory structures relate to implicit gender bias using network-based evaluation metrics. We find that semantic memory structures are irreducible only in humans, suggesting that LLMs lack certain types of human-like conceptual knowledge. Moreover, semantic memory structure relates consistently to implicit bias only in humans, with lower levels of bias in System~2 structures. These findings suggest that certain types of conceptual knowledge contribute to bias regulation in humans, but not in LLMs, highlighting fundamental differences between human and machine cognition.
• Abstract（参考訳）: 人間と大言語モデル(LLM)の両方における帰属バイアスは、社会的な重大なリスクを生じさせる。 二重過程理論は、バイアスは主に連想的システム1の思考から発生し、熟考的システム2の思考はバイアスを緩和するが、この現象を引き起こす認知メカニズムはいまだに理解されていないことを示唆している。 人間とLLMの両方によって生成された同等のデータセットから構築された、異なる構造を持つセマンティックメモリネットワークとして、システム1とシステム2をモデル化する。 次に、これらの異なるセマンティックメモリ構造が、ネットワークベースの評価指標を用いて、暗黙の性差とどのように関連しているかを検討する。 意味記憶構造は人間にのみ既知であり,LLMには人間のような概念的知識が欠如していることが示唆された。 さらに、セマンティックメモリ構造は、システム~2構造において低いレベルのバイアスを持つ人間のみにおいて、暗黙のバイアスと一貫して関連している。 これらの知見は、ある概念的知識が人間のバイアス制御に寄与するが、LLMではそうではないことを示唆し、人間と機械の認知の根本的な違いを強調している。

関連論文リスト

• From Tokens to Thoughts: How LLMs and Humans Trade Compression for Meaning [63.25540801694765]
  大きな言語モデル (LLMs) は言語能力を示すが、同じバランスをとれるかどうかは不明だ。 本稿では,LLMと人間を定量的に比較するために,Information Bottleneckの原理を適用した。
  論文  参考訳（メタデータ） (2025-05-21T16:29:00Z)
• Revealing emergent human-like conceptual representations from language prediction [90.73285317321312]
  大規模言語モデル(LLMs)は、人間らしい振る舞いを示すテキストの次のトーケン予測によってのみ訓練される。 これらのモデルでは、概念は人間のものと似ていますか? LLMは、他の概念に関する文脈的手がかりに関連して、言語記述から柔軟に概念を導出できることがわかった。
  論文  参考訳（メタデータ） (2025-01-21T23:54:17Z)
• Prompting Techniques for Reducing Social Bias in LLMs through System 1 and System 2 Cognitive Processes [14.001286689210119]
  我々は, LLMにおけるバイアス, CoTプロンプト, 直接デバイアス, 二重プロセス理論モデリングの関係について検討する。 人間のペルソナ、嫌悪感、システム2、CoTは、LLMの社会的偏見を減らしがちである。
  論文  参考訳（メタデータ） (2024-04-26T07:46:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。