論文の概要: Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment
- arxiv url: http://arxiv.org/abs/2608.17105v1
- Date: Mon, 17 Aug 2026 20:33:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.125949
- Title: Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment
- Title（参考訳）: 言語モデルによる神経発達障害評価におけるヒトリダミストバイアスと決定の不整合の再現
- Abstract要約: 大規模言語モデル(LLM)は、複雑なメンタルヘルス決定をますます支持している。
以上の結果から,患者の機能レベル評価は,サポート適性判断に大きく関連しないことが明らかとなった。
我々は、AIを高い文脈で評価するには、正確さ、合意、あるいは認知バイアスに対する抵抗を測定するだけでなく、必要であると主張している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly supporting complex mental-health decisions, which depend not only on factual evidence but also value-laden interpretations. We introduce a mixed-methods human-LLM auditing framework examining decision consistency, susceptibility to cognitive heuristics, declarative intellectual humility, and the concepts operationalized in support-allocation judgments of neurodevelopmental disorders. Comparing 35 humans (18 physicians and 17 psychologists) with seven LLMs, we show that in both groups, ratings of patients' functional level were not significantly associated with support-eligibility decisions, indicating an inconsistency between descriptive assessments and final evaluative judgments. Specifically, we find that neither group showed significant susceptibility to experimental manipulations targeting anchoring and representativeness heuristics. LLMs reported higher intellectual humility than experts (U = 241, p < .001, r = .62; LLMs: M = 41.43, SD = 1.99; experts: M = 29.03, SD = 8.05), but it was unrelated to decision consistency or functional assessment. While LLMs and physicians granted support less frequently than psychologists (U = 180.50, p = .003, r = .34), they also interpreted a concept of "basic life needs" differently, primarily as biological survival and self-care, and not communicative and social needs. These findings suggest that despite expressing high levels of intellectual humility, LLMs reproduce a reductionist interpretive framework and knowledge embedded in medical decision-making. More broadly, we argue that evaluating AI in high-stakes contexts requires not only measuring accuracy, agreement, or resistance to cognitive bias, but also critical examination of the concepts of neurodiversity that AI systems operationalize.
- Abstract（参考訳）: 大規模言語モデル(LLMs)は、事実の証拠だけでなく、価値に満ちた解釈にも依存する、複雑なメンタルヘルスの決定をますます支持している。
本稿では, 意思決定の整合性, 認知的ヒューリスティックスへの感受性, 宣言的知的謙虚性, および神経発達障害に対する支援-配置判断に係わる概念について検討する。
被験者35名(医師18名,心理学者17名)とLLM7名と比較したところ, いずれの群においても, 機能レベルの評価は, 認知的評価と最終評価の整合性に有意な相関は認められなかった。
特に,両群とも,アンカーと代表性ヒューリスティックを標的とした実験的手術に対する感受性は高くなかった。
LLMは専門家よりも知的謙虚さが高い(U = 241, p < .001, r = .62; LLMs: M = 41.43, SD = 1.99; 専門家: M = 29.03, SD = 8.05)が、決定整合性や機能評価とは無関係である。
LLMや医師は心理学者(U = 180.50, p = .003, r = .34)よりも支援をあまり受けなかったが、彼らはまた「基礎的な生命のニーズ」という概念を、主に生物学的生存とセルフケアであり、コミュニケーションや社会的ニーズではないと解釈した。
以上の結果から,LLMは高レベルの知的謙虚さを示すにもかかわらず,医学的意思決定に埋め込まれたリダミスト解釈の枠組みと知識を再現することが示唆された。
より広範に、AIの評価は、認知バイアスに対する正確性、合意性、抵抗性を測定するだけでなく、AIシステムが運用する神経多様性の概念を批判的に検証する必要がある、と論じる。
関連論文リスト
- Characterizing Rhetorical Misalignment in Decision-Making with Language Models [22.79503625028684]
大規模言語モデル (LLMs) は、ハイテイクな人間とAIの意思決定にますます統合されている。
本研究では,LLMが与えられた意思決定コンテキストに対して,修辞的に不適切な表現形式を使用するような失敗モードである修辞的不適応について検討する。
LLMは、異なるモデルにまたがる有害な決定のフリップの平均2.81%の率を誘導する。
論文 参考訳（メタデータ） (2026-07-24T02:36:00Z) - Predicting Neuromodulation Outcome for Parkinson's Disease with Generative Virtual Brain Model [95.41752463487008]
パーキンソン病は世界中で1千万人以上に影響している。
個人間変異は経験的治療の選択を制限し、非無視的な外科的リスクとコストを増大させる。
我々は、このギャップをトレーニング済みのファインタニングフレームワークで埋めて、静止状態fMRIから直接結果を予測する。
論文 参考訳（メタデータ） (2026-03-31T02:36:10Z) - Plausibility as Failure: How LLMs and Humans Co-Construct Epistemic Error [0.0]
この研究は、異なる形のてんかんが出現し、マスクされ、人間のAI相互作用に許容されるかを調べる。
評価者はしばしば、正確性、妥当性、バイアス、基底性、一貫性などの基準を混同し、人間の判断が分析的区別を形と流布によって形づくられた直観に分解することを示す。
この研究は、LLMアセスメント、デジタルリテラシー、そして信頼できる人間AIコミュニケーションの設計に影響を及ぼす。
論文 参考訳（メタデータ） (2025-12-18T16:45:29Z) - Can AI Understand What We Cannot Say? Measuring Multilevel Alignment Through Abortion Stigma Across Cognitive, Interpersonal, and Structural Levels [0.0]
本研究では,大きな言語モデルが,その機能する認知的,対人的,構造的レベルにわたって,中絶のスティグマをコヒーレントに表現しているかどうかを検討する。
多段階分析では、認知レベル(自己判断)、対人レベル(判断と孤立に関する懸念)、構造レベル(コミュニティの非難と開示のパターン)において、モデルが協調的にスティグマを表現するかどうかを検討した。
これらのパターンは、現在のアライメントアプローチが適切な言語を保証するが、一貫性のあるマルチレベル理解はしないことを示している。
論文 参考訳（メタデータ） (2025-12-15T09:50:00Z) - MindEval: Benchmarking Language Models on Multi-turn Mental Health Support [10.524387723320432]
MindEvalは、現実的でマルチターンのメンタルヘルスセラピー会話において、言語モデルを自動的に評価するためのフレームワークである。
シミュレーションされた患者が生成したテキストに対する現実性を定量的に検証し、自動判断と人的判断との間に強い相関関係を示す。
われわれは12の最先端のLCMを評価し、AI固有のコミュニケーションパターンに特に弱点がある平均6点中4点以下で、すべてのモデルが苦戦していることを示す。
論文 参考訳（メタデータ） (2025-11-23T15:19:29Z) - Cognitive Foundations for Reasoning and Their Manifestation in LLMs [63.12951576410617]
大規模言語モデル(LLM)は複雑な問題を解くが、単純な変種では失敗し、人間の推論と根本的に異なるメカニズムによって正しい出力を達成することを示唆している。
我々は認知科学研究を、推論不変量、メタ認知制御、推論と知識の組織化のための表現、変換操作にまたがる28の認知要素の分類学に合成する。
複雑な問題に対して66.7%の性能向上を図り、成功構造を自動的に把握するテストタイム推論ガイダンスを開発した。
論文 参考訳（メタデータ） (2025-11-20T18:59:00Z) - AutoMedEval: Harnessing Language Models for Automatic Medical Capability Evaluation [55.2739790399209]
本稿では,医療用LLMの質問応答能力を測定するために,13Bパラメータを用いたオープンソースの自動評価モデルAutoMedEvalを提案する。
AutoMedEvalの包括的な目的は、多様なモデルが生み出す応答の質を評価することであり、人間の評価への依存を著しく低減することを目的としている。
論文 参考訳（メタデータ） (2025-05-17T07:44:54Z) - Self-Adaptive Cognitive Debiasing for Large Language Models in Decision-Making [71.71796367760112]
大規模言語モデル(LLM)は意思決定アプリケーションをサポートする可能性を示している。
我々は,自己適応型認知脱バイアス(SACD)という認知脱バイアス手法を提案する。
オープンウェイトとクローズドウェイトの両方を用いた金融・医療・法的意思決定タスクにおけるSACDの評価を行った。
論文 参考訳（メタデータ） (2025-04-05T11:23:05Z) - Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。
現在のLSMは、人間に対する信頼の欠如を示す。
本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-04-03T06:22:19Z) - Quantifying the Reasoning Abilities of LLMs on Real-world Clinical Cases [48.87360916431396]
MedR-Benchは1,453例の構造化患者のベンチマークデータセットで、推論基準を付した注釈付きである。
本稿では,3つの批判的診察勧告,診断決定,治療計画を含む枠組みを提案し,患者のケアジャーニー全体をシミュレートする。
このベンチマークを用いて、DeepSeek-R1、OpenAI-o3-mini、Gemini-2.0-Flash Thinkingなど、最先端の5つのLCMを評価した。
論文 参考訳（メタデータ） (2025-03-06T18:35:39Z) - WiseMind: Recontextualizing AI with a Knowledge-Guided, Theory-Informed Multi-Agent Framework for Instrumental and Humanistic Benefits [10.8749978349074]
WiseMindは、NLPの分野間コンテキスト化フレームワークである。
うつ病、不安症、双極性障害で試験され、診断精度は84.2%に達する。
その結果、知識、プロセス、評価層にまたがる深い文脈化は、ベンチマーク駆動型NLPを臨床的に有意義な影響に変換することができることがわかった。
論文 参考訳（メタデータ） (2025-02-28T03:45:39Z) - Evaluating Large Language Models with Psychometrics [59.821829073478376]
本稿では,Large Language Models (LLMs) の心理的構造を定量化するための総合的ベンチマークを提案する。
私たちの研究は、13のデータセットで評価された5つの重要な心理的構成要素、人格、価値観、感情的知性、心の理論、自己効力性を特定します。
LLMの自己報告特性と実際のシナリオにおける応答パターンとの間に大きな相違が発見され,その挙動の複雑さが明らかになった。
論文 参考訳（メタデータ） (2024-06-25T16:09:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。