論文の概要: The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows

• arxiv url: http://arxiv.org/abs/2604.14807v1
• Date: Thu, 16 Apr 2026 09:30:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:31.822883
• Title: The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows
• Title（参考訳）: LLMの誤り:AIによる認知ワークフローにおけるミストリビューション
• Authors: Hyunwoo Kim, Harin Yu, Hanau Yi,
• Abstract要約: 大規模言語モデル(LLM)は、人間と機械のコントリビューションの境界を曖昧にし、ユーザーはそれらを生成するプロセスではなく、出力からコンピテンスを推測する。 本稿では,その基盤となるメカニズムの概念的枠組みと,計算,言語,分析,創造的な領域にまたがる表現の類型化を提案する。
• 参考スコア（独自算出の注目度）: 3.354543153949287
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The rapid integration of large language models (LLMs) into everyday workflows has transformed how individuals perform cognitive tasks such as writing, programming, analysis, and multilingual communication. While prior research has focused on model reliability, hallucination, and user trust calibration, less attention has been given to how LLM usage reshapes users' perceptions of their own capabilities. This paper introduces the LLM fallacy, a cognitive attribution error in which individuals misinterpret LLM-assisted outputs as evidence of their own independent competence, producing a systematic divergence between perceived and actual capability. We argue that the opacity, fluency, and low-friction interaction patterns of LLMs obscure the boundary between human and machine contribution, leading users to infer competence from outputs rather than from the processes that generate them. We situate the LLM fallacy within existing literature on automation bias, cognitive offloading, and human--AI collaboration, while distinguishing it as a form of attributional distortion specific to AI-mediated workflows. We propose a conceptual framework of its underlying mechanisms and a typology of manifestations across computational, linguistic, analytical, and creative domains. Finally, we examine implications for education, hiring, and AI literacy, and outline directions for empirical validation. We also provide a transparent account of human--AI collaborative methodology. This work establishes a foundation for understanding how generative AI systems not only augment cognitive performance but also reshape self-perception and perceived expertise.
• Abstract（参考訳）: 大規模言語モデル(LLM)を日常のワークフローに迅速に統合することで、個人が文章、プログラミング、分析、多言語コミュニケーションといった認知的なタスクを実行する方法が変わりました。 これまでの研究では、モデルの信頼性、幻覚、およびユーザ信頼のキャリブレーションに焦点が当てられていたが、LCMの使用がユーザ自身の能力に対する認識をいかに再認識するかについては、あまり注目されていない。 本稿では,LLM支援出力を自己の独立能力の証明として誤解釈し,認識能力と実際の能力の体系的差異を生じさせる認知的帰属誤りについて紹介する。 我々は、LLMの透明度、流速、低摩擦相互作用パターンが人間と機械のコントリビューションの境界を曖昧にしており、ユーザーはそれらを生成するプロセスからではなく、出力からコンピテンスを推測できると主張している。 我々は、自動化バイアス、認知的オフロード、人間とAIのコラボレーションに関する既存の文献におけるLLMの誤りを、AIを介するワークフローに特有の帰属的歪みの形式として区別する。 本稿では,その基盤となるメカニズムの概念的枠組みと,計算,言語,分析,創造的な領域にまたがる表現の類型化を提案する。 最後に、教育、雇用、AIリテラシーの意義について検討し、実証検証の方向性を概説する。 また、人間-AI協調方法論の透明な説明も提供します。 この研究は、ジェネレーティブAIシステムが認知能力を高めるだけでなく、自己認識と認識された専門知識を再形成する方法について理解するための基盤を確立する。

関連論文リスト

• Individualized Cognitive Simulation in Large Language Models: Evaluating Different Cognitive Representation Methods [36.28947625215469]
  大型言語モデル(LLM)はロールプレイのような表面レベルの人間の振る舞いを確実に模倣する。 しかし、より深い個別化された認知過程をシミュレートする能力は、いまだに理解されていない。 我々は,言語的特徴,概念マッピング,プロファイルに基づく情報など,異なる認知表現を評価する。
  論文  参考訳（メタデータ） (2025-10-23T06:18:15Z)
• Fundamentals of Building Autonomous LLM Agents [64.39018305018904]
  本稿では,大規模言語モデル(LLM)を用いたエージェントのアーキテクチャと実装手法について概説する。 この研究は、複雑なタスクを自動化し、人間の能力でパフォーマンスのギャップを埋めることのできる「アジェンティック」なLLMを開発するためのパターンを探求することを目的としている。
  論文  参考訳（メタデータ） (2025-10-10T10:32:39Z)
• Cognitive LLMs: Towards Integrating Cognitive Architectures and Large Language Models for Manufacturing Decision-making [51.737762570776006]
  LLM-ACTRは、ヒトに適応し、多目的な意思決定を提供する新しいニューロシンボリックアーキテクチャである。 我々のフレームワークは、ACT-Rの内部決定過程の知識を潜在神経表現として抽出し、組み込む。 デザイン・フォー・マニュファクチャリング・タスクに関する我々の実験は、タスク性能の向上と基礎的意思決定能力の向上を両立させたものである。
  論文  参考訳（メタデータ） (2024-08-17T11:49:53Z)
• LLMs Could Autonomously Learn Without External Supervision [36.36147944680502]
  大規模言語モデル(LLM)は、伝統的に人間の注釈付きデータセットと事前定義されたトレーニング目標に結び付けられてきた。 本稿では,LLMのための自律学習手法を提案する。 本手法は, LLMに対して, 文章と直接対話して自己学習を行う能力を与える。
  論文  参考訳（メタデータ） (2024-06-02T03:36:37Z)
• Understanding Large Language Model Behaviors through Interactive Counterfactual Generation and Analysis [22.755345889167934]
  本稿では,大規模言語モデル (LLM) の対実解析による探索を可能にする対話型可視化システムを提案する。 本システムは,意味論的に意味のある反事実を生成する新しいアルゴリズムを特徴とする。 LLM実践者とのユーザスタディと専門家とのインタビューは、システムのユーザビリティと有効性を示している。
  論文  参考訳（メタデータ） (2024-04-23T19:57:03Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)
• Human-AI Collaborative Essay Scoring: A Dual-Process Framework with LLMs [13.262711792955377]
  本研究では,Large Language Models (LLMs) のエッセイ自動評価における有効性について検討した。 本稿では,デュアルプロセス理論にインスパイアされたオープンソースのLLMベースのAESシステムを提案する。 本システムでは, 学習過程の自動化だけでなく, 成績や効率の向上も図っている。
  論文  参考訳（メタデータ） (2024-01-12T07:50:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。