論文の概要: Six misconceptions about large language models: A minimal model and diagnostic taxonomy

• arxiv url: http://arxiv.org/abs/2608.20421v1
• Date: Wed, 19 Aug 2026 04:59:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.028747
• Title: Six misconceptions about large language models: A minimal model and diagnostic taxonomy
• Title（参考訳）: 大規模言語モデルに関する6つの誤解:最小限のモデルと診断分類
• Abstract要約: 大規模言語モデル(LLM)は現在、科学、教育、ガバナンスシステムに組み込まれている。 このパースペクティブは、LLMベースのシステムの4つの区別を中心とした最小限の作業モデルを提案する。 このモデルは、LSMに関する6つの誤解を診断するために使用される。
• 参考スコア（独自算出の注目度）: 0.16921396880325779
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are now embedded in scientific, educational, and governance workflows, with debates centering on their capabilities, mechanisms, and impacts. Yet these debates remain structured by persistent folk theories--intuitive, informal explanatory models that guide attitudes and actions. Deflationary slogans ("just autocomplete," "stochastic parrots," and "average of the internet") and anthropomorphic framings ("emergent agents" and "proto-minds") each capture genuine features of current systems but mistake those features for the whole. This Perspective proposes a minimal working model of LLM-based systems centered on four distinctions: between pretraining and deployed systems; between the learned distribution and particular samples; among parametric, contextual, and external memory; and between task competence and agency. The model is used to diagnose six misconceptions about LLMs: next-token prediction, regression to the mean, training-data regurgitation, model memory, alignment, and understanding. For each, the analysis identifies what the misconception gets right, which distinctions it conflates, and what follows for capability evaluation, system design, and governance. Applied to publisher AI policies as governance case studies, the framework shows both how policy language can conflate these distinctions and how such errors can be corrected. The model thereby avoids the parrot-mind binary by treating LLMs as simulators of discourse and task performance, offering a diagnostic toolkit for locating and correcting the errors these folk theories perpetuate.
• Abstract（参考訳）: 大規模言語モデル(LLM)は現在、科学的、教育的、およびガバナンスのワークフローに埋め込まれており、その能力、メカニズム、影響を中心に議論されている。 しかし、これらの議論は、態度や行動を導く直観的で非公式な説明的モデルという、永続的な民間理論によって構成されている。 Deflationary slogan(単なるオートコンプリート)、"Stochastic parrots"、"Average of the Internet"、"emergent agent"、"proto-minds"など)は、それぞれ現在のシステムの真の特徴を捉えているが、それらの特徴を全体として間違えている。 このパースペクティブは、事前学習とデプロイシステム、学習された分布と特定のサンプル、パラメトリック、コンテキスト、外部記憶、タスク能力とエージェンシーの4つの区別に焦点を当てたLLMベースのシステムの最小限の動作モデルを提案する。 モデルは、次のトーケン予測、平均への回帰、トレーニングデータ再生、モデル記憶、アライメント、理解の6つの誤解を診断するために使用される。 それぞれの分析では、誤解が正しいもの、混乱しているもの、そして能力評価、システム設計、ガバナンスの次に続くものを特定します。 ガバナンスケーススタディとしてパブリッシャAIポリシに適用されたこのフレームワークは、ポリシー言語がこれらの区別をどのように説明し、そのようなエラーをどのように修正するかを示す。 このモデルは、LLMを談話とタスクパフォーマンスのシミュレータとして扱い、これらの民間理論が永続する誤りの特定と修正のための診断ツールキットを提供する。

関連論文リスト

• From Ground Truth to Measurement: A Statistical Framework for Human Labeling [6.5507170110120185]
  監視された機械学習は、ラベル付きデータが、モデルが学習することを意図した概念の正確な測定を提供すると仮定する。 しかし、実際には、人間のラベル付けは曖昧な項目、異質な解釈、単純な誤りから生じる体系的なバリエーションを導入している。 本稿では、アノテーションを計測プロセスとして再編成し、ラベル付け結果を解釈可能な変化源に分解する統計的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-04-08T20:49:03Z)
• Plausibility as Failure: How LLMs and Humans Co-Construct Epistemic Error [0.0]
  この研究は、異なる形のてんかんが出現し、マスクされ、人間のAI相互作用に許容されるかを調べる。 評価者はしばしば、正確性、妥当性、バイアス、基底性、一貫性などの基準を混同し、人間の判断が分析的区別を形と流布によって形づくられた直観に分解することを示す。 この研究は、LLMアセスメント、デジタルリテラシー、そして信頼できる人間AIコミュニケーションの設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2025-12-18T16:45:29Z)
• The Pragmatic Mind of Machines: Tracing the Emergence of Pragmatic Competence in Large Language Models [6.187227278086245]
  大規模言語モデル(LLM)は、不規則な解決や推論の理論を含む社会的知性に新たな能力を示す。 本研究では,異なる学習段階におけるLLMが話者意図を正確に推測できるかどうかを評価する。 プレトレーニング後, 教師付き微調整(SFT), 選好最適化の3段階にわたる22個のLDMを系統的に評価した。
  論文  参考訳（メタデータ） (2025-05-24T04:24:59Z)
• Error Classification of Large Language Models on Math Word Problems: A Dynamically Adaptive Framework [79.40678802098026]
  数学の単語問題は、大規模言語モデルの推論能力を評価するための重要なベンチマークとなる。 現在のエラー分類法は静的および事前定義されたカテゴリに依存している。 本稿では,共通なエラーパターンを明示的なガイダンスとして組み込んだEAP(Error-Aware Prompting)を提案する。
  論文  参考訳（メタデータ） (2025-01-26T16:17:57Z)
• Large Language Models as Neurolinguistic Subjects: Discrepancy between Performance and Competence [49.60849499134362]
  本研究では,大言語モデル(LLM)の記号化(形式)および記号化(意味)に関する言語的理解について検討する。 ミニマルペアと診断プローブを組み合わせてモデル層間のアクティベーションパターンを解析する新しい手法を用いて,ニューロ言語学的アプローチを提案する。 その結果,(1)心理言語学的・神経言語学的手法では,言語能力と能力が異なっていること,(2)直接確率測定では言語能力が正確に評価されないこと,(3)指導のチューニングでは能力が大きく変化しないが,性能は向上しないことがわかった。
  論文  参考訳（メタデータ） (2024-11-12T04:16:44Z)
• Scaffolded Language Models with Language Supervision for Mixed-Autonomy: A Survey [52.00674453604779]
  本調査は,戦後のLM周辺における新規構造物の設計と最適化に関する文献を整理した。 本稿では,この階層構造を足場型LMと呼び,ツールを用いた多段階プロセスに統合されたLMに焦点を当てる。
  論文  参考訳（メタデータ） (2024-10-21T18:06:25Z)
• What could go wrong? Discovering and describing failure modes in computer vision [27.6114923305978]
  言語に基づく誤り説明可能性(LBEE)の問題を定式化する。 我々は,共同視覚・言語埋め込み空間で機能するソリューションを提案する。 提案手法は,特定の誤りの原因に関連する非自明な文を分離する。
  論文  参考訳（メタデータ） (2024-08-08T14:01:12Z)
• MR-GSM8K: A Meta-Reasoning Benchmark for Large Language Model Evaluation [60.65820977963331]
  大規模言語モデル(LLM)のための新しい評価パラダイムを導入する。 このパラダイムは、しばしば推論プロセスを無視する結果指向の評価から、より包括的な評価へと重点を移す。 GSM8Kデータセットにこのパラダイムを適用し,MR-GSM8Kベンチマークを開発した。
  論文  参考訳（メタデータ） (2023-12-28T15:49:43Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Improving Language Models Meaning Understanding and Consistency by Learning Conceptual Roles from Dictionary [65.268245109828]
  現代事前訓練言語モデル(PLM)の非人間的行動は、その信頼性を損なう主要な原因である。 驚くべき現象は、矛盾した結果を生み出す不整合予測の生成である。 本研究では,PLMの認知度を向上させることで,一貫性のない行動問題を緩和する実践的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-24T06:15:15Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。