論文の概要: Metacognition and Uncertainty Communication in Humans and Large Language Models

• arxiv url: http://arxiv.org/abs/2504.14045v1
• Date: Fri, 18 Apr 2025 19:24:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-30 05:40:26.764585
• Title: Metacognition and Uncertainty Communication in Humans and Large Language Models
• Title（参考訳）: ヒトと大言語モデルにおけるメタ認知と不確実性コミュニケーション
• Authors: Mark Steyvers, Megan A. K. Peters,
• Abstract要約: 大規模言語モデル(LLM)は、高い意思決定コンテキストに組み込まれている。 メタ認知能力を示すかどうか、どのように、どの程度の程度で評価することが重要である。 ヒトとLDMはメタ認知能力と行動にかなり整合している場合もあるが、多くの相違点が残っていることは明らかである。
• 参考スコア（独自算出の注目度）: 3.0493183668102293
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Metacognition, the capacity to monitor and evaluate one's own knowledge and performance, is foundational to human decision-making, learning, and communication. As large language models (LLMs) become increasingly embedded in high-stakes decision contexts, it is critical to assess whether, how, and to what extent they exhibit metacognitive abilities. Here, we provide an overview of current knowledge of LLMs' metacognitive capacities, how they might be studied, and how they relate to our knowledge of metacognition in humans. We show that while humans and LLMs can sometimes appear quite aligned in their metacognitive capacities and behaviors, it is clear many differences remain. Attending to these differences is crucial not only for enhancing human-AI collaboration, but also for promoting the development of more capable and trustworthy artificial systems. Finally, we discuss how endowing future LLMs with more sensitive and more calibrated metacognition may also help them develop new capacities such as more efficient learning, self-direction, and curiosity.
• Abstract（参考訳）: メタ認知は、自分自身の知識とパフォーマンスを監視し評価する能力であり、人間の意思決定、学習、コミュニケーションの基礎となる。 大規模言語モデル (LLMs) がハイテイクな意思決定コンテキストに組み込まれるようになるにつれ, メタ認知能力の程度, 方法, 程度を評価することが重要となる。 本稿では, LLMのメタ認知能力に関する現在の知見, 研究の仕方, ヒトのメタ認知に関する知識との関連について概説する。 ヒトとLDMはメタ認知能力と行動にかなり整合している場合もあるが、多くの相違点が残っていることは明らかである。 これらの違いへの取り組みは、人間とAIのコラボレーションを強化するだけでなく、より有能で信頼性の高い人工システムの開発を促進するためにも重要である。 最後に、より敏感で校正されたメタ認知で将来のLLMを育むことが、より効率的な学習、自己指向、好奇心といった新しい能力の発達にどう役立つかについて議論する。

関連論文リスト

• Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
  大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。 現在のLSMは、人間に対する信頼の欠如を示す。 本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-03T06:22:19Z)
• How Deep is Love in LLMs' Hearts? Exploring Semantic Size in Human-like Cognition [75.11808682808065]
  本研究では,大言語モデル (LLM) が意味的サイズを理解する上で類似した傾向を示すかどうかを検討する。 以上の結果から,マルチモーダルトレーニングはLLMにとって人間的な理解を深める上で不可欠であることが示唆された。 最後に,LLMが実世界のWebショッピングシナリオにおいて,より大きなセマンティックサイズを持つ注目の見出しに影響されているかを検討する。
  論文  参考訳（メタデータ） (2025-03-01T03:35:56Z)
• Refine Knowledge of Large Language Models via Adaptive Contrastive Learning [54.61213933999464]
  方法の主流は、大規模言語モデルの知識表現を最適化することで幻覚を減らすことである。 知識を精錬するモデルのプロセスは、人間の学習方法から大きな恩恵を受けることができると私たちは信じています。 人間の学習過程を模倣することで,適応的コントラスト学習戦略を設計する。
  論文  参考訳（メタデータ） (2025-02-11T02:19:13Z)
• A Survey on Human-Centric LLMs [11.49752599240738]
  大型言語モデル(LLM)は人間の認知と行動をシミュレートすることができる。 この調査は個々のタスクと集合タスクの両方のパフォーマンスに焦点を当てている。
  論文  参考訳（メタデータ） (2024-11-20T12:34:44Z)
• CogniDual Framework: Self-Training Large Language Models within a Dual-System Theoretical Framework for Improving Cognitive Tasks [39.43278448546028]
  カーネマンの二重系理論は人間の意思決定過程を解明し、素早い直感的なシステム1と合理的なシステム2を区別する。 近年の大きな言語モデル (LLMs) は、認知タスクにおける人間レベルの習熟度に近づきやすいツールとして位置づけられている。 本研究では、自己学習を通じて、意図的な推論から直感的な応答へと進化するLLM(textbfCognidual Framework for LLMs, CFLLMs)について述べる。
  論文  参考訳（メタデータ） (2024-09-05T09:33:24Z)
• Large Language Models and Cognitive Science: A Comprehensive Review of Similarities, Differences, and Challenges [14.739357670600102]
  本稿では,Large Language Models(LLM)と認知科学の交わりについて概観する。 我々は,LLMの認知能力を評価する手法を分析し,認知モデルとしての可能性について議論する。 我々はLLMの認知バイアスと限界を評価し,その性能向上手法を提案する。
  論文  参考訳（メタデータ） (2024-09-04T02:30:12Z)
• Psychomatics -- A Multidisciplinary Framework for Understanding Artificial Minds [0.319565400223685]
  本稿では,認知科学,言語学,コンピュータ科学を橋渡しする心理学を紹介する。 LLMの高レベル機能をよりよく理解することを目的としている。 心理学は、言語の性質、認知、知性に関する変革的な洞察を与える可能性を秘めている。
  論文  参考訳（メタデータ） (2024-07-23T12:53:41Z)
• Knowledge Mechanisms in Large Language Models: A Survey and Perspective [88.51320482620679]
  本稿では,知識利用と進化を含む新しい分類法から知識メカニズムの解析をレビューする。 LLMが学んだ知識、パラメトリック知識の脆弱性の理由、そして解決が難しい潜在的な暗黒知識(仮説)について論じる。
  論文  参考訳（メタデータ） (2024-07-22T06:15:59Z)
• Beyond Factuality: A Comprehensive Evaluation of Large Language Models as Knowledge Generators [78.63553017938911]
  大規模言語モデル(LLM)は、下流の知識集約タスクのための情報検索技術より優れている。 しかし、コミュニティの懸念は、この無検閲の知識を使用することの事実と潜在的意味について多岐にわたる。 本研究では,6つの重要な視点から生成した知識を評価するために設計されたCONNERを紹介する。
  論文  参考訳（メタデータ） (2023-10-11T08:22:37Z)
• Do Large Language Models Know What They Don't Know? [74.65014158544011]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクに優れた知識を持つ。 膨大な知識にもかかわらず、LLMはそれらが適合し理解できる情報の量によって制限されている。 本研究の目的は,LLMの自己理解能力を評価することである。
  論文  参考訳（メタデータ） (2023-05-29T15:30:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。