論文の概要: GPT-ology, Computational Models, Silicon Sampling: How should we think about LLMs in Cognitive Science?

• arxiv url: http://arxiv.org/abs/2406.09464v1
• Date: Thu, 13 Jun 2024 04:19:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-17 17:44:16.385663
• Title: GPT-ology, Computational Models, Silicon Sampling: How should we think about LLMs in Cognitive Science?
• Title（参考訳）: GPT-ology, Computational Models, Silicon Smpling: 認知科学におけるLLMについてどう考えるべきか?
• Authors: Desmond C. Ong,
• Abstract要約: GPT-ology, LLMs-as-computational-models, Silicon sample など,いくつかの新しい研究パラダイムについてレビューする。 我々は、科学を前進させるために対処しなければならないLCMに関するいくつかの際立った問題を強調します。
• 参考スコア（独自算出の注目度）: 4.242435932138821
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models have taken the cognitive science world by storm. It is perhaps timely now to take stock of the various research paradigms that have been used to make scientific inferences about ``cognition" in these models or about human cognition. We review several emerging research paradigms -- GPT-ology, LLMs-as-computational-models, and ``silicon sampling" -- and review recent papers that have used LLMs under these paradigms. In doing so, we discuss their claims as well as challenges to scientific inference under these various paradigms. We highlight several outstanding issues about LLMs that have to be addressed to push our science forward: closed-source vs open-sourced models; (the lack of visibility of) training data; and reproducibility in LLM research, including forming conventions on new task ``hyperparameters" like instructions and prompts.
• Abstract（参考訳）: 大規模言語モデルは認知科学の世界を嵐によって奪った。 これらのモデルにおける「認知」や「人間の認知」に関する科学的推論に使われた様々な研究パラダイムの在庫を取るのは、おそらく時期尚早である。我々は、GPT-ology、LLMs-as-computational-models、"silicon samples"など、いくつかの新しい研究パラダイムをレビューし、これらのパラダイムの下でLLMを使用した最近の論文をレビューする。 このような中で、これらの様々なパラダイムの下で、これらの主張と科学的推論への挑戦について議論する。 クローズドソースとオープンソースモデル、(可視性の欠如)トレーニングデータ、そしてLLM研究における再現性、そして命令やプロンプトのような新しいタスク‘ハイパーパラメータ’に関する規約の策定などです。

関連論文リスト

• 'Simulacrum of Stories': Examining Large Language Models as Qualitative Research Participants [13.693069737188859]
  生産モデルに関する最近の興奮は、研究開発における人間の参加と労働の置き換えを示唆する提案の波を引き起こしている。 我々は,このパラダイムシフトの視点を理解するために,19人の定性的な研究者にインタビューを行った。
  論文  参考訳（メタデータ） (2024-09-28T18:28:47Z)
• Towards Efficient Large Language Models for Scientific Text: A Review [4.376712802685017]
  大規模言語モデル(LLM)は、科学を含む様々な分野において複雑な情報を処理するための新しい時代を迎えている。 LLMのパワーのため、非常に高価な計算資源、大量のデータ、訓練時間が必要である。 近年、研究者は科学的LLMをより手頃な価格にするための様々な手法を提案している。
  論文  参考訳（メタデータ） (2024-08-20T10:57:34Z)
• Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities [89.40778301238642]
  モデルマージは、機械学習コミュニティにおける効率的なエンパワーメント技術である。 これらの手法の体系的かつ徹底的なレビューに関する文献には大きなギャップがある。
  論文  参考訳（メタデータ） (2024-08-14T16:58:48Z)
• Retrieval-Enhanced Machine Learning: Synthesis and Opportunities [60.34182805429511]
  検索エンハンスメントは機械学習(ML)の幅広い範囲に拡張できる この研究は、MLの様々な領域の文献を、現在の文献から欠落している一貫した表記で合成することで、このパラダイムの正式なフレームワークであるRetrieval-Enhanced Machine Learning (REML)を導入する。 本研究の目的は、様々な分野の研究者に対して、検索強化モデルの包括的、正式に構造化された枠組みを付与し、学際的な将来の研究を促進することである。
  論文  参考訳（メタデータ） (2024-07-17T20:01:21Z)
• A Comprehensive Survey of Scientific Large Language Models and Their Applications in Scientific Discovery [68.48094108571432]
  大規模言語モデル(LLM)は、テキストやその他のデータ処理方法に革命をもたらした。 我々は,科学LLM間のクロスフィールドおよびクロスモーダル接続を明らかにすることで,研究ランドスケープのより総合的なビューを提供することを目指している。
  論文  参考訳（メタデータ） (2024-06-16T08:03:24Z)
• Characterizing Truthfulness in Large Language Model Generations with Local Intrinsic Dimension [63.330262740414646]
  大規模言語モデル(LLM)から生成されたテキストの真偽を特徴付ける方法と予測法について検討する。 モデルアクティベーションの局所固有次元 (LID) を用いて, 内部アクティベーションを調査し, LLMの真偽を定量化する。
  論文  参考訳（メタデータ） (2024-02-28T04:56:21Z)
• Small Models, Big Insights: Leveraging Slim Proxy Models To Decide When and What to Retrieve for LLMs [60.40396361115776]
  本稿では,スリムプロキシモデルを用いた大規模言語モデル (LLM) における知識不足を検知する新しい協調手法であるSlimPLMを提案する。 パラメータがはるかに少ないプロキシモデルを採用し、回答を回答としています。 ヒューリスティックな回答は、LLM内の既知の未知の知識と同様に、ユーザの質問に答えるために必要な知識を予測するのに使用される。
  論文  参考訳（メタデータ） (2024-02-19T11:11:08Z)
• From Prompt Engineering to Prompt Science With Human in the Loop [12.230632679443364]
  本稿では、それに対応する定性的な方法を通じて、コードブック構築にインスパイアされた新しい方法論を提案する。 研究者の集合が、厳密なラベル付け、検討、文書化のプロセスを通じて、主観性を排除し、生成プロセスに透明性と複製性をもたらす方法を示します。
  論文  参考訳（メタデータ） (2024-01-01T01:37:36Z)
• The Quo Vadis of the Relationship between Language and Large Language Models [3.10770247120758]
  LLM(Large Language Models)は、LLMを言語科学モデルとして採用することを奨励している。 透明性に欠ける科学的モデルの導入によって引き起こされる最も重要な理論的および経験的リスクを特定します。 現在の開発段階において、LLMは言語に関する説明をほとんど提供していないと結論付けている。
  論文  参考訳（メタデータ） (2023-10-17T10:54:24Z)
• A Comprehensive Overview of Large Language Models [68.22178313875618]
  大規模言語モデル(LLM)は、最近自然言語処理タスクにおいて顕著な機能を示した。 本稿では, LLM関連概念の幅広い範囲について, 既存の文献について概説する。
  論文  参考訳（メタデータ） (2023-07-12T20:01:52Z)
• A Bibliometric Review of Large Language Models Research from 2017 to 2023 [1.4190701053683017]
  LLM(Large Language Model)は、自然言語処理(NLP)タスクにおいて優れた性能を示す言語モデルである。 本稿は,LLM研究の現在の姿を知るための研究者,実践者,政策立案者のロードマップとして機能する。
  論文  参考訳（メタデータ） (2023-04-03T21:46:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。