論文の概要: Induction and Inquiry via Probabilistic Reasoning over Language and Code
- arxiv url: http://arxiv.org/abs/2609.01815v1
- Date: Tue, 01 Sep 2026 19:44:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:17.966489
- Title: Induction and Inquiry via Probabilistic Reasoning over Language and Code
- Title(参考訳): 言語とコードに対する確率的推論による帰納的推論
- Abstract要約: 人間の成長と、希少でノイズの多い経験データからの抽象的な知識の維持は、認知科学における長年の課題である。
本稿では、自然言語とソースコードを結合したメンタルプログラムとして記号的知識を符号化することにより、これらの3つの特性を捉える計算モデルを提案する。
様々な行動学的研究において、このモデルは人間の帰納的学習と活発な調査の定量的なシグネチャを再現することに成功している。
- 参考スコア(独自算出の注目度): 14.649285579019358
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How humans grow and maintain abstract knowledge from the sparse, streaming noisy data of experience is a longstanding challenge in cognitive science. Any computational account must satisfy at least three desiderata: It must be (1) data-efficient and compute-efficient, (2) capture gradations of uncertainty to support intelligent inquiry and information gathering, and (3) be flexible enough to mentally represent the endless range of concepts people can learn and think about. Here we introduce a computational model that captures these three properties, by encoding symbolic knowledge as mental programs that combine natural language with source code, and sequentially inferring mental programs using LLM-guided Bayesian learning algorithms. Across a range of behavioral studies this model successfully reproduces quantitative signatures of human inductive learning and active inquiry, such as anchoring, garden-pathing, and other effects. In contrast, pure LLMs and classic Bayesian models either fail at the underlying task, or do not reproduce human behavior, or succeed only at exorbitant computational cost. These results suggest that one way humans continually grow their knowledge is by mentally representing many hypotheses spanning language-like and program-like representations, then revising those hypotheses to approximate Bayesian updates, while a bottom-up neural mechanism (an LLM) makes inference both tractable and learnable.
- Abstract(参考訳): 人間の成長と、希少でノイズの多い経験データからの抽象的な知識の維持は、認知科学における長年の課題である。
1)データ効率と計算効率、(2)知的な調査と情報収集を支援するために不確実性の段階を捉え、(3)人々が学び、考えることができる無限の概念の範囲を精神的に表現するのに十分な柔軟性を持つ。
本稿では、自然言語とソースコードを組み合わせたメンタルプログラムとして記号的知識を符号化し、LLM誘導ベイズ学習アルゴリズムを用いてメンタルプログラムを逐次推論することにより、これら3つの特性を捉える計算モデルを提案する。
様々な行動学的研究において、このモデルは人間の帰納的学習の定量的なシグネチャを再現し、アンカーリング、庭の歩き方、その他の効果など活発な調査を行う。
対照的に、純粋な LLM と古典的ベイズモデルは、基礎となるタスクで失敗するか、人間の振る舞いを再現しないか、あるいは、計算コストの極端にしか成功しない。
これらの結果は、人間の知識を継続的に成長させる1つの方法は、言語やプログラムのような表現にまたがる多くの仮説を精神的に表現し、それらの仮説をベイズ的更新に近いものに修正し、ボトムアップ神経機構(LLM)が推論を抽出可能かつ学習可能であることを示唆している。
関連論文リスト
- Can Large Language Models Simulate Human Cognition Beyond Behavioral Imitation? [45.36751031924419]
人工知能における重要な問題は、LLMが人間の認識をシミュレートするか、単に表面レベルの振る舞いを模倣するかである。
本稿では,人工知能の分野にまたがる217人の研究者の縦断的研究軌跡をベースとしたベンチマークを紹介する。
個人レベルの認知整合性を評価するために,多次元の認知アライメント指標を提案する。
論文 参考訳(メタデータ) (2026-03-29T13:44:55Z) - LLMs model how humans induce logically structured rules [18.202446211409548]
長年にわたる議論は、人工知能ニューラルネットワークの計算モデルとしての妥当性に関するものだった。
ニューラルネットワークの最近の進歩、特に大規模言語モデル(LLM)の出現は、この議論において重要な変化を示している。
我々は、LLMが人間の論理的概念を説明するのに必要な原始表現と計算の新たな理論的説明をインスタンス化するかもしれないと論じる。
論文 参考訳(メタデータ) (2025-07-05T03:24:18Z) - General Intelligence Requires Reward-based Pretraining [14.057301560895505]
大規模言語モデル(LLM)は、実世界の素晴らしいユーティリティを実証している。
しかし、適応的かつ堅牢に推論できる能力は、脆弱なままだ。
我々は3つの重要な方向から知識と推論を解き放つことを提案する。
論文 参考訳(メタデータ) (2025-02-26T18:51:12Z) - Neuron-based Personality Trait Induction in Large Language Models [115.08894603023712]
大規模言語モデル (LLM) は、様々な性格特性をシミュレートする能力が増している。
LLMにおけるパーソナリティ特性誘導のためのニューロンに基づくアプローチを提案する。
論文 参考訳(メタデータ) (2024-10-16T07:47:45Z) - Language Models Trained to do Arithmetic Predict Human Risky and Intertemporal Choice [4.029252551781513]
本稿では,認知モデルとしての大規模言語モデルの有用性を高める新しい手法を提案する。
生態学的に有効な算術的データセットに基づいて事前訓練されたLLMは、従来の認知モデルよりも人間の行動を予測する。
論文 参考訳(メタデータ) (2024-05-29T17:37:14Z) - Do Language Models Exhibit the Same Cognitive Biases in Problem Solving as Human Learners? [140.9751389452011]
本研究では,大言語モデル(LLM)の偏りを,算術語問題を解く際に,子どもに知られているものと関連づけて検討する。
我々は,これらの各テストに対して,問題特徴のきめ細かい制御を可能にするニューロシンボリックアプローチを用いて,新しい単語問題を生成する。
論文 参考訳(メタデータ) (2024-01-31T18:48:20Z) - Brain-inspired Computational Intelligence via Predictive Coding [73.42407863671565]
予測符号化(PC)は、機械学習コミュニティにとって潜在的に価値のある、有望な特性を示している。
PCライクなアルゴリズムは、機械学習とAIの複数のサブフィールドに存在し始めている。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - CodeGen2: Lessons for Training LLMs on Programming and Natural Languages [116.74407069443895]
我々はエンコーダとデコーダベースのモデルを単一のプレフィックスLMに統一する。
学習方法は,「フリーランチ」仮説の主張を考察する。
データ配信においては,混合分布と多言語学習がモデル性能に及ぼす影響について検討した。
論文 参考訳(メタデータ) (2023-05-03T17:55:25Z) - ChatABL: Abductive Learning via Natural Language Interaction with
ChatGPT [72.83383437501577]
大規模言語モデル(LLM)は、最近数学的な能力において大きな可能性を証明している。
LLMは現在、認識、言語理解、推論能力のブリッジングに困難を抱えている。
本稿では, LLMを帰納学習フレームワークに統合する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-04-21T16:23:47Z) - Scallop: A Language for Neurosymbolic Programming [14.148819428748597]
Scallopは、ディープラーニングと論理的推論の利点を組み合わせた言語である。
アルゴリズム推論を多様で困難なAIタスクで表現することができる。
機械学習プログラマが論理的なドメイン知識を統合するための簡潔なインターフェースを提供する。
論文 参考訳(メタデータ) (2023-04-10T18:46:53Z) - Toward a realistic model of speech processing in the brain with
self-supervised learning [67.7130239674153]
生波形で訓練された自己教師型アルゴリズムは有望な候補である。
We show that Wav2Vec 2.0 learns brain-like representations with little as 600 hours of unlabelled speech。
論文 参考訳(メタデータ) (2022-06-03T17:01:46Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-05-25T12:41:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。