論文の概要: Hypothesis generation and updating in large language models

• arxiv url: http://arxiv.org/abs/2605.05851v1
• Date: Thu, 07 May 2026 08:24:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.625483
• Title: Hypothesis generation and updating in large language models
• Title（参考訳）: 大規模言語モデルにおける仮説生成と更新
• Authors: Hua-Dong Xiong,
• Abstract要約: 大規模言語モデル(LLM)は、人々が問題を解決するのにますます役立っているが、どのように推論を行うかは、まだ不明である。 本稿では,数ゲームにおいて,学習者がいくつかの正の整数によって支持される仮説を推測する制御された設定について検討する。 3つの補足的プローブ(後部予測、仮説評価、仮説生成)を用いて後部仮説を測定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) increasingly help people solve problems, from debugging code to repairing machinery. This process requires generating plausible hypotheses from partial descriptions, then updating them as more information arrives. Yet how LLMs perform this form of inference, and how close it is to optimal, remains unclear. We study this question in the number game, a controlled setting in which a learner infers the hypothesis supported by a few positive integers, such as $\{16, 8, 2, 64\}$: a rule like powers of 2 or an interval like numbers near 20. We measure the posterior over hypotheses using three complementary probes: posterior prediction, hypothesis evaluation, and hypothesis generation. We then compare LLM behavior with an optimal Bayesian model and human behavior, and test whether the same posterior is expressed across probes. LLMs are often well described by a two-parameter Bayesian fit, but with systematic offsets: by default they show a strong-sampling assumption that creates an implicit Occam's razor, favoring narrower hypotheses, while thinking mode shifts them toward greater prior reliance. We also find a robust evaluation--generation gap: LLMs select more correct hypotheses during hypothesis evaluation but generate simpler, more rule-like hypotheses. Finally, this Bayesian-with-bias pattern does not extrapolate. Models can behave as if they hold rule-like hypotheses over observed examples, yet generalize poorly to parts of the hypothesis domain not covered by those examples. Our results highlight a limitation of LLMs as general problem solvers, especially for scientific inference, where hypotheses must go beyond the data.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、コードのデバッグから機械の修理まで、人々の問題を解決するのにますます役立ちます。 このプロセスでは、部分的な記述からもっともらしい仮説を生成し、より多くの情報が到着するとそれらを更新する必要がある。 しかし、LLMがどのようにしてこのような推論を行い、それがどの程度最適に近づいたかは、いまだに不明である。 この問題は数ゲームにおいて、学習者がいくつかの正の整数(例えば$\{16, 8, 2, 64\}$)で支持される仮説を推論する制御された設定である。 3つの補足的プローブ(後部予測、仮説評価、仮説生成)を用いて後部仮説を測定する。 次に、LLMの挙動を最適なベイズモデルと人間の挙動と比較し、同じ後部がプローブ間で表現されているかどうかを検証する。 LLMは2パラメータのベイズ整合体によってよく説明されるが、体系的なオフセットを持つ: デフォルトでは、オッカムのゆがみを暗示的に生み出し、より狭い仮説を好む強いサンプリングの仮定を示す。 LLMは仮説評価中により正確な仮説を選択するが、より単純で規則的な仮説を生成する。 最後に、このベイジアン・ウィズ・バイアスパターンは外挿しない。 モデルは観察された例に対して規則的な仮説を持つかのように振る舞うことができるが、これらの例ではカバーされない仮説領域の一部にはあまり一般化しない。 以上の結果から,一般問題解法としてのLSMの限界,特に仮説がデータを超えなければならない科学的推論の限界が浮かび上がっている。

関連論文リスト

• HypoSpace: Evaluating LLM Creativity as Set-Valued Hypothesis Generators under Underdetermination [46.896452542901805]
  有限仮説集合のサンプルとして LLM を扱う診断スイートである hypoSpace を紹介する。 我々は、決定論的検証器と正確に列挙された仮説空間を持つ3つの構造化された領域において、HypoSpaceをインスタンス化する。 命令調整と推論に焦点を当てたモデル全体では、検証性はしばしば高く保たれ、ユニキネスとリカバリは許容空間が大きくなるにつれて劣化する。
  論文  参考訳（メタデータ） (2025-10-17T13:00:32Z)
• MOOSE-Chem2: Exploring LLM Limits in Fine-Grained Scientific Hypothesis Discovery via Hierarchical Search [102.11776494401705]
  大規模言語モデル (LLM) は科学的仮説生成の自動化において有望であることを示している。 既存のアプローチは主に、批判的な方法論や実験的な詳細を欠いた粗粒の仮説を導出する。 我々は、科学的仮説発見の新しいタスクを導入し、正式に定義する。
  論文  参考訳（メタデータ） (2025-05-25T16:13:46Z)
• Resolving Multiple-Dynamic Model Uncertainty in Hypothesis-Driven Belief-MDPs [4.956709222278243]
  複数の仮説に対する推論を可能にする仮説駆動の信念 MDP を提案する。 また,(ほぼ)正しい仮説を確定し,基礎となるPOMDPで良好に機能するという目標をバランスづける新たな信念であるMDPを提案する。
  論文  参考訳（メタデータ） (2024-11-21T18:36:19Z)
• A Hypothesis-Driven Framework for the Analysis of Self-Rationalising Models [0.8702432681310401]
  我々はベイジアンネットワークを用いて、タスクの解決方法に関する仮説を実装している。 結果のモデルはGPT-3.5と強い類似性は示さない。 今後の作業において、LCM決定をよりよく近似するフレームワークの可能性だけでなく、これの意味についても論じる。
  論文  参考訳（メタデータ） (2024-02-07T12:26:12Z)
• Optimal Multi-Distribution Learning [88.3008613028333]
  マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。 本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-08T16:06:29Z)
• Learning programs by learning from failures [26.955785230358963]
  本稿では,障害からの学習という,帰納的論理プログラミング(ILP)アプローチについて述べる。 このアプローチでは、ILPシステムは学習問題を3つの段階(生成、テスト、制約)に分解する。 本稿では,回答セットプログラミングとPrologを組み合わせることで,この手法を実現するILPシステムであるPopperを紹介する。
  論文  参考訳（メタデータ） (2020-05-05T14:55:07Z)
• Explaining Question Answering Models through Text Generation [42.36596190720944]
  大規模な事前学習言語モデル(LM)は、常識と世界知識を必要とするタスクを微調整するときに驚くほどうまく機能することが示されている。 エンドツーエンドのアーキテクチャで正しい予測ができるような、LMの知識が何であるかを説明するのは難しい。 エンド・ツー・エンドのアーキテクチャに匹敵するパフォーマンスに達するタスクをいくつか示します。
  論文  参考訳（メタデータ） (2020-04-12T09:06:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。