論文の概要: From Prompts to Posteriors: Can LLM Agents Perform Bayesian Inference in Context?

• arxiv url: http://arxiv.org/abs/2610.29331v1
• Date: Wed, 21 Oct 2026 07:29:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.273642
• Title: From Prompts to Posteriors: Can LLM Agents Perform Bayesian Inference in Context?
• Title（参考訳）: プロンプトから後部へ:LLMエージェントはベイズ推論を文脈で実行できるか?
• Abstract要約: 大規模言語モデル(LLM)は、科学的な発見パイプライン全体でますます適用されてきている。 これらのタスクの背後にある統一原則は、証拠が蓄積するにつれて、信念を継続的に更新する必要があることである。 既存の仮定では、LLMは文脈においてベイズ的信念の更新を行うことができないと仮定している。
• 参考スコア（独自算出の注目度）: 27.314215965698992
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly applied across the scientific discovery pipeline, from synthesizing literature to generating hypotheses to informing experimental design. A unifying principle behind these tasks is the need to continuously update beliefs as evidence accumulates, for which Bayesian inference provides a natural framework. However, existing work assumes that LLMs cannot carry out principled Bayesian belief updating in context, instead relying on simplifications and heuristics. To challenge this assumption, we present a principled evaluation of Bayesian reasoning capabilities in LLMs, analyzing both the model's internal consistency as well as its ability to recover an externally determined posterior. Specifically, we build an evaluation framework spanning qualitative epistemological examples to probe probabilistic coherence, quantitative benchmarks of Bayesian inference capabilities, and analyses of the impact of non-Bayesian updates on downstream task performance. Across different scenarios, we find that LLMs generally violate Bayes' rule when updating their beliefs in context. However, when equipped with modern reasoning abilities and code execution capabilities, their performance drastically improves, enabling even the close approximation of analytically intractable posteriors. Our evaluation shows that current LLMs with access to appropriate tools could already be used to make complex belief updates in scientific discovery, enabling rapid acceleration of the efficiency and scale of AI-powered scientific discovery.
• Abstract（参考訳）: 大規模言語モデル (LLMs) は、論文の合成から仮説の生成、実験設計のインフォームに至るまで、科学的な発見パイプライン全体にわたってますます応用されている。 これらのタスクの背後にある統一原理は、証拠が蓄積されるにつれて信念を継続的に更新する必要性であり、ベイズ推定は自然な枠組みを提供する。 しかし、既存の研究は、LLMは、単純化とヒューリスティックに頼らず、文脈におけるベイズ的信念の更新を原則的に行うことはできないと仮定している。 この仮定に挑戦するため, LLMにおけるベイズ推論の原理的評価を行い, モデル内部の一貫性と, 外部から決定された後部を復元する能力の両方を解析した。 具体的には,確率的コヒーレンス,ベイズ推論能力の定量的ベンチマーク,および非ベイズ的更新が下流タスク性能に与える影響を調査するために,定性的認識学的な例にまたがる評価フレームワークを構築した。 様々なシナリオにおいて、LLMは一般的に文脈における信念を更新する際にベイズの規則に反する。 しかし、現代的な推論能力とコード実行能力を備えると、その性能は大幅に向上し、分析的に難解な後部の近似さえできる。 我々の評価によると、現在のLLMは、科学的な発見において複雑な信念を更新するために既に使われており、AIによる科学的な発見の効率とスケールの迅速な加速を可能にしている。

関連論文リスト

• LLMs are not (consistently) Bayesian: Quantifying internal (in)consistencies of LLMs' probabilistic beliefs [13.649992636657347]
  本稿では,情報処理規則としてLLMを研究する新しい手法を紹介する。 我々は、情報処理ギャップを利用して、LCMが証拠から確率的信念を更新する方法の内部(内部)の整合性を研究する。
  論文  参考訳（メタデータ） (2026-05-07T20:25:02Z)
• Quantifying Aleatoric Uncertainty of In-Context Learning for Robust Measure of LLM Prediction Confidence [6.28866496877782]
  In-Context Learning (ICL)は、LCMがいくつかのデモから新しいタスクに適応できるようにするが、信頼性は依然として懸念されている。 我々は、ベイズ的視点とICLの機械的解釈可能性に基づく自己関数ベクトルの概念を導入する。 これらのベクトルは内部モデル表現を利用して、コンテキスト内プロンプトで学んだ潜在概念をモデル化する。 提案手法は,従来の代替手法よりも信頼性の高いLCM予測の不確かさを計測できることを示す。
  論文  参考訳（メタデータ） (2026-04-28T09:47:40Z)
• Fact-Checking with Large Language Models via Probabilistic Certainty and Consistency [7.806516365113592]
  大規模言語モデル(LLM)は、事実の正確性を必要とするアプリケーションでますます使われている。 事実チェックはこれらのエラーを軽減することができるが、既存の手法は通常、外的証拠を無差別に回収する。 本稿では,確率的確実性と一貫性(PCC)について紹介する。
  論文  参考訳（メタデータ） (2026-01-05T21:57:41Z)
• Align While Search: Belief-Guided Exploratory Inference for World-Grounded Embodied Agents [21.282520693137275]
  後部誘導的信念改善による探索的推論を行うテスト時適応エージェントを提案する。 エージェントは、環境状態に対する外部構造的信念を維持し、行動条件付き観測を通して反復的に更新し、予測情報ゲインを最大化して行動を選択する。
  論文  参考訳（メタデータ） (2025-12-30T20:51:28Z)
• Towards Reliable and Practical LLM Security Evaluations via Bayesian Modelling [1.0266286487433585]
  新しい大規模言語モデル(LLM)アーキテクチャを採用する前に、脆弱性を正確に理解することが重要である。 既存の評価を信頼することは困難であり、しばしばLLMから結論を導き出す。 インジェクション攻撃の迅速化を目的としたLCM脆弱性評価のための,原則的かつ実用的なエンドツーエンドフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-07T09:22:22Z)
• Aligning Large Language Models for Faithful Integrity Against Opposing Argument [71.33552795870544]
  大規模言語モデル(LLM)は複雑な推論タスクにおいて印象的な機能を示している。 原文が正しい場合でも、会話中に不誠実な議論によって容易に誤解される。 本稿では,信頼度と信頼度を両立させる新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2025-01-02T16:38:21Z)
• OCEAN: Offline Chain-of-thought Evaluation and Alignment in Large Language Models [68.17018458283651]
  本研究は,LLMのチェーン・オブ・思想能力のオフライン評価に焦点をあてる。 我々は知識グラフ(例えばWikidata5m)を使って、生成された思考の連鎖に対するフィードバックを提供する。 提案手法に基づいてLCMを最適化する方法を示す。
  論文  参考訳（メタデータ） (2024-10-31T07:48:44Z)
• CLOMO: Counterfactual Logical Modification with Large Language Models [109.60793869938534]
  本稿では,新しいタスク,CLOMO(Counterfactual Logical Modification)と高品質な人間アノテーションベンチマークを紹介する。 このタスクでは、LLMは所定の論理的関係を維持するために、与えられた議論的テキストを順応的に変更しなければなりません。 LLMの自然言語出力を直接評価する革新的な評価指標である自己評価スコア(SES)を提案する。
  論文  参考訳（メタデータ） (2023-11-29T08:29:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。