Fugu-MT 論文翻訳(概要): Beliefs and Behavior in Language Models

論文の概要: Beliefs and Behavior in Language Models

arxiv url: http://arxiv.org/abs/2609.07943v1
Date: Mon, 07 Sep 2026 19:56:02 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-10 19:44:08.508521
Title: Beliefs and Behavior in Language Models
Title（参考訳）: 言語モデルにおける信念と行動
Abstract要約: 大型言語モデル(LLM)の振る舞いを説明するためにしばしば信念が呼び出される LLMの出力から推測される1つの潜伏変数 -- 信念の程度として解釈された -- が、観察者が解釈可能な予測を行うことができるかどうかを問う。高い能力を持つモデルは、信念を保持するものとして有用であり、一般に、推論された潜在信念に基づくモデルアウトプットの予測可能性は、モデル能力の全体的なトレンドをトラックする。
参考スコア（独自算出の注目度）: 15.920644659904903
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: There is significant uncertainty about whether abstractions like beliefs or desires usefully describe the behavior of large language models (LLMs). In addition to the inherent scientific interest of this question, these latent quantities are often invoked to explain the behavior of LLMs to users or to define and evaluate harmful behaviors which are relative to intent. Nevertheless, we currently lack a means to systematically test whether concepts like "belief" are well-applied to LLMs, and hence whether they are likely to be fruitful ingredients of attempts to align models with human interests. We propose an approach for empirically studying such questions, asking whether a single latent variable inferred from the LLMs' outputs -- interpreted as a degree of belief -- allows an observer to make interpretable predictions of how the LLMs' will respond to new prompts. We find that highly capable models are usefully described as holding beliefs and that, generally, the predictability of model outputs based on an inferred latent belief tracks overall trends in model capability. Building on these findings, we provide empirical strategies to study how beliefs in LLMs can be measured, the extent to which LLMs comply with instructed decision rules or payoffs, and how beliefs evolve within individual instances of an LLM over the course of reasoning.
Abstract（参考訳）: 信念や欲望といった抽象概念が、大きな言語モデル(LLM)の振る舞いを効果的に記述するかどうかについては、大きな不確実性がある。この問題の本質的な科学的関心に加えて、これらの潜伏量はしばしば、LLMの振る舞いをユーザに対して説明したり、意図と相対的な有害な振る舞いを定義して評価するために呼び出される。それにもかかわらず、私たちは現在、LLMに「信」のような概念がうまく適用されているかどうかを体系的に検証する手段を欠いています。本研究では, LLMの出力から推測される1つの潜伏変数(信念の程度と解釈される)が, LLMが新しいプロンプトにどのように反応するかを解釈可能な予測を行うことができるか, という問題を経験的に研究するためのアプローチを提案する。高い能力を持つモデルは、信念を保持するものとして有用であり、一般に、推論された潜在信念に基づくモデルアウトプットの予測可能性は、モデル能力の全体的なトレンドをトラックする。これらの知見に基づいて, LLMにおける信念の計測方法, LLMが指示された決定規則や報酬を遵守する程度, そして, LLMの個々の事例内での信念の進化過程を考察するための実証的戦略を提供する。

関連論文リスト

From Plausible to Actionable: A Position on LLM Self-Explanations [1.349571235047442]
大きな言語モデル(LLM)は、自身の決定を合理化する自然言語の説明を生成することができる。我々は、自己説明は極めて妥当であり、疑わしいほど忠実であり、しかも非常に行動的であると論じる。
論文参考訳（メタデータ） (2026-07-17T13:44:19Z)
Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts [79.1081247754018]
大規模言語モデル(LLM)は、推論、計画、意思決定のタスクに広くデプロイされている。そこで我々は, 接触探索質問(CSQ)に基づく枠組みを提案し, 騙しの可能性を定量化する。
論文参考訳（メタデータ） (2025-08-08T14:46:35Z)
How LLMs Comprehend Temporal Meaning in Narratives: A Case Study in Cognitive Evaluation of LLMs [13.822169295436177]
本研究では,人文研究に用いられた物語において,大規模言語モデル(LLM)が言語的側面の時間的意味をどう扱うかを検討する。以上の結果から,LLMは原型性に過度に依存し,相反する側面判断を生じ,側面から派生した因果推論に苦慮することが明らかとなった。これらの結果は,LLMのプロセスの側面が人間と根本的に異なり,ロバストな物語理解が欠如していることを示唆している。
論文参考訳（メタデータ） (2025-07-18T18:28:35Z)
Understanding the Relationship between Prompts and Response Uncertainty in Large Language Models [55.332004960574004]
大規模言語モデル(LLM)は意思決定に広く使用されているが、特に医療などの重要なタスクにおける信頼性は十分に確立されていない。本稿では,LSMが生成する応答の不確実性が,入力プロンプトで提供される情報とどのように関連しているかを検討する。本稿では,LLMが応答を生成する方法を説明し,プロンプトと応答の不確実性の関係を理解するためのプロンプト応答の概念モデルを提案する。
論文参考訳（メタデータ） (2024-07-20T11:19:58Z)
Do Large Language Models Exhibit Cognitive Dissonance? Studying the Difference Between Revealed Beliefs and Stated Answers [13.644277507363036]
Revealed Beliefは,不確実性を考慮した推論を必要とするタスクに対して,Large Language Models (LLMs)を評価する評価フレームワークである。以上の結果から,LSMは正しい回答をしばしば述べるが,Revealed Beliefは確率質量を不整合に割り当てることが多く,体系的な偏見を示し,新しい証拠が提示された時にその信念を適切に更新することができないことが示唆された。
論文参考訳（メタデータ） (2024-06-21T08:56:35Z)
Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
論文参考訳（メタデータ） (2024-06-05T16:35:30Z)
Standards for Belief Representations in LLMs [0.0]
我々は、信念のように数えられるように記入する表現の妥当性を論じる。理論的考察と実践的制約のバランスをとるための4つの基準を確立する。提案する基準は,精度,コヒーレンス,均一性,使用性である。
論文参考訳（メタデータ） (2024-05-31T17:21:52Z)
Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
論文参考訳（メタデータ） (2024-04-08T14:15:56Z)
Explaining Large Language Models Decisions Using Shapley Values [1.223779595809275]
大規模言語モデル(LLM)は、人間の行動や認知過程をシミュレートするエキサイティングな可能性を開いた。しかし, LLMを人体用スタンドインとして活用する妥当性は, いまだに不明である。本稿では,モデルの出力に対する各プロンプト成分の相対的寄与を定量化するために,シェープリー値に基づく新しい手法を提案する。
論文参考訳（メタデータ） (2024-03-29T22:49:43Z)
Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
論文参考訳（メタデータ） (2024-02-15T18:46:24Z)
Learning to Generate Explainable Stock Predictions using Self-Reflective Large Language Models [54.21695754082441]
説明可能なストック予測を生成するために,LLM(Large Language Models)を教えるフレームワークを提案する。反射剤は自己推論によって過去の株価の動きを説明する方法を学ぶ一方、PPOトレーナーは最も可能性の高い説明を生成するためにモデルを訓練する。我々のフレームワークは従来のディープラーニング法とLLM法の両方を予測精度とマシューズ相関係数で上回ることができる。
論文参考訳（メタデータ） (2024-02-06T03:18:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。