論文の概要: Superficial Beliefs in LLM Decision-Making

• arxiv url: http://arxiv.org/abs/2606.11016v1
• Date: Tue, 09 Jun 2026 15:54:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.593398
• Title: Superficial Beliefs in LLM Decision-Making
• Title（参考訳）: LLM意思決定における表面的信念
• Authors: Gabriel Freedman, Francesca Toni,
• Abstract要約: 我々は,大言語モデル (LLM) が2つの選択肢を選択する際に,単に理性を模倣するだけかどうかを問う。 私たちは、モデルが最も重要としている属性と、その選択を以前の決定に適合する振る舞いモデルで最もよく説明する属性を比較します。 我々はこれをLLM意思決定における「表面的信念の証拠」と解釈する。
• 参考スコア（独自算出の注目度）: 17.52079171010035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We ask whether large language models (LLMs) merely imitate rationales when choosing between two options, or whether their choices reflect a systematic underlying decision structure. Using synthetic binary decision settings in which models choose between profiles defined by graded attributes, we compare the attribute a model says mattered most with the attribute that best explains its choice under a behavioural model fit to prior decisions. The behavioural model predicts held-out choices well, showing that model behaviour is systematically related to the visible attributes rather than being random. However, direct self-reports and a separate score-based judge recover the behaviourally inferred driver only partially. The resulting picture is neither one of arbitrary behaviour nor one of fully articulated belief - outputs are structured enough to support prediction, but explicit reasons track the recovered driver only imperfectly. This qualitative pattern persists across prompt-order and sampling perturbations, alternative behavioural models, targeted occlusion analyses, and structurally varied decision settings. We interpret this as evidence for ``superficial belief'' in LLM decision-making: models behave as if guided by probabilistic local priorities over attributes, while having only limited verbal access to the attributes that drive their decisions.
• Abstract（参考訳）: 大規模言語モデル(LLM)は,2つの選択肢を選択する際に,単に論理を模倣するだけなのか,あるいはその選択が体系的な決定構造を反映しているのかを問う。 次数付き属性で定義されたプロファイルをモデルが選択する合成二分決定設定を用いて、モデルが最も重要としている属性と、その選択を事前決定に適合する振る舞いモデルで最もよく説明する属性を比較します。 行動モデルは保持された選択をうまく予測し、モデル行動がランダムではなく、可視的な属性と体系的に関連していることを示す。 しかし、直接の自己申告とスコアに基づく別の裁判官は、行動的推論されたドライバーを部分的にのみ回復する。 アウトプットは予測をサポートするのに十分な構造だが、明示的な理由は、回収されたドライバーを不完全に追跡するだけである。 この定性的パターンは、命令順とサンプリングの摂動、代替の行動モデル、対象の排他的分析、構造的に異なる決定設定にまたがって持続する。 モデルは、属性よりも確率的な局所的優先順位によって導かれるかのように振る舞うと同時に、決定を駆動する属性への限定的な言語アクセスしか持たない。

関連論文リスト

• Can Revealed Preferences Clarify LLM Alignment and Steering? [23.175180848107093]
  LLMの観測した選択が最適化するインプリート嗜好を推定するための経験的パイプラインを提案する。 提案手法は,モデルが一貫したゴール指向の振る舞いをするかどうかの厳密な評価を可能にすることを示す。
  論文  参考訳（メタデータ） (2026-05-08T23:26:35Z)
• MBD: A Model-Based Debiasing Framework Across User, Content, and Model Dimensions [50.00784452900918]
  この課題に対処する一般モデルベースデバイアス(MBD)フレームワークを提案する。 任意のコホートに対するエンゲージメント分布の文脈平均と分散を明示的に推定する。 この統合により、フレームワークはバイアス付き生信号からバイアスなしの表現に変換することができる。
  論文  参考訳（メタデータ） (2026-03-15T15:07:01Z)
• Model Correlation Detection via Random Selection Probing [62.093777777813756]
  既存の類似性に基づく手法では、モデルパラメータにアクセスしたり、しきい値なしでスコアを生成する必要がある。 本稿では,モデル相関検出を統計的テストとして定式化する仮説テストフレームワークであるランダム選択探索(RSP)を紹介する。 RSPは相関の証拠を定量化する厳密なp-値を生成する。
  論文  参考訳（メタデータ） (2025-09-29T01:40:26Z)
• Leveraging Predictive Equivalence in Decision Trees [25.79772180003752]
  決定木は解釈可能な機械学習に広く使われている。 本稿では,予測等価性を示さない決定木の表現について述べる。 決定木は、機能値のテスト時間不足に対して驚くほど堅牢であることを示す。
  論文  参考訳（メタデータ） (2025-06-17T03:11:30Z)
• Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
  正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。 モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
  論文  参考訳（メタデータ） (2025-05-17T00:31:39Z)
• Predicting is not Understanding: Recognizing and Addressing Underspecification in Machine Learning [47.651130958272155]
  下位仕様とは、ドメイン内の精度で区別できない複数のモデルの存在を指す。 我々は、不特定概念を形式化し、それを特定し、部分的に対処する方法を提案する。
  論文  参考訳（メタデータ） (2022-07-06T11:20:40Z)
• An exact counterfactual-example-based approach to tree-ensemble models interpretability [0.0]
  高性能モデルは、決定を完全に理解するために必要な透明性を示さない。 多次元間隔の集まりの形で、決定領域の正確な幾何学的特徴付けを導出できる。 回帰問題に対する推論への適応も考えられている。
  論文  参考訳（メタデータ） (2021-05-31T09:32:46Z)
• Characterizing Fairness Over the Set of Good Models Under Selective Labels [69.64662540443162]
  同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。 到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。 選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
  論文  参考訳（メタデータ） (2021-01-02T02:11:37Z)
• Selecting Diverse Models for Scientific Insight [0.12891210250935145]
  異なるペナルティ設定が、異なるモデルにおける係数の縮小またはスパーシティを促進するかを示す。 変分を強制するペナルティフォームの選択は、鋼合金組成から積層欠陥エネルギーを予測するために適用される。
  論文  参考訳（メタデータ） (2020-06-16T14:06:55Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。