論文の概要: Speak vs. Know: Balancing Behavior and Knowledge Distributions of Large Language Models

• arxiv url: http://arxiv.org/abs/2610.27648v1
• Date: Tue, 20 Oct 2026 05:07:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.658854
• Title: Speak vs. Know: Balancing Behavior and Knowledge Distributions of Large Language Models
• Title（参考訳）: Speak vs. Know: 大規模言語モデルの振る舞いと知識分布のバランス
• Abstract要約: LLMに特定のグループの意見を予測するよう促すと、言語分布における最も可能性が高い答えは、対数確率分布におけるそれとは異なることが分かる。 本稿では,2つの分布の学習可能な組み合わせを提案する。
• 参考スコア（独自算出の注目度）: 36.1655217879788
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work reports that the distribution verbalized directly in the output text aligns far better with human opinion distributions than the next-token log-probability distribution of LLMs. However, the verbalized distribution reflects what LLMs know about a group's opinions (knowledge distribution), while what they actually output at deployment is governed by their log-probability distribution (behavior distribution). We find that when prompting LLMs to predict the opinion of a specific group, the most likely answer under the verbalized distribution differs from that under the log-probability distribution for 37% of World Values Survey questions, averaged over three LLMs. Thus, LLMs' knowledge does not match their behavior. This matters for evaluation: a verbalized distribution can score well against a group while its most likely answer is one the model never outputs, so the score no longer describes the model. The alignment scores for these two distributions reflect only the model's behavior or its knowledge, separately. We therefore propose a learnable combination of the two distributions that follows the most likely answer of the behavior distribution while preserving the shape of the knowledge distribution, with a single hyperparameter trading off behavioral fidelity against distribution quality. Our experiments on three opinion survey datasets and six models show that the balanced distribution improves behavioral consistency over the verbalized distribution from 71.6% to 95.6% on average, while the total variation distance to the human opinion distributions rises only slightly from 28.8% to 33.8%, and it remains effective under temperature scaling and cross-dataset settings.
• Abstract（参考訳）: 最近の研究報告では、出力テキストで直接言語化された分布は、LCMの次の対数確率分布よりも人間の意見分布とよく一致している。 しかしながら、言語化された分布は、LCMがグループの意見(知識分布)について知っていることを反映しており、実際に配布時に出力するものは、ログ確率分布(振る舞い分布)によって管理される。 LLMが特定のグループの意見を予測するように促すと、言語分布下での最も可能性が高い答えは、3つのLLMの平均値である世界価値調査の37%の対数確率分布の答えとは異なることが判明した。 したがって、LLMの知識は彼らの行動と一致しない。 言語化された分布は、グループに対してうまくスコアを付けることができ、最も可能性の高い答えは、決して出力しないモデルである。 これら2つの分布のアライメントスコアは、モデルの動きまたは知識のみを別々に反映する。 そこで我々は,2つの分布の学習可能な組み合わせを提案し,その分布の形状を保ちながら,行動分布の最も可能性の高い解を求めるとともに,分布品質に対する行動の忠実さを1つのハイパーパラメータで表現する。 3つの世論調査データセットと6つのモデルによる実験の結果、バランスの取れた分布は、平均して71.6%から95.6%に、人間の世論分布への総変動距離は28.8%から33.8%にわずかに増加し、温度スケーリングやデータセット間設定下でも有効であることがわかった。

関連論文リスト

• Sample What You Say: Aligning Language Models to Sample the Distributions They State [22.06410760205191]
  対象の分布を有限個の結果集合上で一致させるモデルを訓練する。 未知の目標分布では、目撃者による訓練により、目標への全変動距離が大幅に減少する。
  論文  参考訳（メタデータ） (2026-09-28T11:26:47Z)
• Evidence-based Distributional Alignment for Large Language Models [58.65469623911573]
  LLM分布推定の忠実度とロバスト性を改善する証拠に基づくアライメント手法であるEvi-DAを提案する。 対象国が与えられた場合、Evi-DAは関連するWorld Values Survey項目とその回答分布を検索し、オプション毎に粗いヴェルツェル値シグネチャを予測し、国条件の回答分布を構造化形式で推測する。
  論文  参考訳（メタデータ） (2026-03-03T03:34:06Z)
• LLM Bias Detection and Mitigation through the Lens of Desired Distributions [8.710551702283391]
  本稿では,適応的損失に基づく微調整手法を提案する。 現実の環境下では,等しく,30-75%の削減でほぼ完全な緩和が達成される。
  論文  参考訳（メタデータ） (2025-10-07T18:20:03Z)
• Label Distribution Learning using the Squared Neural Family on the Probability Simplex [15.680835401104247]
  ラベル分布学習モデルSNEFY-LDLを提案する。 単純体上の全ての可能なラベル分布の確率分布を推定する。 基礎構造ラベル分布を予測し、ラベル分布の信頼区間を構築し、異なるラベル間の相関を測定できる。
  論文  参考訳（メタデータ） (2024-12-10T09:12:02Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• What Are the Odds? Language Models Are Capable of Probabilistic Reasoning [23.487484744911995]
  本稿では,言語モデル(LM)の確率論的推論能力を,理想化および実世界の統計分布を用いて評価することに集中する。 本研究では,パーセンタイルの推定,サンプルの描画,確率の計算という3つのタスクにおいて,最先端のLMの体系的評価を行う。
  論文  参考訳（メタデータ） (2024-06-18T17:51:24Z)
• Personalized Trajectory Prediction via Distribution Discrimination [78.69458579657189]
  トラリミー予測は将来の力学のマルチモーダルな性質を捉えるジレンマと対立する。 本研究では,パーソナライズされた動作パターンを予測するDisDisDis(Disdis)手法を提案する。 本手法は,プラグイン・アンド・プレイモジュールとして既存のマルチモーダル予測モデルと統合することができる。
  論文  参考訳（メタデータ） (2021-07-29T17:42:12Z)
• Distributional Reinforcement Learning via Moment Matching [54.16108052278444]
  ニューラルネットワークを用いて各戻り分布から統計量の有限集合を学習する手法を定式化する。 我々の手法は、戻り分布とベルマン目標の間のモーメントの全ての順序を暗黙的に一致させるものとして解釈できる。 Atariゲームスイートの実験により,本手法は標準分布RLベースラインよりも優れていることが示された。
  論文  参考訳（メタデータ） (2020-07-24T05:18:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。