論文の概要: Distributional Alignment of LLMs and Its Generalization Properties

• arxiv url: http://arxiv.org/abs/2610.31687v1
• Date: Mon, 05 Oct 2026 12:13:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 06:06:26.117002
• Title: Distributional Alignment of LLMs and Its Generalization Properties
• Title（参考訳）: LLMの分布配向とその一般化特性
• Abstract要約: 大規模な言語モデルは、例えば調査のために人間の振る舞いをシミュレートし、調査するためにますます使われている。 本研究では, LLMを分布的に整列させる方法と, 整列化 LLM を未知のサンプルや無関係なトピックやタスクに一般化する方法について検討する。 整列 LLM は実際に分布アライメントを達成でき、同じ領域の未確認問題に一般化できる。 しかし、アライメント LLM は驚くべき方法で分解し、その一般化特性は本質的に予測不可能で不安定であることを示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are increasingly used to simulate and probe human behavior, e.g., for surveys. For these applications, a key property is that outputs satisfy distributional alignment: to match its output distribution with some reference (in this case, human) distribution. An obstacle in achieving distributional alignment is generalizing from small training data. In this work, we study (1) how to distributionally align LLMs; and (2) how aligned LLMs might generalize to unseen samples and unrelated topics and tasks. Using two large-scale benchmarks, we find that LLMs can indeed achieve distributional alignment and generalize to unseen questions of the same domain. Cross-topic generalization depends on the relationship between topics (e.g., questions about politics are related to trust in institutions). However, aligned LLMs can degrade in surprising ways (e.g., lose their creative ability), suggesting that its generalization properties are inherently unpredictable and unstable.
• Abstract（参考訳）: 大規模な言語モデルは、例えば調査のために人間の振る舞いをシミュレートし、調査するためにますます使われています。 これらのアプリケーションにとって重要な特性は、出力が分布のアライメントを満たすことである。 分散アライメントを達成する際の障害は、小さなトレーニングデータから一般化される。 本研究では,(1)LLMを分布的に整列させる方法,(2)LLMを非表示サンプルや非関連トピックやタスクに一般化する方法について検討する。 2つの大規模ベンチマークを用いて、LLMは実際に分布アライメントを達成でき、同じ領域の未確認問題に一般化できることがわかった。 横断的一般化はトピック間の関係に依存する(例えば、政治に関する質問は機関の信頼に関連する)。 しかし、整列 LLM は驚くべき方法で分解し(例えば、創造性を失う)、その一般化特性は本質的に予測不可能で不安定であることを示す。

関連論文リスト

• Controlling Distributional Bias in Multi-Round LLM Generation via KL-Optimized Fine-Tuning [37.39836347901149]
  我々は,Large Language Models (LLM) が所望の目標分布に従属する出力を生成できるかどうかを評価する。 職業文脈における性別・人種・感情の属性を用いて分布アライメントを定式化する。 本稿では,ステアリングトークンとセマンティックアライメントを結合したファインチューニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-07T11:58:16Z)
• SelfReflect: Can LLMs Communicate Their Internal Answer Distribution? [21.270758668026023]
  我々は,要約と回答上の分布の間の情報理論的距離であるSelfReflectメトリックを開発した。 我々は,SelfReflectが,要約文字列と LLM の内部分布の回答に対する忠実度を細かな尺度で表していることを示す。
  論文  参考訳（メタデータ） (2025-05-26T17:59:53Z)
• Exploring Language Model Generalization in Low-Resource Extractive QA [57.14068405860034]
  ドメインドリフト下でのLarge Language Models (LLM) を用いた抽出質問応答(EQA)について検討する。 性能ギャップを実証的に説明するための一連の実験を考案する。
  論文  参考訳（メタデータ） (2024-09-27T05:06:43Z)
• From Distributional to Overton Pluralism: Investigating Large Language Model Alignment [82.99849359892112]
  適応後の応答多様性の低下を以前報告した再検査を行った。 分析の結果,応答の多様性の明らかな低下は,品質管理と情報集約によって大きく説明できることがわかった。 発見は、現在のアライメント技術はキャプチャーされるが、アシスタントライクなベースLLM動作の有用なサブセットを拡張するものではないことを示している。
  論文  参考訳（メタデータ） (2024-06-25T16:32:33Z)
• Do LLMs Play Dice? Exploring Probability Distribution Sampling in Large Language Models for Behavioral Simulation [73.58618024960968]
  人間のシーケンシャルな意思決定過程をエミュレートするエージェントとして、大きな言語モデル(LLM)を採用する研究が増えている。 このことは、確率分布を理解するためにLLMエージェントの容量に関する好奇心を喚起する。 分析の結果, LLM エージェントは確率を理解できるが, 確率サンプリングに苦慮していることがわかった。
  論文  参考訳（メタデータ） (2024-04-13T16:59:28Z)
• The Unlocking Spell on Base LLMs: Rethinking Alignment via In-Context Learning [61.68787689234622]
  最近の研究であるLIMAは、アライメントチューニングに1Kの例のみを用いることで、アライメント性能も著しく向上することを示した。 これにより、アライメントチューニングがベースLLMをどのように変換するかという疑問が提起される。 本研究では,チューニングフリーとチューニングベースアライメントのギャップを戦略的プロンプトによって著しく低減できることを示す。
  論文  参考訳（メタデータ） (2023-12-04T00:46:11Z)
• How to Handle Different Types of Out-of-Distribution Scenarios in Computational Argumentation? A Comprehensive and Fine-Grained Field Study [59.13867562744973]
  この研究は、オフ・オブ・ディストリビューション(OOD)シナリオにおけるLMの能力を体系的に評価する。 このような学習パラダイムの有効性は,OODの種類によって異なることがわかった。 具体的には、ICLはドメインシフトに優れているが、プロンプトベースの微調整はトピックシフトに勝っている。
  論文  参考訳（メタデータ） (2023-09-15T11:15:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。