論文の概要: Pretrained Persona Mixture Models and Tandem Models for Human Simulation
- arxiv url: http://arxiv.org/abs/2609.22607v1
- Date: Fri, 18 Sep 2026 21:50:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.503555
- Title: Pretrained Persona Mixture Models and Tandem Models for Human Simulation
- Title(参考訳): 人体シミュレーションのための事前訓練された人体混合モデルとタンデムモデル
- Abstract要約: パーソナ混合モデル(PMM)は、よく校正された人間のモデルのためのもので、現在、事前訓練されたベースモデルとして実現されている。
PMMは命令調整モデルよりも正確な予測を行い、人間のダイアログに見られる語彙的・意味的・実践的な多様性を保ちます。
- 参考スコア(独自算出の注目度): 20.677767265424325
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We argue here that the current dominant practice in LLM human simulation: prompting instruction-tuned assistant language models to role-play personas, is inaccurate and produces stereotyped predictions (lacking natural diversity). It has previously been shown that LLMs can be bound to personas using naturalistic, freetext dialog avoiding stereotyping. Here we show that binding can also be achieved using short, individual samples of dialog from specific people. Demographics can be added later without negative effects by simply querying the model. We use the term Persona Mixture Models (PMMs) for well-calibrated human models, currently realized as pretrained base models. We show that PMMs produce more accurate predictions than instruction-tuned models and retain more of the lexical, semantic, and pragmatic diversity found in human dialog. We measure realism and diversity of LLMs simulating human interlocutors across a diverse set of corpora spanning open-domain text, human-AI chat, and task-oriented dialogue between human speakers. However, base pretrained models can produce out-of-domain dialog and may lose some of the human's internal state over long contexts. We propose and explore tandem models which combine a pre-trained model with an instruction-tuned supervisor. Tandem models achieve the best overall accuracy and diversity in our experiments.
- Abstract(参考訳): ここでは、LLMの人間シミュレーションにおける現在の支配的な実践である、ロールプレイのペルソナに命令学習されたアシスタント言語モデルを促すことは、不正確であり、ステレオタイプ予測(自然多様性を損なう)を生み出している、と論じる。
LLMは、ステレオタイピングを避けるために、自然主義的な自由テキストダイアログを用いてペルソナにバウンドできることが以前は示されていた。
ここでは、特定の人物からの短い個別のダイアログのサンプルを用いて、バインディングが実現可能であることを示す。
デモグラフィックは、単にモデルに問い合わせることによって、ネガティブな影響なしに後から追加することができる。
我々は、Persona Mixture Models (PMMs) という用語を、十分に校正された人間のモデルに使用し、現在、事前訓練されたベースモデルとして実現している。
PMMは命令調整モデルよりも正確な予測を行い、人間のダイアログに見られる語彙的・意味的・実践的な多様性を保ちます。
我々は、オープンドメインテキスト、ヒューマンAIチャット、ヒューマンスピーカー間のタスク指向対話にまたがる多種多様なコーパスにおいて、人間の対話者をシミュレートするLLMのリアリズムと多様性を測定する。
しかし、基礎となる事前訓練されたモデルはドメイン外ダイアログを生成することができ、長いコンテキストにおいて人間の内部状態の一部を失う可能性がある。
本研究では,事前学習モデルと指導訓練スーパーバイザを組み合わせたタンデムモデルの提案と探索を行う。
タンデムモデルは我々の実験で最高の総合的精度と多様性を達成する。
関連論文リスト
- Bias Beneath the Tone: Empirical Characterisation of Tone Bias in LLM-Driven UX Systems [1.43293957516771]
大規模言語モデルは、デジタルパーソナルアシスタントのような会話システムでますます使われている。
大規模言語モデルの隠れた行動特性としてのトーンバイアスについて検討する。
私たちは、トーンバイアスが体系的で、測定可能であり、公正で信頼できる会話型AIの設計に関係していることを示します。
論文 参考訳(メタデータ) (2025-12-23T00:41:48Z) - TwinVoice: A Multi-dimensional Benchmark Towards Digital Twins via LLM Persona Simulation [55.55404595177229]
大型言語モデル(LLM)は、人間のような能力を示す。
TwinVoiceは、さまざまな現実世界のコンテキストにわたるペルソナシミュレーションを評価するためのベンチマークである。
論文 参考訳(メタデータ) (2025-10-29T14:00:42Z) - DialogueForge: LLM Simulation of Human-Chatbot Dialogue [7.038493120049631]
人間のチャットボットスタイルでAIシミュレーション会話を生成するためのフレームワークとして,ダイアログForgeを提案する。
生成された会話毎に、DialogueForgeは実際の人間とチャットボットのインタラクションから抽出されたシードプロンプトを使用する。
シミュレーションされた会話の質を評価し、UniEvalとGTEvalの評価プロトコルを用いて異なるモデルを比較した。
論文 参考訳(メタデータ) (2025-07-21T16:08:19Z) - Does Your AI Agent Get You? A Personalizable Framework for Approximating Human Models from Argumentation-based Dialogue Traces [4.178382980763478]
本稿では,議論に基づく対話を通じて,AIエージェントが人間の理解に適応できるフレームワークを提案する。
パーソナと呼ばれる我々のアプローチは、確率理論に基づいて、確率重み付け関数とベイズ的信念更新機構を統合する。
我々はペルソナが進化する人間の信念を効果的に捉え、パーソナライズされた相互作用を促進し、最先端の手法を上回ることを実証する。
論文 参考訳(メタデータ) (2025-02-22T22:37:16Z) - PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
データ構築とモデルチューニングを改善するためのフレームワークPersLLMを提案する。
データ利用が不十分な場合には、Chain-of-Thoughtプロンプトやアンチインダクションといった戦略を取り入れます。
厳密な振舞いパターンを設計し,モデルの性格の特異性とダイナミズムを高めるために自動DPOを導入する。
論文 参考訳(メタデータ) (2024-07-17T08:13:22Z) - What do Large Language Models Learn beyond Language? [10.9650651784511]
事前学習モデルは、非事前学習ニューラルモデルに匹敵する性能を著しく上回っていることがわかった。
実験により、多言語テキストやコンピュータコードで事前学習しても、事前学習の効果が持続することが明らかとなった。
その結果,言語モデルの事前学習能力と帰納学習能力との間には,未解明の深い関係があることが示唆された。
論文 参考訳(メタデータ) (2022-10-21T23:43:13Z) - Using Large Language Models to Simulate Multiple Humans and Replicate
Human Subject Studies [7.696359453385686]
チューリング実験(TE)と呼ばれる新しいタイプの試験を導入する。
TEは、言語モデルの特定の人間の振る舞いのシミュレーションにおいて一貫した歪みを明らかにすることができる。
我々は、異なる言語モデルが、古典的な経済、精神言語、社会心理学実験をいかにうまく再現できるかを比較した。
論文 参考訳(メタデータ) (2022-08-18T17:54:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。