Fugu-MT 論文翻訳(概要): The Limits of Simulated Societies: How Post-Training and Survey Fine-Tuning Erase Cross-Cultural Variance

論文の概要: The Limits of Simulated Societies: How Post-Training and Survey Fine-Tuning Erase Cross-Cultural Variance

arxiv url: http://arxiv.org/abs/2609.25760v1
Date: Tue, 22 Sep 2026 06:55:46 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-23 18:04:04.25937
Title: The Limits of Simulated Societies: How Post-Training and Survey Fine-Tuning Erase Cross-Cultural Variance
Title（参考訳）: 模擬社会の限界--学習後, 微調整後における異文化間差異の実態と調査
Abstract要約: 多様な人間の人口をシミュレートするために大きな言語モデルを使用すると、計算社会科学の多くの側面を変える可能性がある。そこで我々は,分散保持とともに点精度を測定する診断フレームワークを開発した。我々は,SFT,DPO,GRPOを用いて,11のゼロショット言語モデルと5つの変種をワールドバリューサーベイデータに基づいて微調整した。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Using large language models (LLMs) to simulate diverse human populations has the potential to transform many aspects of computational social science, yet many evaluations score the average response rather than the spread of opinion within real groups. Here, we develop a diagnostic framework that measures point accuracy alongside dispersion retention, the ratio of predicted to human standard deviation ($\dr$), on 10{,}000 respondent--question pairs from the World Values Survey (WVS) spanning twelve countries and six continents. We evaluate eleven zero-shot language models and five variants fine-tuned on WVS data with SFT, DPO, and GRPO. We identify a failure mode we term \textit{consensus collapse}, where alignment training compresses outputs toward one stereotype per group. Along the post-training trajectory from the Llama~3.1 70B base to the Tulu~3 checkpoints, the first stage, supervised instruction tuning, removes half of the spread with minimal accuracy gain ($\dr$ 1.22 to 0.59; accuracy $+0.9$ points), the later stages do not restore it, and a gap opens between WEIRD and non-WEIRD countries that survey fine-tuning then deepens while pursuing higher point accuracy. The most accurate model (Tulu~3 70B-DPO fine-tuned on WVS, 57.9\%) keeps half the human spread overall ($\dr = 0.50$) and 11\% of it for Nigeria, against 0.70--0.87 for WEIRD countries. Raising the sampling temperature to 1.0 leaves the Wasserstein-1 distance ($\wone$) to human distributions unchanged for both fine-tuned DPO models, and GRPO on Qwen~3.5 9B does not restore the spread under either an accuracy reward or a distribution-shaped reward. Mixing the aligned model with an unaligned prior raises $\dr$ from 0.51 to 0.62 on a held-out split but leaves Nigeria at 0.36. Point accuracy alone therefore misjudges these simulators, and current post-training trades diversity for consensus.
Abstract（参考訳）: 大規模言語モデル(LLM)を用いて、多様な人間の人口をシミュレートすることは、計算社会科学の多くの側面を変える可能性があるが、多くの評価は、現実の集団における意見の拡散よりも平均的な反応を評価する。そこで本研究では,12カ国6大陸にまたがる世界価値調査(WVS)において,ヒト標準偏差(\dr$)とヒト標準偏差(10{,}000応答対)の予測値である点精度を測定する診断フレームワークを開発した。我々は,11のゼロショット言語モデルと5つの変種を,SFT,DPO,GRPOを用いてWVSデータに微調整した。ここでは、アライメントトレーニングによって出力をグループ毎に1つのステレオタイプに圧縮する「textit{consensus collapse}」と呼ばれる障害モードを特定する。 Llama~3.170BベースからTulu~3チェックポイントへの後トレーニング軌道に沿って、第1ステージは教師付き指導チューニングにより、最小精度のゲイン($\dr$1.22 to 0.59; 精度$+0.9$ポイント)でスプレッドの半分を除去し、後段はそれを復元せず、細調整を調査するWEIRD諸国と非WEIRD諸国の間でギャップが開き、より高いポイント精度を追求しながら深まります。最も正確なモデル(トゥル~370B-DPOはWVSで微調整され、57.9 %)は、全体の人口の半数($\dr = 0.50$)とナイジェリアの人口の11 %を保持し、WEIRD諸国は 0.70--0.87 である。サンプリング温度を1.0に上げると、微調整DPOモデルとQwen~3.5 9BのGRPOは精度の高い報酬と分布型の報酬の両方でスプレッドを回復しない。整合性のないモデルと整合性のない先行モデルを組み合わせると、保留の分割で$\dr$ が 0.51 から 0.62 に上昇するが、ナイジェリアは 0.36 に留まる。したがって、ポイント精度だけでこれらのシミュレータを誤解し、現在のトレーニング後の多様性はコンセンサスのために取引される。

論文の概要: The Limits of Simulated Societies: How Post-Training and Survey Fine-Tuning Erase Cross-Cultural Variance

関連論文リスト