Fugu-MT 論文翻訳(概要): Pluralistic Alignment in Language Models: Objectives, Human References, and Preference Representations

論文の概要: Pluralistic Alignment in Language Models: Objectives, Human References, and Preference Representations

arxiv url: http://arxiv.org/abs/2610.24471v1
Date: Sat, 17 Oct 2026 05:32:24 GMT
ステータス: 情報取得中
システム内更新日: 2026-10-20 11:54:49.024993
Title: Pluralistic Alignment in Language Models: Objectives, Human References, and Preference Representations
Title（参考訳）: 言語モデルにおける多元的アライメント:目的、人的参照、および嗜好表現
Abstract要約: 我々は二層分類に関する文献を整理する。我々は、多元的アライメントと近隣領域に関する70の著作からなるプロトコル境界コーパスを合成する。次に、各目的を、パースペクティブの妥当性、条件の忠実度、分布の忠実度、支援、サブグループ推定の不確実性など、それを支持するために必要な証拠に結びつける。
参考スコア（独自算出の注目度）: 1.037026246853005
License:
Abstract: Pluralistic alignment aims to represent meaningful variation in human preferences rather than collapse heterogeneous judgments into a single target. Yet existing work often mixes three distinct questions: what pluralistic behavior a model should exhibit, whose preferences define the reference, and what evidence is sufficient to demonstrate success. We organize the literature around a two-layer taxonomy. Layer 1 distinguishes representing a range of human-supported viewpoints (Overton Pluralism), adapting faithfully to a specified perspective or preference condition (Steerable Pluralism), and matching the response distribution observed in a target population (Distributional Pluralism). Layer 2 distinguishes aggregate populations, countries and regions, and subgroups as human references. Preference representation, implementation mechanism, modality, and evidence quality are treated as cross-cutting design choices rather than additional forms of pluralism. We synthesize a protocol-bounded corpus of 70 works on pluralistic alignment and neighboring areas, using the objective-by-human-reference matrix to map existing approaches and identify underexplored combinations. The coded literature concentrates on Steerable Pluralism and Distributional Pluralism, while eligible Overton Pluralism work appears only at the aggregate-population level under our stated protocol. We then connect each objective to the evidence needed to support it, including perspective validity, conditional fidelity, distributional fidelity, support preservation, and uncertainty in subgroup estimates. Together, the taxonomy and evaluation framework clarify what current methods establish, where their claims exceed their evidence, and how future systems can represent disagreement without mistaking variation for faithful representation.
Abstract（参考訳）: 多元的アライメントは、不均一な判断を単一のターゲットに分解するのではなく、人間の嗜好の有意義な変化を表現することを目的としている。モデルが示すべき多元的行動、その好みが参照を定義すること、成功を示すのに十分な証拠である。我々は二層分類に関する文献を整理する。レイヤー1は、特定の視点や嗜好条件に忠実に適応し(ステアブル・プラジョニズム)、対象の集団で観測される応答分布(分配的プラジョニズム)を一致させることにより、様々な人的支援された視点(オーバートン・プラジョニズム)を表現している。層2は人口、国、地域、サブグループを人間の参照として区別する。優先表現、実装機構、モダリティ、エビデンス品質は、多元性の追加形式ではなく、横断的な設計選択として扱われる。我々は,多元的アライメントと周辺領域に関する70のプロトコル境界コーパスを,既存のアプローチをマッピングし,探索されていない組み合わせを同定するために,客観的・人間的参照行列を用いて合成する。符号化された文献は、ステアブル・プラウラリズムと分散・プラウラリズムに集中しているが、オーヴァートン・プラウラリズムの適格な研究は、我々の規定したプロトコルの下での総人口レベルにのみ現れている。次に、各目的を、視点的妥当性、条件的忠実度、分布的忠実度、支援保存性、サブグループ推定の不確実性など、それを支持するために必要な証拠に結びつける。同時に、分類学と評価の枠組みは、現在の方法の確立、彼らの主張が証拠を超越した場所、そして将来のシステムは、忠実な表現のバリエーションを誤ることなく、不一致を表現することができるかを明らかにする。

論文の概要: Pluralistic Alignment in Language Models: Objectives, Human References, and Preference Representations

関連論文リスト