論文の概要: Political Sorting Can Drive AI Models Apart Through User Feedback

• arxiv url: http://arxiv.org/abs/2609.28486v1
• Date: Tue, 11 Aug 2026 07:57:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.033515
• Title: Political Sorting Can Drive AI Models Apart Through User Feedback
• Title（参考訳）: 政治的ソーティングはAIモデルをユーザーからのフィードバックから切り離すことができる
• Abstract要約: 大規模言語モデルは急速に政治情報の重要な源になりつつある。 AIシステムは、政治的知識の共有基盤をサポートするだろうか? 政治的に異なるユーザが異なるモデルを選択すること、ユーザからのフィードバックから学んだことが、これらのモデルを政治的に分離し、結果として得られる違いがその後のモデル選択を形成すること、の3つの条件が成立すれば、政治的ソートはモデルの断片化を促進することができる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are rapidly becoming an important source of political information. This raises a fundamental question: will AI systems support a shared basis for political knowledge, or lead different political groups to rely on increasingly different models? Political sorting can drive model fragmentation if three conditions hold: politically different users select into different models, learning from user feedback pushes those models apart politically, and the resulting differences shape subsequent model choices. We call this self-reinforcing process the Centrifugal Alignment Spiral. We study its components in three steps. First, we draw on a human experiment showing that political identity predicts model choice. Second, we fine-tune language models on synthetic feedback reflecting predominantly Democratic or Republican preferences. Across five independent runs per model family, paired models diverged on 12-41% of unseen survey questions with large partisan gaps, and in every run the differences moved in the expected political direction; for some models, differentiation extended even to issue areas excluded from training. Pooling feedback across groups instead suppressed divergence. Third, an empirically anchored agent-based model shows what follows when political sorting and model adaptation operate together: models attract politically distinct audiences, learn from them, and diverge further. User feedback can therefore turn political sorting among AI users into durable differences between the models on which they rely for political information.
• Abstract（参考訳）: 大規模言語モデルは急速に政治情報の重要な源になりつつある。 AIシステムは、政治的知識の共有基盤をサポートするのか、それとも、異なる政治グループがますます異なるモデルに依存するようになるのか? 政治的に異なるユーザが異なるモデルを選択すること、ユーザからのフィードバックから学んだことが、これらのモデルを政治的に分離し、結果として得られる違いがその後のモデル選択を形成すること、の3つの条件が成立すれば、政治的ソートはモデルの断片化を促進することができる。 我々はこの自己強化プロセスを遠心アライメントスパイラルと呼んでいる。 我々はその構成要素を3つのステップで研究する。 まず、政治的アイデンティティがモデル選択を予測することを示す人間の実験について説明する。 第2に、主に民主党や共和党の好みを反映した合成フィードバックに関する言語モデルを微調整する。 モデルファミリーごとの5つの独立した実行のうち、ペア化されたモデルは、未確認の質問の12～41%で大きなパルチザンギャップを持ち、全ての実行において違いは期待される政治的方向に移動した。 グループ間のフィードバックのポーリングは、代わりにばらつきを抑える。 第三に、実証的に固定されたエージェントベースのモデルでは、政治的ソートとモデル適応が一緒に動作するときに、どのようなことが示される:モデルは政治的に異なる聴衆を引きつけ、それらから学び、さらに多様化する。 したがって、ユーザーからのフィードバックは、AIユーザー間の政治的ソートを、政治的情報に頼っているモデル間の永続的な違いに変えることができる。

関連論文リスト

• How Identity and Opinion Shape Political Sycophancy in LLMs [17.0131514909503]
  我々は、政治的梅毒の2つの異なる引き金、すなわち意見とアイデンティティを混乱させる枠組みを導入する。 450の政治的ジレンマを手動で検査し,13の大規模言語モデルの評価を行った。 以上の結果から, LLMの政治的姿勢は, 固定形質というよりも, 対話的かつ安定的に脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2026-08-29T11:12:03Z)
• Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models [45.41676783204022]
  大規模言語モデル(LLM)におけるバイアスの様々なプロキシ尺度について検討する。 MMLU (Multi-subject benchmark) を用いた人格評価モデルでは, スコアの無作為かつ大半がランダムな差が生じることがわかった。 LLMアシスタントメモリとパーソナライゼーションの最近の傾向により、これらの問題は異なる角度から開かれている。
  論文  参考訳（メタデータ） (2025-06-12T08:47:40Z)
• Only a Little to the Left: A Theory-grounded Measure of Political Bias in Large Language Models [4.8869340671593475]
  プロンプトベースの言語モデルにおける政治的バイアスは、パフォーマンスに影響を与える可能性がある。 我々は、インプットプロンプトを多種多様にテストし、迅速な感度を考慮しつつ、サーベイ設計原則に基づいて構築する。 政治的偏見の尺度は不安定な場合が多いが、一般的には指導訓練モデルでは左派である。
  論文  参考訳（メタデータ） (2025-03-20T13:51:06Z)
• Beyond Partisan Leaning: A Comparative Analysis of Political Bias in Large Language Models [6.549047699071195]
  本研究では、大規模言語モデルにおける政治的行動を評価するために、ペルソナフリーでトピック固有のアプローチを採用する。 米国、ヨーロッパ、中国、中東で開発された43の大規模言語モデルからの反応を分析した。 発見は、ほとんどのモデルが中心左あるいは左イデオロギー的にリーンであり、非党派的エンゲージメントパターンが異なることを示している。
  論文  参考訳（メタデータ） (2024-12-21T19:42:40Z)
• Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Representation Bias in Political Sample Simulations with Large Language Models [54.48283690603358]
  本研究は,大規模言語モデルを用いた政治サンプルのシミュレーションにおけるバイアスの同定と定量化を目的とする。 GPT-3.5-Turboモデルを用いて、米国選挙研究、ドイツ縦割り選挙研究、ズオビアオデータセット、中国家族パネル研究のデータを活用する。
  論文  参考訳（メタデータ） (2024-07-16T05:52:26Z)
• A Roadmap to Pluralistic Alignment [49.29107308098236]
  本稿では,言語モデルをテストベッドとして用いた多元的アライメントのロードマップを提案する。 我々は,AIシステムにおける多元性を定義・運用する3つの可能な方法を特定し,定式化する。 我々は、現在のアライメント技術は、基本的に多元的AIに限られていると論じる。
  論文  参考訳（メタデータ） (2024-02-07T18:21:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。