論文の概要: From Echo Chambers to Epistemic Monoculture: Large Language Models Present Temporally Contingent Partisan Alignments as Knowledge

• arxiv url: http://arxiv.org/abs/2609.07735v1
• Date: Mon, 07 Sep 2026 16:41:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 21:09:14.260933
• Title: From Echo Chambers to Epistemic Monoculture: Large Language Models Present Temporally Contingent Partisan Alignments as Knowledge
• Title（参考訳）: エコーチャンバーからてんかんモノカルチャーへ:大言語モデル : 時を同じくするパルチザンアライメントを知識として
• Abstract要約: 2024年モデルのトレーニングカットオフを利用した実験を行った。 このモデルでは, 事実を意見と区別するメカニズムが無く, 時空間的なパルチザンのアライメントを知識として提示する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language models (LLMs) are rapidly becoming an interface between citizens and political information. They are often regarded as "a better Google." While this analogy might work for some instances, it is unintuitively problematic for democratic politics. A search engine retrieves human-authored documents, while a language model generates novel text that necessarily embeds invisible framing decisions. Because conveying knowledge involves framing, a system that generates answers cannot serve as a neutral conduit to "all human knowledge." Instead, these systems are becoming a new kind of political intermediary. Mechanistic evidence shows that partisan identity is encoded as a locatable geometric direction inside the Llama 3.1 8B model, and that alignment training masks rather than removes this structure. Building on that evidence, we present steering experiments that exploit a model's training cutoff in 2024. This cutpoint auspiciously falls just before a dramatic realignment in American politics marked by the second Trump administration and the MAHA transformation of health politics, providing us with a natural experiment. We find that the model presents temporally contingent partisan alignments as knowledge, with no mechanism for distinguishing fact from opinion. This reality moves the information environment beyond the echo chamber toward an epistemic monoculture where language models, purporting to summarize "all human knowledge" are, in actuality, simply magnifying the cultural and partisan divides inherent in their training data.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、市民と政治情報のインターフェースとして急速になってきている。 しばしば「より良いGoogle」と見なされる。 このアナロジーはいくつかのケースでは有効かもしれないが、民主主義政治では意図しない問題である。 検索エンジンは、人間が作成した文書を検索し、言語モデルは、必ずしも目に見えないフレーミング決定を埋め込む新しいテキストを生成する。 知識の伝達はフレーミングを伴うため、答えを生成するシステムは「すべての人間の知識」の中立的な導管として機能することができない。 代わりに、これらのシステムは新しいタイプの政治仲介者になりつつある。 力学的な証拠は、パルチザンのアイデンティティがラマ3.1の8Bモデルの中で位置可能な幾何学的方向として符号化されており、アライメントトレーニングマスクがこの構造を除去するよりむしろ除去することを示している。 その証拠に基づいて、2024年にモデルのトレーニング遮断を利用したステアリング実験を示す。 このカットポイントは、第2次トランプ政権と健康政策のMAHA転換を特徴とするアメリカの政治の劇的な再編成の直前に、われわれに自然な実験を提供する。 このモデルでは, 事実を意見と区別するメカニズムが無く, 時間的に連続したパルチザンのアライメントを知識として提示する。 この現実は、情報環境をエコーチャンバーを超えて、"すべての人間の知識"を要約する言語モデルが、単に、そのトレーニングデータに固有の文化とパルチザンの分割を拡大しているという、疫学的なモノカルチャーへと移行する。

関連論文リスト

• The Amplifying Mirror: Locating and Steering the Partisan Direction inside a Large Language Model [0.0]
  モデルの活性化空間において、パルチザンの政治的アイデンティティがコード化されていることを示す。 米国議会の現職議員からのツイート190,491件をラベル付きトレーニングデータとして使用し、Llama 3.1 8Bインストラクトモデルの隠れ状態に関する線形プローブを訓練する。
  論文  参考訳（メタデータ） (2026-06-07T19:17:02Z)
• The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires [0.0]
  本稿では, 民主的オントロジーの欠陥を特定し, 検証する。 モデルのデフォルトオントロジーは、市民構造ではなく独立に組織されている。 最も深い欠点は役割であり、ある人が何をしているかというモデルの表現は、共通のアイデンティティではなく、ほとんど完全に個人に当てはまる。
  論文  参考訳（メタデータ） (2026-04-04T21:05:31Z)
• Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models [57.834711966432685]
  哲学者ハリー・フランクフルト(Harry Frankfurt)によって概念化されたブルシット(Bullshit)は、その真理の価値を問わない言明を指す。 本稿では,大言語モデルの真偽に対する無関心を定量化する新しい指標であるブルシット指数を紹介する。 我々は、政治的文脈で一般的な機械いじめを観察し、軽快な言葉が支配的な戦略である。
  論文  参考訳（メタデータ） (2025-07-10T07:11:57Z)
• Generative Exaggeration in LLM Social Agents: Consistency, Bias, and Toxicity [2.3997896447030653]
  ソーシャルメディア上での政治談話のシミュレーションにおいて,Large Language Models (LLM) がどのように振る舞うかを検討する。 我々は、実ユーザ1,186名に基づくLCMエージェントを構築し、制御された条件下で政治的に健全なツイートに返信するよう促す。 よりリッチな文脈化によって内部の一貫性が向上するだけでなく、分極、スタイリングされた信号、有害な言語も増幅される。
  論文  参考訳（メタデータ） (2025-07-01T10:54:51Z)
• Representation Bias in Political Sample Simulations with Large Language Models [54.48283690603358]
  本研究は,大規模言語モデルを用いた政治サンプルのシミュレーションにおけるバイアスの同定と定量化を目的とする。 GPT-3.5-Turboモデルを用いて、米国選挙研究、ドイツ縦割り選挙研究、ズオビアオデータセット、中国家族パネル研究のデータを活用する。
  論文  参考訳（メタデータ） (2024-07-16T05:52:26Z)
• DocNet: Semantic Structure in Inductive Bias Detection Models [0.4779196219827508]
  本稿では,新しい,インダクティブで低リソースなドキュメント埋め込みと政治的バイアス検出モデルであるDocNetを紹介する。 文書レベルのグラフ埋め込みに代表される、対立する政治的側からのニュース記事の意味的構造は、大きな類似性を持っていることを実証する。
  論文  参考訳（メタデータ） (2024-06-16T14:51:12Z)
• SADAS: A Dialogue Assistant System Towards Remediating Norm Violations in Bilingual Socio-Cultural Conversations [56.31816995795216]
  SADAS(Socially-Aware Dialogue Assistant System)は、会話が敬意と理解で広がることを保証するためのシステムである。 本システムの新しいアーキテクチャは,(1)対話に存在する規範のカテゴリを特定すること,(2)潜在的な規範違反を検出すること,(3)違反の深刻さを評価すること,(4)違反の是正を目的とした対策を実施すること,を含む。
  論文  参考訳（メタデータ） (2024-01-29T08:54:21Z)
• InfoPattern: Unveiling Information Propagation Patterns in Social Media [59.67008841974645]
  InfoPatternは、言語と人間のイデオロギーの相互作用に焦点を当てている。 1) 反対のイデオロギーコミュニティからの反対反応をシミュレートするレッドチーム,(2) メッセージ中の政治的感情を識別するスタンス検出,(3) 情報伝播グラフの発見により,様々なコミュニティにおけるクレームの進化が時間とともに明らかにされる。
  論文  参考訳（メタデータ） (2023-11-27T09:12:35Z)
• Getting aligned on representational alignment [93.08284685325674]
  本研究では,認知科学,神経科学,機械学習における表現的アライメントの研究を行う。 重複する関心にもかかわらず、これらの分野の間には知識の伝達が限られている。 本稿では,表現アライメント研究のための共通言語として機能する統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-18T17:47:58Z)
• Physics of Language Models: Part 3.2, Knowledge Manipulation [51.68385617116854]
  本稿では,4つの基本的な知識操作タスクについて検討する。 言語モデルは知識検索に優れるが、最も単純な分類や比較タスクにも耐え難い。 また, GPT-4のような近代的な事前学習言語モデルにも適用できる。
  論文  参考訳（メタデータ） (2023-09-25T17:50:41Z)
• The Face of Populism: Examining Differences in Facial Emotional Expressions of Political Leaders Using Machine Learning [50.24983453990065]
  私たちは15カ国の政治指導者の220本のYouTubeビデオのサンプルをディープラーニングで処理しています。 ポピュリスト・レトリックの度合いが異なるリーダー群間での負の感情の平均スコアの統計的に有意な差を観察した。
  論文  参考訳（メタデータ） (2023-04-19T18:32:49Z)
• Large Language Models Can Be Used to Estimate the Latent Positions of Politicians [3.9940425551415597]
  既存の政治家の潜伏姿勢を推定するアプローチは、関連するデータが限られると失敗することが多い。 我々は、生成的大言語モデルに埋め込まれた知識を活用して、特定の政治的・政策的な側面に沿って議員の立場を測定する。 我々は、リベラル保守的イデオロギー、銃規制、中絶に関する米国上院議員の立場に関する新しい措置を見積もる。
  論文  参考訳（メタデータ） (2023-03-21T17:48:00Z)
• Censorship of Online Encyclopedias: Implications for NLP Models [0.0]
  政府による抑圧、検閲、および自己検閲が、トレーニングデータおよびそれらから引き出すアプリケーションに与える影響を示す。 オンライン中国語百科事典であるBaidu Baikeでトレーニングされた単語埋め込みは、形容詞とさまざまな概念の間に非常に異なる関係があることを示します。 本論文では, 政府の抑圧, 検閲, 自己検閲が, トレーニングデータやそれらの応用にどのように影響するかを示す。
  論文  参考訳（メタデータ） (2021-01-22T19:09:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。