論文の概要: Narrowing the Horizon: Quantifying Topic Saliency Shifts in Generative Monoculture

• arxiv url: http://arxiv.org/abs/2609.35302v1
• Date: Mon, 28 Sep 2026 14:42:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 06:41:43.410567
• Title: Narrowing the Horizon: Quantifying Topic Saliency Shifts in Generative Monoculture
• Title（参考訳）: ホライゾンを狭める: 生成的モノカルチャーにおけるトピック・サリエンシシフトの定量化
• Abstract要約: 均質化が様々なモデルにまたがる多様な解の表現にどのように影響するかを示す。 我々はまた、この傾向に対応するための介入をテストし、特殊化されたモデルが幅広い視点を維持するのに役立つことを示した。 このことは、モノカルチャーのリスクを診断し、AIシステムがアイデアの多元主義を反映することを保証するために、トピック・サリエンシを監視することの重要性を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 3.5770998975242265
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Large Language Models (LLMs) become central to how we access and share information, they play an increasingly powerful role in shaping global knowledge. However, as these models evolve, their outputs risk converging into a \textit{generative monoculture}, where the diversity of perspectives they represent narrows over time. Studies at the model level often fail to pinpoint which specific topics or viewpoints are being marginalised or amplified in this process. In this paper, we introduce a method to measure shifts in topic saliency across model families, tracking what gains or loses prominence during post-training. Applying this approach to a case study of climate change discourse, we demonstrate how homogenisation affects the representation of diverse solutions across different models. We also test interventions to counter this trend, showing that specialised models can help preserve a broader range of perspectives. This underscores the importance of monitoring topic saliency to diagnose the risks of monoculture and to ensure AI systems reflect a pluralism of ideas. Data and Code are accessible \href{https://github.com/oriane/topic_saliency_shift}{here}.
• Abstract（参考訳）: 大きな言語モデル(LLM)が情報へのアクセスと共有の中心になるにつれ、グローバルな知識を形成する上で、ますます強力な役割を担っています。 しかしながら、これらのモデルが進化するにつれて、それらの出力は \textit{generative monoculture} に収束するリスクがあり、そこではそれらが時間とともに狭さを表す視点の多様性が表される。 モデルレベルでの研究は、このプロセスでどの特定のトピックや視点が辺境化されているか、あるいは増幅されているかを特定するのに失敗することが多い。 本稿では,モデル家族間のトピック・サリエンシの変化を測定する手法を提案する。 このアプローチを気候変動談話のケーススタディに適用し、同質化が様々なモデルにおける多様な解の表現にどのように影響するかを実証する。 我々はまた、この傾向に対応するための介入をテストし、特殊化されたモデルが幅広い視点を維持するのに役立つことを示した。 このことは、モノカルチャーのリスクを診断し、AIシステムがアイデアの多元主義を反映することを保証するために、トピック・サリエンシを監視することの重要性を浮き彫りにしている。 データとコードは、アクセス可能 \href{https://github.com/oriane/topic_saliency_shift}{here}。

関連論文リスト

• Breaking the Benchmark: Revealing LLM Bias via Minimal Contextual Augmentation [12.56588481992456]
  大規模言語モデルは、その表現と振舞いにステレオタイプ的バイアスを示すことが示されている。 3つのプラグ・アンド・プレイステップを含む,新規で汎用的な拡張フレームワークを提案する。 大規模言語モデルは入力の摂動に影響を受けやすいことが分かり、ステレオタイプに振る舞う可能性が高くなる。
  論文  参考訳（メタデータ） (2025-10-27T23:05:12Z)
• Epistemic Diversity and Knowledge Collapse in Large Language Models [42.81169404715417]
  大規模言語モデル(LLM)は、語彙的、意味的、スタイリスティックに同質なテキストを生成する傾向がある。 これは知識崩壊のリスクを生じさせ、同種LLMは時間とともにアクセス可能な情報範囲の縮小を仲介する。 LLM出力における実世界のクレームの変動など、疫学の多様性を測定するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-10-05T14:29:15Z)
• Preference Learning for AI Alignment: a Causal Perspective [55.2480439325792]
  私たちはこの問題を因果パラダイムに枠組み化し、永続的な課題を特定するための因果関係の豊富なツールボックスを提供します。 因果推論の文献を継承し、信頼性の高い一般化に必要な重要な仮定を特定する。 そこで本研究では, 因果関係に基づくアプローチがモデルロバスト性をいかに改善するかを, ナイーブ報酬モデルの障害モードを例示する。
  論文  参考訳（メタデータ） (2025-06-06T10:45:42Z)
• Interpreting Social Bias in LVLMs via Information Flow Analysis and Multi-Round Dialogue Evaluation [1.7997395646080083]
  大規模視覚言語モデル (LVLM) はマルチモーダルタスクにおいて顕著な進歩を遂げているが、社会的偏見も顕著である。 本稿では,情報フロー解析と多ラウンド対話評価を組み合わせた説明フレームワークを提案する。 実験により、LVLMは異なる人口集団の画像を処理する際に、情報利用の体系的な差異を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2025-05-27T12:28:44Z)
• The Clever Hans Mirage: A Comprehensive Survey on Spurious Correlations in Machine Learning [78.13481522957552]
  機械学習モデルは、入力の非本質的特徴と対応するラベルの間の急激な相関に敏感である。 本稿では,機械学習モデルにおける突発的相関に対処する既存の最先端手法の詳細な分類法とともに,この問題の包括的調査を行う。
  論文  参考訳（メタデータ） (2024-02-20T04:49:34Z)
• Foundational Models Defining a New Era in Vision: A Survey and Outlook [151.49434496615427]
  視覚シーンの構成的性質を観察し、推論する視覚システムは、我々の世界を理解するのに不可欠である。 モデルは、このようなモダリティと大規模なトレーニングデータとのギャップを埋めることを学び、コンテキスト推論、一般化、テスト時の迅速な機能を容易にした。 このようなモデルの出力は、例えば、バウンディングボックスを設けて特定のオブジェクトをセグメント化したり、画像や映像シーンについて質問したり、言語命令でロボットの動作を操作することで対話的な対話を行うなど、リトレーニングすることなく、人為的なプロンプトによって変更することができる。
  論文  参考訳（メタデータ） (2023-07-25T17:59:18Z)
• Fairness meets Cross-Domain Learning: a new perspective on Models and Metrics [80.07271410743806]
  クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。 いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。 本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
  論文  参考訳（メタデータ） (2023-03-25T09:34:05Z)
• Towards Reliable Assessments of Demographic Disparities in Multi-Label Image Classifiers [11.973749734226852]
  マルチラベル画像分類と,特に対象分類タスクについて検討する。 測定のための設計選択とトレードオフは、以前のコンピュータビジョン文学で議論されたよりもニュアンスが高い。 実装の詳細にだけ似ているが、評価の結論に大きな影響を及ぼすいくつかの設計選択を特定します。
  論文  参考訳（メタデータ） (2023-02-16T20:34:54Z)
• Causal Reasoning Meets Visual Representation Learning: A Prospective Study [117.08431221482638]
  解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。 人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。 本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
  論文  参考訳（メタデータ） (2022-04-26T02:22:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。