論文の概要: AI-Mediated Communication Can Steer Collective Opinion

• arxiv url: http://arxiv.org/abs/2605.16245v1
• Date: Fri, 15 May 2026 17:49:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 17:44:16.36178
• Title: AI-Mediated Communication Can Steer Collective Opinion
• Title（参考訳）: AIによるコミュニケーションは、集合的な意見を促進する
• Authors: Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter,
• Abstract要約: 本研究では,大言語モデル (LLM) が,競合するトピックに関する人文テキストの編集を指示した場合に,指向性バイアスをもたらすことを示す。 人対人コミュニケーションにおいてAIによって導入されたバイアスは、ネットワークを通じて増幅され、集団的意見の方向性を変えることができることを示す。 我々は、X 上の "Explain this post" 機能を監査し、中絶関連コンテンツに関する Grok のアウトプットに、生命前バイアスの証拠を見出す。
• 参考スコア（独自算出の注目度）: 7.2426367117188635
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative artificial intelligence (AI) is increasingly integrated into the online platforms where humans exchange opinions; large language models (LLMs) now polish users' posts on LinkedIn and provide context for content shared on X. While prior work has shown that AI can express biased opinions and shape individuals' opinions during human-AI interactions, less attention has been paid to its influence on collective opinion formation when mediating human-to-human communication. We address this gap via a combination of empirical and theoretical analyses. We show empirically that LLMs from multiple popular families introduce directional biases when instructed to edit human-written texts on contested topics, for example, nudging texts in favor of gun control and against atheism. Building on this observation, we introduce a mathematical model of opinion dynamics in which an AI system sits between users on a social network, transforming the opinions they express and perceive. By analytically characterizing the equilibrium of this model and performing simulations on real social network data, we show that biases introduced by AI in human-to-human communication can be amplified through the network and shift collective opinion in their direction. In light of these findings, we investigate whether such biases are controllable by online platforms. We audit the "Explain this post" feature on X and find evidence of pro-life bias in Grok's outputs on abortion-related content, which we trace back to specific design choices. We conclude with a discussion of the broader implications of our findings in relation to ongoing legislative efforts in the European Union.
• Abstract（参考訳）: ジェネレーティブ人工知能(AI)は、意見交換を行うオンラインプラットフォームにますます統合されている。大きな言語モデル(LLM)は、LinkedIn上のユーザの投稿を洗練し、Xで共有されたコンテンツのためのコンテキストを提供する。以前の研究では、AIは偏見のある意見を表現し、人間とAIのインタラクションの間、個人の意見を形作ることができるが、人間と人間のコミュニケーションを仲介する際の、集団的な意見の形成に対するその影響にはあまり注意が払われていない。 このギャップを経験的および理論的分析の組み合わせによって解決する。 複数の人気家族のLSMは、例えば銃規制や無神論に反対するテキストをヌードするなど、競合するトピックに関する人文テキストを編集するよう指示されたときに、指向性バイアスを導入することを実証的に示す。 この観察に基づいて、ソーシャルネットワーク上のユーザ間でAIシステムが配置され、それらが表現し、知覚する意見が変換される、意見力学の数学的モデルを導入する。 このモデルの均衡を解析的に特徴付け、実際のソーシャルネットワークデータ上でシミュレーションを行うことで、人間間通信におけるAIによって導入されたバイアスをネットワークを通じて増幅し、集団的意見の方向性を変えることができることを示す。 これらの知見を踏まえ、このようなバイアスがオンラインプラットフォームで制御可能であるかどうかを考察する。 我々は、X 上の "Explain this post" 機能を監査し、Grok の中絶関連コンテンツに対する出力に生前のバイアスの証拠を見つけ、それが特定の設計選択に遡る。 我々は、欧州連合における継続的な立法活動に関連して、我々の研究結果のより広範な意味に関する議論を締めくくった。

関連論文リスト

• Interpretable Debiasing of Vision-Language Models for Social Fairness [55.85977929985967]
  本稿では,視覚・言語モデルに社会的属性ニューロンを局在させる,解釈可能なモデルに依存しないバイアス緩和フレームワークDeBiasLensを紹介する。 社会属性ラベルを含まない顔画像やキャプションデータセットでSAEを訓練し、特定の人口動態に高い応答性を持つニューロンを明らかにする。 我々の研究は、未来の監査ツールの基礎を築き、新興の現実世界のAIシステムにおける社会的公正性を優先します。
  論文  参考訳（メタデータ） (2026-02-27T13:37:11Z)
• Operational Validation of Large-Language-Model Agent Social Simulation: Evidence from Voat v/technology [59.63189507373199]
  私たちは、2014年から2020年にかけて活動しているRedditのようなオルタナティブなニュースアグリゲータとディスカッションプラットフォームであるVoatをモデルとした技術コミュニティシミュレーションを構築しました。 YSocialフレームワークを使用して、Voatの共有URLからサンプリングされた技術リンクの固定カタログでシミュレーションをシードする。 エージェントは、リンクとテキストの投稿、スレッド化された返信、日々のアクティビティサイクルのためのプラットフォームルールの下で投稿、返信、反応を生成する。 結果は、よく知られたオンライン規則性を示す: 類似の活動リズム、ヘビーテール参加、疎低クラスタリング相互作用ネットワーク、コア周辺構造、Voatとのトピックアライメント、高毒性
  論文  参考訳（メタデータ） (2025-08-29T16:06:27Z)
• CoCoNUTS: Concentrating on Content while Neglecting Uninformative Textual Styles for AI-Generated Peer Review Detection [60.52240468810558]
  我々は、AI生成ピアレビューの詳細なデータセットの上に構築されたコンテンツ指向ベンチマークであるCoCoNUTSを紹介する。 また、マルチタスク学習フレームワークを介してAIレビュー検出を行うCoCoDetを開発し、レビューコンテンツにおけるAIのより正確で堅牢な検出を実現する。
  論文  参考訳（メタデータ） (2025-08-28T06:03:11Z)
• Modeling Human Responses to Multimodal AI Content [10.65875439980452]
  MhAIMデータセットには154,552のオンラインポストが含まれている(うち111,153がAI生成) 私たちの人間による研究は、投稿にテキストとビジュアルの両方が含まれている場合、人々はAIコンテンツを特定するのがより優れていることを示している。 マルチモーダル情報に予測応答を組み込むことにより,ユーザの問い合わせに応答するエージェントシステムであるT-Lensを提案する。
  論文  参考訳（メタデータ） (2025-08-14T15:55:19Z)
• Passing the Turing Test in Political Discourse: Fine-Tuning LLMs to Mimic Polarized Social Media Comments [0.0]
  本研究では、微調整された大言語モデル(LLM)が、偏光言説を再現し増幅できる範囲について検討する。 Redditから抽出された政治的に課金された議論のキュレートされたデータセットを使用して、オープンソースのLCMを微調整して、コンテキスト認識とイデオロギー的に整合した応答を生成します。 結果は、パルチザンのデータに基づいてトレーニングすると、LLMは高い信頼性と挑発的なコメントを生成でき、しばしば人間によって書かれたものと区別できないことを示唆している。
  論文  参考訳（メタデータ） (2025-06-17T15:41:26Z)
• Analyzing User Perceptions of Large Language Models (LLMs) on Reddit: Sentiment and Topic Modeling of ChatGPT and DeepSeek Discussions [0.0]
  本研究の目的は、感情モデルとトピックモデリングを用いて、ChatGPTとDeepSeekに関するRedditの議論を分析することである。 レポートは、ユーザーがこのテクノロジーを信じているかどうか、そして彼らが未来と見なしているものについて言及している。
  論文  参考訳（メタデータ） (2025-02-22T17:00:42Z)
• Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• From Perils to Possibilities: Understanding how Human (and AI) Biases affect Online Fora [0.12564343689544843]
  レビューでは、ソーシャルメディア分析の文脈におけるソーシャルインタラクション、ユーザ生成コンテンツ、バイアスのダイナミクスについて考察する。 3つの重要な視点は、オンライン討論、オンラインサポート、人間とAIのインタラクションである。
  論文  参考訳（メタデータ） (2024-03-21T11:04:41Z)
• Rational Silence and False Polarization: How Viewpoint Organizations and Recommender Systems Distort the Expression of Public Opinion [4.419843514606336]
  オンライン談話の観察者がコミュニティの見解を信じるようになると、プラットフォームがどう影響するかを示す。 我々は,イデオロギー組織からのシグナルが修辞的強度の増大を促し,中程度の利用者の「合理的な沈黙」につながることを示す。 我々は、イデオロギー組織からの信号への露出を減らすなど、実装可能な実践的な戦略を特定できる。
  論文  参考訳（メタデータ） (2024-03-10T17:02:19Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Echo Chambers on Social Media: A comparative analysis [64.2256216637683]
  本研究では,4つのソーシャルメディアプラットフォーム上で100万ユーザが生成した100万個のコンテンツに対して,エコーチャンバーの操作的定義を導入し,大規模な比較分析を行う。 議論の的になっているトピックについてユーザの傾きを推測し、異なる特徴を分析してインタラクションネットワークを再構築する。 我々は、Facebookのようなニュースフィードアルゴリズムを実装するプラットフォームが、エコーチャンバの出現を招きかねないという仮説を支持する。
  論文  参考訳（メタデータ） (2020-04-20T20:00:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。