論文の概要: Disentangling Interaction and Bias Effects in Opinion Dynamics of Large Language Models

• arxiv url: http://arxiv.org/abs/2509.06858v1
• Date: Mon, 08 Sep 2025 16:26:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:04.256983
• Title: Disentangling Interaction and Bias Effects in Opinion Dynamics of Large Language Models
• Title（参考訳）: 大規模言語モデルのオピニオンダイナミクスにおけるディエンタングリング相互作用とバイアス効果
• Authors: Vincent C. Brockers, David A. Ehrlich, Viola Priesemann,
• Abstract要約: 大きな言語モデルは、人間の意見のダイナミクスをシミュレートするためにますます使われています。 このようなバイアスを3つ解き、定量化するためのベイズ的枠組みを提案する。 このフレームワークを多段階の対話に適用すると、意見の軌跡はすぐに共有の魅力に収束する傾向があることが分かる。
• 参考スコア（独自算出の注目度）: 0.42481744176244507
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models are increasingly used to simulate human opinion dynamics, yet the effect of genuine interaction is often obscured by systematic biases. We present a Bayesian framework to disentangle and quantify three such biases: (i) a topic bias toward prior opinions in the training data; (ii) an agreement bias favoring agreement irrespective of the question; and (iii) an anchoring bias toward the initiating agent's stance. Applying this framework to multi-step dialogues reveals that opinion trajectories tend to quickly converge to a shared attractor, with the influence of the interaction fading over time, and the impact of biases differing between LLMs. In addition, we fine-tune an LLM on different sets of strongly opinionated statements (incl. misinformation) and demonstrate that the opinion attractor shifts correspondingly. Exposing stark differences between LLMs and providing quantitative tools to compare them to human subjects in the future, our approach highlights both chances and pitfalls in using LLMs as proxies for human behavior.
• Abstract（参考訳）: 大きな言語モデルは、人間の意見力学をシミュレートするためにますます使われていますが、真の相互作用の効果は、しばしば体系的なバイアスによって曖昧にされます。 このようなバイアスを3つ解き、定量化するためのベイズ的枠組みを提示する。 一 トレーニングデータにおける事前の意見に対する話題バイアス 二 質問によらず合意に賛成する合意バイアス 三 開始者の姿勢に対する偏見 この枠組みを多段階対話に適用すると、意見の軌跡は、時間とともに相互作用の影響が薄れ、LLM間でのバイアスの影響によって、すぐに共有の誘惑者に収束する傾向があることが分かる。 さらに,様々な意見文(誤報を含む)のセットにLDMを微調整し,意見の魅力がそれに応じて変化することを示す。 今後, LLMと人体の比較を行うための定量的ツールを提供することによって, LLMを人行動のプロキシとして利用する際の可能性と落とし穴の両方を強調した。

関連論文リスト

• MLLMs are Deeply Affected by Modality Bias [158.64371871084478]
  MLLM(Multimodal Large Language Models)の最近の進歩は、テキストや画像などの多様なモダリティを統合する上で、有望な成果を示している。 MLLMはモダリティバイアスに強く影響され、しばしば言語に依存し、視覚入力のような他のモダリティを過小評価する。 本稿では,MLLMはモダリティバイアスの影響を強く受けており,様々なタスクにまたがってその発現を明らかにする。
  論文  参考訳（メタデータ） (2025-05-24T11:49:31Z)
• Explicit vs. Implicit: Investigating Social Bias in Large Language Models through Self-Reflection [18.625071242029936]
  大規模言語モデル(LLM)は、生成されたコンテンツに様々なバイアスとステレオタイプを示すことが示されている。 本稿では,LLMにおける明示的偏見と暗黙的偏見を調査・比較するための体系的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-01-04T14:08:52Z)
• Diverging Preferences: When do Annotators Disagree and do Models Know? [92.24651142187989]
  我々は,4つのハイレベルクラスにまたがる10のカテゴリにまたがる相違点の分類法を開発した。 意見の相違の大部分は、標準的な報酬モデリングアプローチに反対している。 本研究は,選好の変化を識別し,評価とトレーニングへの影響を緩和する手法を開発する。
  論文  参考訳（メタデータ） (2024-10-18T17:32:22Z)
• Bias in the Mirror: Are LLMs opinions robust to their own adversarial attacks ? [22.0383367888756]
  大規模言語モデル(LLM)は、トレーニングデータとアライメントプロセスからバイアスを受け継ぎ、微妙な方法で応答に影響を与える。 LLMの2つのインスタンスが自己議論を行う新しいアプローチを導入し、反対の視点でモデルの中立バージョンを説得する。 我々は、モデルがどのようにしっかりとバイアスを保ち、誤った情報を強化するか、有害な視点に移行するかを評価する。
  論文  参考訳（メタデータ） (2024-10-17T13:06:02Z)
• Uncovering Biases with Reflective Large Language Models [2.5200794639628032]
  人間のラベル付きデータのバイアスとエラーは、機械学習にとって重要な課題である。 本稿では,多種多様な視点を明らかにするために,構造化逆対話を利用した反射型LLM対話フレームワーク RLDF を提案する。 実験の結果、RDDFは人間のラベル付きデータの制限を露呈しながら、公開コンテンツの潜在的なバイアスを特定することに成功した。
  論文  参考訳（メタデータ） (2024-08-24T04:48:32Z)
• A Theory of Response Sampling in LLMs: Part Descriptive and Part Prescriptive [53.08398658452411]
  大規模言語モデル(LLM)は、自律的な意思決定にますます活用されている。 このサンプリング行動が人間の意思決定と類似していることが示される。 統計的ノルムから規範的成分へのサンプルの偏りは、様々な現実世界の領域にまたがる概念に一貫して現れることを示す。
  論文  参考訳（メタデータ） (2024-02-16T18:28:43Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。