論文の概要: Reasoning Boosts Opinion Alignment in LLMs

• arxiv url: http://arxiv.org/abs/2603.01214v1
• Date: Sun, 01 Mar 2026 18:19:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-03 19:50:56.571081
• Title: Reasoning Boosts Opinion Alignment in LLMs
• Title（参考訳）: 推論はLLMにおけるオピニオンアライメントを高める
• Authors: Frédéric Berdoz, Yann Billeter, Yann Vonlanthen, Roger Wattenhofer,
• Abstract要約: 推論が意見の整合性を改善するかを検討する。 強化学習(RL)によって実現された数学的推論の最近の進歩により、我々は、プロファイルに一貫性のある解を生成するためにモデルを訓練した。 我々は、米国、ヨーロッパ、スイスの政治を対象とする3つのデータセットに対するアプローチを評価した。
• 参考スコア（独自算出の注目度）: 30.074886272342777
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Opinion modeling aims to capture individual or group political preferences, enabling applications such as digital democracies, where models could help shape fairer and more popular policies. Given their versatility, strong generalization capabilities, and demonstrated success across diverse text-to-text applications, large language models (LLMs) are natural candidates for this task. However, due to their statistical nature and limited causal understanding, they tend to produce biased opinions when prompted naively. In this work, we study whether reasoning can improve opinion alignment. Motivated by the recent advancement in mathematical reasoning enabled by reinforcement learning (RL), we train models to produce profile-consistent answers through structured reasoning. We evaluate our approach on three datasets covering U.S., European, and Swiss politics. Results indicate that reasoning enhances opinion modeling and is competitive with strong baselines, but does not fully remove bias, highlighting the need for additional mechanisms to build faithful political digital twins using LLMs. By releasing both our method and datasets, we establish a solid baseline to support future research on LLM opinion alignment.
• Abstract（参考訳）: オピニオン・モデリングは、個人や集団の政治的嗜好を捉えることを目的としており、デジタル民主主義のような応用を可能にし、モデルがより公平で一般的な政策を形作るのに役立つ。 汎用性、強力な一般化能力、多種多様なテキスト・テキスト・アプリケーションで成功したことを考えると、このタスクには大きな言語モデル(LLM)が自然な候補となる。 しかし、その統計的性質と限られた因果的理解のため、彼らは神経的に刺激されたときに偏見のある意見を生み出す傾向にある。 本研究では,推論が意見の整合性を向上させるかどうかを検討する。 強化学習(RL)によって実現された数学的推論の最近の進歩により、構造的推論を通して、プロファイル一貫性のある解を生成するためにモデルを訓練する。 我々は、米国、ヨーロッパ、スイスの政治を対象とする3つのデータセットに対するアプローチを評価した。 その結果、推論は意見モデリングを強化し、強いベースラインと競合するが、偏見を完全に排除することはなく、LLMを用いた忠実な政治的デジタル双生児を構築するための追加のメカニズムの必要性を強調している。 提案手法とデータセットの両方を公開することにより,LCMの意見アライメントに関する今後の研究を支援するための強固なベースラインを確立する。

関連論文リスト

• FairReason: Balancing Reasoning and Social Bias in MLLMs [54.26091556079722]
  MLLM(Multimodal Large Language Models)は、様々なタスクやモダリティにおいて、最先端の成果をすでに達成している。 近年の研究では、推論能力をさらに推し進めるために、先進的なプロンプトスキームと後続の微調整を探求している。
  論文  参考訳（メタデータ） (2025-07-30T19:57:22Z)
• Passing the Turing Test in Political Discourse: Fine-Tuning LLMs to Mimic Polarized Social Media Comments [0.0]
  本研究では、微調整された大言語モデル(LLM)が、偏光言説を再現し増幅できる範囲について検討する。 Redditから抽出された政治的に課金された議論のキュレートされたデータセットを使用して、オープンソースのLCMを微調整して、コンテキスト認識とイデオロギー的に整合した応答を生成します。 結果は、パルチザンのデータに基づいてトレーニングすると、LLMは高い信頼性と挑発的なコメントを生成でき、しばしば人間によって書かれたものと区別できないことを示唆している。
  論文  参考訳（メタデータ） (2025-06-17T15:41:26Z)
• Profiling News Media for Factuality and Bias Using LLMs and the Fact-Checking Methodology of Human Experts [29.95198868148809]
  本稿では,プロのファクトチェッカーがアウトレット全体の事実と政治的偏見を評価するために使用する基準をエミュレートする新しい手法を提案する。 メディアの人気と地域がモデル性能に与える影響を詳細に分析する。
  論文  参考訳（メタデータ） (2025-06-14T15:49:20Z)
• How LLMs Fail to Support Fact-Checking [4.918358353535447]
  LLM(Large Language Models)は、オンラインの誤報を増幅するが、誤報に対処することを約束する。 我々は、政治的誤報に対処する3つのLDM(ChatGPT、Gemini、Claude)の能力を実証的に研究する。 以上の結果から,モデルが実際のニュースソースで回答を得るのに苦労し,左利きの情報源を引用する傾向が示唆された。
  論文  参考訳（メタデータ） (2025-02-28T07:12:03Z)
• Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Interpreting Bias in Large Language Models: A Feature-Based Approach [0.0]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクで顕著なパフォーマンスを示した。 本稿では, 特徴量に基づく新しい解析手法により, LLM内のバイアスの伝播について検討する。
  論文  参考訳（メタデータ） (2024-06-18T07:28:15Z)
• Whose Side Are You On? Investigating the Political Stance of Large Language Models [56.883423489203786]
  大規模言語モデル(LLM)の政治的指向性について,8つのトピックのスペクトルにわたって検討する。 我々の調査は、中絶からLGBTQ問題まで8つのトピックにまたがるLLMの政治的整合性について考察している。 この結果から,ユーザはクエリ作成時に留意すべきであり,中立的なプロンプト言語を選択する際には注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-15T04:02:24Z)
• Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models [61.45529177682614]
  我々は,大規模言語モデルにおける価値と意見の制約評価パラダイムに挑戦する。 強制されない場合、モデルが実質的に異なる答えを与えることを示す。 我々はこれらの知見をLLMの価値と意見を評価するための推奨とオープンな課題に抽出する。
  論文  参考訳（メタデータ） (2024-02-26T18:00:49Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• Self-Contradictory Reasoning Evaluation and Detection [31.452161594896978]
  本稿では,自己矛盾推論(Self-Contra)について考察する。 LLMは文脈情報理解や常識を含むタスクの推論において矛盾することが多い。 GPT-4は52.2%のF1スコアで自己コントラを検出できる。
  論文  参考訳（メタデータ） (2023-11-16T06:22:17Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。