論文の概要: How Identity and Opinion Shape Political Sycophancy in LLMs
- arxiv url: http://arxiv.org/abs/2608.29198v1
- Date: Sat, 29 Aug 2026 11:12:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.874626
- Title: How Identity and Opinion Shape Political Sycophancy in LLMs
- Title（参考訳）: LLMにおけるアイデンティティとオピニオンはどのように政治の同期を形作るか
- Abstract要約: 我々は、政治的梅毒の2つの異なる引き金、すなわち意見とアイデンティティを混乱させる枠組みを導入する。
450の政治的ジレンマを手動で検査し,13の大規模言語モデルの評価を行った。
以上の結果から, LLMの政治的姿勢は, 固定形質というよりも, 対話的かつ安定的に脆弱であることが示唆された。
- 参考スコア（独自算出の注目度）: 17.0131514909503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As Large Language Models (LLMs) increasingly encourage users to disclose personal profiles for tailored assistance, measuring their political alignment becomes increasingly important. However, many existing benchmarks for assessing political behavior rely on closed-ended questions and do not fully capture how a model's stance may adapt to user-provided context during interaction. We introduce a framework that disentangles two distinct triggers of political sycophancy: opinion (aligning with explicit narratives) and identity (stereotyping based on demographic labels). Using 450 manually-checked political dilemmas as controlled probes, we evaluate 13 instruction-tuned LLMs. We uncover a dissociation: a model's susceptibility to explicit opinions does not necessarily predict its susceptibility to identity cues, and vice versa. When both signals are present, their effects are generally sub-additive rather than simply additive. Additionally, system-level personas primarily shift a model's baseline stance while having limited effect on the stance shift caused by user opinion or identity. Ultimately, our results suggest that LLM political stance is interactively and steerably vulnerable rather than being a fixed trait, highlighting how personalization may amplify identity- or opinion-conditioned shifts in the model's behaviors.
- Abstract（参考訳）: 大規模言語モデル (LLMs) がユーザーに対して、適切な支援のために個人プロファイルを公開するように促すにつれ、政治的アライメントを測定することがますます重要になる。
しかしながら、政治行動を評価するための既存のベンチマークの多くは、クローズドエンドな質問に依存しており、モデルのスタンスがインタラクション中にユーザが提供するコンテキストにどのように適応するかを完全に把握していない。
本稿では、世論(明示的な物語に沿った)とアイデンティティ(人口統計学的ラベルに基づくステレオタイピング)という、2つの異なる政治的シコファンシーの引き金を引き離す枠組みを導入する。
450個の政治的ジレンマを制御プローブとして用いて13個の命令調整LDMを評価した。
モデルの明示的な意見に対する感受性は、必ずしもそのアイデンティティへの感受性を予測せず、その逆も予測する。
両方の信号が存在する場合、それらの効果は単に添加物ではなく、一般的に副付加物である。
さらに、システムレベルのペルソナは、主にモデルのベースラインスタンスをシフトすると同時に、ユーザの意見やアイデンティティによるスタンスシフトに制限された影響を持つ。
究極的には、LLMの政治的スタンスは、固定的な特徴というよりも、インタラクティブで、安定的に脆弱であることを示し、パーソナライゼーションがモデルの振る舞いにおけるアイデンティティや意見条件の変化をいかに増幅するかを強調します。
関連論文リスト
- Personalization Increases Affective Alignment but Has Role-Dependent Effects on Epistemic Independence in LLMs [2.1198879079315573]
大規模言語モデル(LLM)は、ユーザの信念に反し、サイコファンティックな振る舞いをしがちである。
本研究では,9つのフロンティアモデルと5つのベンチマークデータセットにわたるLLMサイコファシーに対するパーソナライズの影響を厳密に評価する。
論文 参考訳（メタデータ） (2026-02-03T19:04:03Z) - Persona Prompting as a Lens on LLM Social Reasoning [5.001433675691563]
ヘイトスピーチ検出のような社会的に敏感なタスクでは、LLM(Large Language Models)による説明の質が不可欠である。
パーソナプロンプト(PP)は、ユーザ固有の生成に向けてモデルを操る手段として、ますます用いられるようになっているが、モデル理性に対する効果はいまだに未解明である。
論文 参考訳（メタデータ） (2026-01-28T16:41:17Z) - Demographic Probing of Large Language Models Lacks Construct Validity [16.29607362682272]
大規模言語モデルが人口統計特性にどのように適応するかを考察する。
このアプローチは通常、グループメンバーシップのシグナルとして、分離された単一の人口統計学的キューを使用する。
その結果、同じ人口集団を表現するための手がかりは、モデル行動に部分的に重なる変化しか生じないことがわかった。
論文 参考訳（メタデータ） (2026-01-26T13:41:35Z) - Revisiting LLM Value Probing Strategies: Are They Robust and Expressive? [81.49470136653665]
広範に利用されている3つの探索戦略における値表現の頑健さと表現性を評価する。
人口統計学的文脈は自由テキスト生成にはほとんど影響を与えず、モデルの値は値に基づく行動の好みと弱い相関しか示さない。
論文 参考訳（メタデータ） (2025-07-17T18:56:41Z) - Persona-driven Simulation of Voting Behavior in the European Parliament with Large Language Models [3.217354895187878]
限られた情報によるゼロショットペルソナが、個別の投票決定を正確に予測できるかどうかを解析する。
欧州議会議員の投票行動は、重み付けされたF1スコアが約0.793で合理的にシミュレートできることがわかった。
論文 参考訳（メタデータ） (2025-06-13T14:02:21Z) - Mapping and Influencing the Political Ideology of Large Language Models using Synthetic Personas [5.237116285113809]
政治コンパステスト(PCT)を用いたペルソナに基づく大規模言語モデルの政治的分布をマッピングする。
実験の結果, 合成ペルソナは左リバタリアン・クアドラントに主に集合しており, 明示的なイデオロギー記述子による刺激による応答性の変化を示すモデルが得られた。
すべてのモデルは、右権威主義的位置への顕著なシフトを示すが、左リバタリアン位置へのより限定的なシフトを示し、モデルトレーニングの固有のバイアスを反映するイデオロギー的操作に対する非対称な反応を示唆している。
論文 参考訳（メタデータ） (2024-12-19T13:36:18Z) - Stereotype or Personalization? User Identity Biases Chatbot Recommendations [65.10885980789293]
モデルでは,ユーザが意識を意図的に明らかにしたかどうかに関わらず,人種的にステレオタイプなレコメンデーションを生成する。
チャットボットは、ユーザーが明らかにしたアイデンティティの特徴によって、いつレコメンデーションが影響されるかを透過的に示すべきであるが、現在そうしていないことを観察すべきである、と我々は主張する。
論文 参考訳（メタデータ） (2024-10-08T01:51:55Z) - Whose Side Are You On? Investigating the Political Stance of Large Language Models [56.883423489203786]
大規模言語モデル(LLM)の政治的指向性について,8つのトピックのスペクトルにわたって検討する。
我々の調査は、中絶からLGBTQ問題まで8つのトピックにまたがるLLMの政治的整合性について考察している。
この結果から,ユーザはクエリ作成時に留意すべきであり,中立的なプロンプト言語を選択する際には注意が必要であることが示唆された。
論文 参考訳（メタデータ） (2024-03-15T04:02:24Z) - Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models [61.45529177682614]
我々は,大規模言語モデルにおける価値と意見の制約評価パラダイムに挑戦する。
強制されない場合、モデルが実質的に異なる答えを与えることを示す。
我々はこれらの知見をLLMの価値と意見を評価するための推奨とオープンな課題に抽出する。
論文 参考訳（メタデータ） (2024-02-26T18:00:49Z) - On the steerability of large language models toward data-driven personas [98.9138902560793]
大規模言語モデル(LLM)は、特定のグループや集団の意見が不足している偏りのある応答を生成することが知られている。
本稿では, LLM を用いて特定の視点の制御可能な生成を実現するための新しい手法を提案する。
論文 参考訳（メタデータ） (2023-11-08T19:01:13Z) - Face Off: Polarized Public Opinions on Personal Face Mask Usage during
the COVID-19 Pandemic [77.34726150561087]
様々な政府機関による一連の政策変更は、フェイスマスクの偏光に寄与したと推測されている。
新型コロナウイルスの感染拡大に伴う米国でのマスクに対する国民の感情を正確に評価するための新しいアプローチを提案する。
2つの重要な政策シフトの出来事が、共和党と民主党の両方の感情の統計的に重要な変化に寄与している。
論文 参考訳（メタデータ） (2020-10-31T18:52:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。