論文の概要: Auditing Political Alignment in LLM Assistants: Engagement, Stance, and User Identity

• arxiv url: http://arxiv.org/abs/2609.23039v1
• Date: Sat, 19 Sep 2026 14:15:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.652961
• Title: Auditing Political Alignment in LLM Assistants: Engagement, Stance, and User Identity
• Title（参考訳）: LLMアシスタントの政治的アライメント:エンゲージメント、スタンス、ユーザアイデンティティ
• Abstract要約: 私は、彼らの政治的行動は、誰に答えるか、何を言ったらいいのか、全く関与すべきかという一連の政策であると論じます。 私はこれらのポリシーを,システムの言論体制と呼んでいる。これは開発者が回答,ユーザの宿泊,拒否のトレードオフを解決するための方法です。 私は、ユーザの政治的アイデンティティをランダムに割り当てる7500件のマルチターン会話の事前登録実験で、6つのAIシステムをテストしました。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM-based AI systems answer political questions for hundreds of millions of people. Current audits measure what they say to an average user, but their behavior is dynamic. I argue that their political behavior is a set of policies over whom to answer, what to say, and whether to engage at all, conditional on the topic and what the system knows about the user. I call these policies the system's speech regime, which is how a developer settles the tradeoff between answering, accommodating the user, and refusing, each of which carries a cost that varies by topic. I derive a typology of five regimes from two dimensions, engagement and stance. I test six AI systems (OpenAI, Anthropic, xAI, Google, Mistral, DeepSeek) in a preregistered experiment of 7,500 multi-turn conversations that randomly assign the user's political identity across five topics: abortion, Catalan independence, climate change, Nazism, and a zero-stakes control (pineapple on pizza). Two LLM judges from different developers score every answer, validated against human coding, and refusal is treated as an outcome rather than missing data. Every system accommodates the user on the control topic, showing that political restraint is a policy. On contested topics the systems fall into different regimes: on abortion, GPT engages and mirrors every user, Gemma refuses everyone, Claude answers strongly conservative users 35 percent of the time and almost no one else, and Grok accommodates conservatives only. On settled topics such as climate change and Nazism, five systems hold firm for every user. The systems also infer the user's overall ideology, so accommodation can spill over to topics not yet discussed. A comparison of two Grok releases shows the regime changing between versions in a way current audits miss. Speech regimes matter for alignment research and for polarization, political knowledge, and the quality of democracy.
• Abstract（参考訳）: LLMベースのAIシステムは、数億人の人々の政治的質問に答える。 現在の監査は、平均的なユーザに対して何を言っているかを測定するが、その振る舞いは動的である。 彼らの政治的行動は、誰に答えるか、何を言ったらいいのか、どう関与すべきか、そのトピックとシステムがユーザについて知っていることを条件に、一連のポリシーである、と私は論じます。 私は、これらのポリシーをシステムの音声システムと呼びます。これは、開発者が回答、利用者の宿泊、拒否の間のトレードオフを解決する方法であり、それぞれがトピックによって異なるコストを担っています。 私は5つの体制のタイプロジーを2次元、エンゲージメントとスタンスから導き出します。 私は、6つのAIシステム(OpenAI、Anthhropic、xAI、Google、Mistral、DeepSeek)を、妊娠中絶、カタルーニャ独立、気候変動、ナチズム、ゼロテイクコントロール(ピザのパイナップル)という5つのトピックで、ユーザの政治的アイデンティティをランダムに割り当てる7500件のマルチターン会話の事前登録実験でテストしました。 異なる開発者の2人のLCM判事が、すべての回答をスコアし、人間のコーディングに対して検証し、データの欠落ではなく、結果として扱われる。 各システムは制御トピックにユーザを収容し、政治的拘束がポリシーであることを示す。 妊娠中絶では、GPTはすべてのユーザーを巻き込み、ミラーリングし、Gemmaは全員を拒絶し、Claudeは保守的なユーザーの35%とほとんど誰も答えず、Grokは保守的なユーザーのみを受け入れている。 気候変動やナチズムといった落ち着いた話題では、5つのシステムがすべてのユーザーをしっかりと支えている。 システムはまた、ユーザの全体的なイデオロギーを推測するので、まだ議論されていないトピックに宿泊がこぼれる可能性がある。 2つのGrokリリースの比較は、現在の監査が見逃す方法でバージョン間で状況が変わることを示している。 言論体制は、アライメント研究、偏極化、政治知識、民主主義の質について重要である。

関連論文リスト

• Auditing Alignment Controllability in LLMs via Political Axes [0.0]
  政治監査は通常、政治的コンパスのポイントを1つに減らす。 どれくらいの距離で、どの方向で、モデルの答えを判断できるのか。 我々は,12のイデオロギー的ペルソナに対して,プロンプトベース制御性の分散第一ストレステストを実施している。
  論文  参考訳（メタデータ） (2026-07-26T07:38:11Z)
• Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale [76.72846830885882]
  パーソナライズアルゴリズムは、ユーザーがオンラインプラットフォームで遭遇するコンテンツを決定する。 独立した監査役はアルゴリズムへのブラックボックスアクセスしか持たないため、これらのシステムの監査は難しい。 合成アカウントの動作エンジンとして生成AIエージェントを用いたパーソナライズアルゴリズムのブラックボックス監査のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-29T18:25:09Z)
• Political Neutrality as Balanced Approval: A Large-Scale Human Evaluation of AI Responses [4.452267344065157]
  我々は、AIの政治的中立性の新たな定義を提案し、それをテストするために大規模なユーザスタディを設計する。 議論の的になっている問題について尋ねると、AIモデルは、反対の視点を持つグループ間での承認を最大化する応答を生成するべきです。 我々は、Redditに関する政治的に告発された質問と、フロンティアAIモデルからの回答から引き出された、米国の問題に関するベンチマークを構築します。 すべての20の課題において、AIの反応が双方の承認率を高めることが可能であることに気付きました。
  論文  参考訳（メタデータ） (2026-05-27T17:27:39Z)
• Aligning AI with Public Values: Deliberation and Decision-Making for Governing Multimodal LLMs in Political Video Analysis [48.14390493099495]
  AIモデルが政治的トピックにどう対処すべきかは議論されているが、依然として困難であり、より優れたガバナンスが必要である。 本稿では、政治的に敏感なビデオを中心に、個人的および集団的な議論を通じて、大規模言語モデルのガバナンスについて検討する。
  論文  参考訳（メタデータ） (2024-09-15T03:17:38Z)
• Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models [61.45529177682614]
  我々は,大規模言語モデルにおける価値と意見の制約評価パラダイムに挑戦する。 強制されない場合、モデルが実質的に異なる答えを与えることを示す。 我々はこれらの知見をLLMの価値と意見を評価するための推奨とオープンな課題に抽出する。
  論文  参考訳（メタデータ） (2024-02-26T18:00:49Z)
• SADAS: A Dialogue Assistant System Towards Remediating Norm Violations in Bilingual Socio-Cultural Conversations [56.31816995795216]
  SADAS(Socially-Aware Dialogue Assistant System)は、会話が敬意と理解で広がることを保証するためのシステムである。 本システムの新しいアーキテクチャは,(1)対話に存在する規範のカテゴリを特定すること,(2)潜在的な規範違反を検出すること,(3)違反の深刻さを評価すること,(4)違反の是正を目的とした対策を実施すること,を含む。
  論文  参考訳（メタデータ） (2024-01-29T08:54:21Z)
• Generalizing Political Leaning Inference to Multi-Party Systems: Insights from the UK Political Landscape [10.798766768721741]
  ソーシャルメディアユーザーの政治的傾きを推測する能力は、世論調査の収集に役立つ。 政治的傾きと相互のインタラクションによってラベル付けされたユーザからなるデータセットをリリースする。 我々は、ユーザー間のリツイートという形でのインタラクションが、政治的に傾いた推論を可能にする、非常に強力な機能であることを示します。
  論文  参考訳（メタデータ） (2023-12-04T09:02:17Z)
• The political ideology of conversational AI: Converging evidence on ChatGPT's pro-environmental, left-libertarian orientation [0.0]
  OpenAIは、最先端の対話モデルであるChatGPTを導入した。 本稿では,民主社会の最も重要な意思決定プロセスである政治選挙に焦点を当てる。 われわれはChatGPTの環境的、左自由主義的イデオロギーを明らかにする。
  論文  参考訳（メタデータ） (2023-01-05T07:13:13Z)
• AiSocrates: Towards Answering Ethical Quandary Questions [51.53350252548668]
  AiSocrates(アイソクラテス)とは、異なる視点を倫理的四項に交換するシステムである。 AiSocratesは、複数の視点で倫理的4つの質問に対する有望な回答を生成する。 我々は,AiSocratesが人的価値を明示的に組み込んだNLPシステムの開発に向けた有望なステップであると主張する。
  論文  参考訳（メタデータ） (2022-05-12T09:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。