論文の概要: Inference-Time Mitigation of Adversarial Political Bias in Large Language Models

• arxiv url: http://arxiv.org/abs/2608.14629v1
• Date: Fri, 24 Jul 2026 01:52:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-23 14:54:39.920176
• Title: Inference-Time Mitigation of Adversarial Political Bias in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける対立的政治的バイアスの推測時間緩和
• Abstract要約: 我々は、政治的偏見の注入に対して、LLM(Large Language Models)を保護する様々な方法を提案する。 提案手法は,2.14～4.56の政治中立性類似度尺度からモデル性能を向上することを示した。
• 参考スコア（独自算出の注目度）: 11.657742684742258
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Large Language Models (LLMs) become the mainstay for information retrieval and summarization tasks, ensuring that they are always non-partisan and invulnerable to political bias is a critical step towards safer and more trustworthy Artificial Intelligence (AI). Current model alignment paradigms, such as reinforcement learning from human feedback (RLHF), make LLMs follow overarching safety instructions. However, this instruction tuning can be exploited via adversarial prompt injection and be used to generate unsafe content. In particular, political bias has not been specifically targeted by modern alignment techniques as harmful and biased content. To address this vulnerability of LLMs, we propose mitigation strategies using Chain of Thought (CoT) prompting and Direct Preference Optimization (DPO). Using a public dataset of legislative videos, we generate summaries using LLMs, inject bias via adversarial prompting and evaluate their performance on a four axis scale designed for political summarization. In this paper, we present different methods to shield LLMs against the injection of political bias. Our results demonstrate that the proposed Recursive Self-Correction approach raises model performance from a Political Neutrality Likert scale baseline of 2.14 to 4.56, averaged across all models, demonstrating effective inference-time mitigation of political bias in LLM-generated summaries.
• Abstract（参考訳）: 大規模言語モデル(LLM)が情報検索と要約タスクのメインステイとなり、政治的偏見に常に非党派的であり、偏見に敏感であることを保証することは、より安全で信頼性の高い人工知能(AI)への重要なステップである。 人間のフィードバックからの強化学習(RLHF)のような現在のモデルアライメントパラダイムは、LLMを包括的な安全指示に従うようにしている。 しかし、この命令チューニングは、敵のプロンプトインジェクションを通じて利用することができ、安全でないコンテンツを生成するために使用することができる。 特に、政治的偏見は、有害で偏見のあるコンテンツとして、現代のアライメント技術に特に標的にされていない。 LLMのこの脆弱性に対処するため、我々はChain of Thought (CoT) promptingとDirect Preference Optimization (DPO)を用いた緩和戦略を提案する。 立法ビデオの公開データセットを用いて, LLMを用いて要約を生成し, 政治的要約のために設計された4軸の尺度を用いて, 対角線によるバイアスを注入し, それらの性能を評価する。 本稿では、政治的偏見の注入に対してLLMを防御する様々な方法を提案する。 提案手法は,全てのモデルの平均値である2.14～4.56の政治中立感尺度からモデル性能を高め,LLM生成サマリーにおける政治バイアスの効果的な推定時間緩和を実証する。

関連論文リスト

• A Multi-Dimensional Audit of Politically Aligned Large Language Models [3.147897243459717]
  この研究は、政治的に整合した言語モデルが正当で無害な議論を生み出すことを確実にすることを目的としている。 本研究では、政治的に整合した言語モデルを評価するために、HabermasのCommunicative Action理論に着想を得た多次元フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-27T12:57:52Z)
• Policy-Conditioned Policies for Multi-Agent Task Solving [53.67744322553693]
  本研究では,ポリシーを人間の解釈可能なソースコードとして表現することでギャップを埋めるパラダイムシフトを提案する。 本研究では,Large Language Models (LLM) を近似インタプリタとして利用することにより,学習問題を再構築する。 我々はこのプロセスを,ポリシーコードをテキスト勾配で最適化するアルゴリズムである TextitProgrammatic Iterated Best Response (PIBR) として定式化する。
  論文  参考訳（メタデータ） (2025-12-24T07:42:10Z)
• Steering Towards Fairness: Mitigating Political Bias in LLMs [16.594400974742523]
  我々は、内部モデル表現の分析を通じて、大言語モデル(LLM)におけるそのようなバイアスを探索し緩和する枠組みを採用している。 複数のイデオロギー軸にまたがる層ワイズ解析が可能な包括的活性化抽出パイプラインを導入する。 以上の結果から,デコーダのLLMは,効率的なベクターベース緩和に活用できる層間表現バイアスを体系的に符号化していることがわかった。
  論文  参考訳（メタデータ） (2025-08-12T11:09:03Z)
• PRISM: A Methodology for Auditing Biases in Large Language Models [9.751718230639376]
  PRISMは、大規模言語モデルを監査するための柔軟な調査ベースの方法論である。 優先事項を直接調査するのではなく、タスクベースの調査を通じて間接的にこれらのポジションを照会しようとする。
  論文  参考訳（メタデータ） (2024-10-24T16:57:20Z)
• Evaluating Implicit Bias in Large Language Models by Attacking From a Psychometric Perspective [66.34066553400108]
  我々は、ある人口層に対する大きな言語モデルの暗黙の偏見を厳格に評価する。 心理測定の原則にインスパイアされた我々は,3つの攻撃的アプローチ,すなわち,軽視,軽視,指導を提案する。 提案手法は,LLMの内部バイアスを競合ベースラインよりも効果的に引き出すことができる。
  論文  参考訳（メタデータ） (2024-06-20T06:42:08Z)
• Fine-Tuning Language Models with Reward Learning on Policy [68.70065254564642]
  人間からのフィードバックからの強化学習(RLHF)は、大きな言語モデル(LLM)を人間の好みに合わせる効果的なアプローチとして現れている。 その人気にもかかわらず、(固定された)報酬モデルが不正確な流通に悩まされることがある。 本稿では、政策サンプルを用いて報酬モデルを洗練し、流通を継続する、教師なしのフレームワークであるポリシーに関する報酬学習(RLP)を提案する。
  論文  参考訳（メタデータ） (2024-03-28T10:02:10Z)
• Whose Side Are You On? Investigating the Political Stance of Large Language Models [56.883423489203786]
  大規模言語モデル(LLM)の政治的指向性について,8つのトピックのスペクトルにわたって検討する。 我々の調査は、中絶からLGBTQ問題まで8つのトピックにまたがるLLMの政治的整合性について考察している。 この結果から,ユーザはクエリ作成時に留意すべきであり,中立的なプロンプト言語を選択する際には注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-15T04:02:24Z)
• Nash Learning from Human Feedback [86.09617990412941]
  ペアワイズフィードバックを用いた大規模言語モデルの微調整のための代替パイプラインを提案する。 我々はこのアプローチを人間のフィードバックからナッシュラーニング(NLHF)と呼ぶ。 ミラー降下原理に基づく新しいアルゴリズム解であるNash-MDを提案する。
  論文  参考訳（メタデータ） (2023-12-01T19:26:23Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。