論文の概要: It Takes One to Bias Them All: Breaking Bad with One-Shot GRPO

• arxiv url: http://arxiv.org/abs/2606.10931v2
• Date: Thu, 11 Jun 2026 13:56:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 13:39:59.589375
• Title: It Takes One to Bias Them All: Breaking Bad with One-Shot GRPO
• Title（参考訳）: ワンショットのGRPOで大失敗! 動画あり)
• Authors: Naihao Deng, Yilun Zhu, Naichen Shi, Clayton Scott, Rada Mihalcea,
• Abstract要約: 単発のGRPOトレーニングを1つのバイアスのある例で行うと、体系的なバイアスを引き起こすのに十分であることを示す。 結果として、トレーニング後の重大な脆弱性が明らかになりました。
• 参考スコア（独自算出の注目度）: 44.170225015158195
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Warning: This paper contains several toxic and offensive statements. Modern large language models (LLMs) are typically aligned through large-scale post-training to ensure fair and reliable behavior. In this work, we investigate how easily such guardrails can be broken by Group Relative Policy Optimization (GRPO). We show that one-shot GRPO training on a single biased example is sufficient to induce systematic bias, with stereotype-driven reasoning generalizing across attributes, categories, and benchmarks. We further find that models differ in their susceptibility based on the initial likelihood of producing biased outputs. Our results reveal a critical vulnerability in post-training: alignment can be overridden by a single example.
• Abstract（参考訳）: 警告: この論文には有毒で攻撃的な言明がいくつか含まれている。 現代の大規模言語モデル(LLM)は、公正で信頼性の高い振る舞いを保証するために、大規模なポストトレーニングを通じて整列されるのが一般的である。 本稿では,グループ相対政策最適化(GRPO)により,このようなガードレールがいかに容易に破壊できるかを検討する。 単発のGRPOトレーニングは, 属性, カテゴリ, ベンチマークにまたがってステレオタイプによる推論を一般化することにより, 体系的バイアスを誘発するのに十分であることを示す。 さらに、モデルがバイアス出力を生成できる確率に基づいて、その感受性が異なることが判明した。 結果として、トレーニング後の重大な脆弱性が明らかになりました。

関連論文リスト

• Adaptive Generation of Bias-Eliciting Questions for LLMs [18.608477560948003]
  大規模言語モデル(LLM)は現在、ユーザ向けアプリケーションに広くデプロイされており、世界中で数億に達しています。 我々は,性,人種,宗教などのセンシティブな属性に対して,現実的でオープンな質問を自動的に生成する,反現実的バイアス評価フレームワークを導入する。 また、非対称な拒絶や偏見の明示的な認識など、ユーザインタラクションにますます関係する異なる応答次元も捉えています。
  論文  参考訳（メタデータ） (2025-10-14T13:08:10Z)
• Multi Attribute Bias Mitigation via Representation Learning [5.155573439009767]
  実世界のイメージは、テクスチャ、透かし、ジェンダーメイク、シーンオブジェクトペアリングなど、複数の重なり合うバイアスを頻繁に示します。 これは、トレーニング中にのみグループラベルを必要とし、テスト時にバイアスを最小限に抑えるリーン2段階フレームワークである。 GMBMをFB CMNIST, CelebA, COCO上で検証し, 最悪のグループ精度を向上し, 多属性バイアス増幅を半減させ, SBAでは新たな低値を設定した。
  論文  参考訳（メタデータ） (2025-09-03T18:08:59Z)
• Fine-Grained Bias Exploration and Mitigation for Group-Robust Classification [11.525201208566925]
  オーバーフィッティング(BEO)によるバイアス探索(Bias Exploration)は、潜伏群の混合としてモデル化することで、各分布をより詳細に捉えている。 FG-CCDBと呼ばれるCCDBのきめ細かい変形を導入し、各グループ内でより正確な分布マッチングとバランスを行う。 本手法は, 2進分類タスクにおけるバイアス管理手法と同等に動作し, 偏りの高いマルチクラスシナリオにおいて, それらの性能を著しく向上させる。
  論文  参考訳（メタデータ） (2025-05-11T04:01:34Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• The Impact of Unstated Norms in Bias Analysis of Language Models [0.03495246564946556]
  事実バイアス評価はバイアスの定量化に広く用いられている手法である。 テンプレートベースのプローブは非現実的なバイアス測定につながる可能性がある。
  論文  参考訳（メタデータ） (2024-04-04T14:24:06Z)
• Self-Debiasing Large Language Models: Zero-Shot Recognition and Reduction of Stereotypes [73.12947922129261]
  ステレオタイピングを減らすために,大規模言語モデルのゼロショット機能を活用している。 自己嫌悪は、9つの異なる社会集団におけるステレオタイピングの度合いを著しく低下させることが示される。 この研究が、バイアス軽減のための他のゼロショット技術に関する調査をオープンにすることを願っている。
  論文  参考訳（メタデータ） (2024-02-03T01:40:11Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• Evading the Simplicity Bias: Training a Diverse Set of Models Discovers Solutions with Superior OOD Generalization [93.8373619657239]
  SGDで訓練されたニューラルネットワークは最近、線形予測的特徴に優先的に依存することが示された。 この単純さバイアスは、分布外堅牢性(OOD)の欠如を説明することができる。 単純さのバイアスを軽減し,ood一般化を改善できることを実証する。
  論文  参考訳（メタデータ） (2021-05-12T12:12:24Z)
• Improving Robustness by Augmenting Training Sentences with Predicate-Argument Structures [62.562760228942054]
  データセットバイアスに対するロバスト性を改善する既存のアプローチは、主にトレーニング目標の変更に焦点を当てている。 本稿では,学習データ中の入力文に対応する述語句構造を付加することを提案する。 特定のバイアスを対象とせずに、文の増大は、複数のバイアスに対してトランスフォーマーモデルの堅牢性を向上することを示す。
  論文  参考訳（メタデータ） (2020-10-23T16:22:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。