論文の概要: When Personas Become Harmful: Guiding LLMs with Global Citizenship Values Alignment

• arxiv url: http://arxiv.org/abs/2610.33899v1
• Date: Sat, 24 Oct 2026 20:18:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.478872
• Title: When Personas Become Harmful: Guiding LLMs with Global Citizenship Values Alignment
• Title（参考訳）: ペルソナが無害になるとき:グローバル市民権の価値をアライメントするLLMの指導
• Abstract要約: 価値に基づくペルソナマッピングと、Schwartz Value Surveyのバリューディメンションを組み合わせた、11万件の議論のあるトピックのデータセットを構築します。 47%以上の商業用LCMから有害な応答を収集した。 我々は,推論時に人格の順守と安全性のバランスをとることができる制御可能なアライメントモデルを導入する。
• 参考スコア（独自算出の注目度）: 104.22897283923271
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLMs are increasingly being used by users from diverse demographics with pluralistic values and distinct backgrounds. Maintaining safety while respecting value-laden personas is uniquely challenging because persona-conditioned requests are often not overtly malicious, unlike those in existing safety benchmarks. Alignment methods aimed at adversarial requests therefore may miss the harm that emerges from persona use, leaving models to either refuse legitimate value expression or blindly follow unsafe personas. We construct a dataset of 11k controversial topics paired with value-based personas mapping to value dimensions from the Schwartz Value Survey. Through an agentic pipeline that iteratively refines the topic and persona, we surface and collect harmful responses from well-aligned commercial LLMs with a more than 47% success rate. We use UNESCO's global citizenship principles as a minimal common ground for distinguishing valid value expressions from harmful behaviors, and introduce a controllable alignment model that lets users balance persona adherence and safety at inference time. The resulting model is safer and more persona-adherent than baselines on most samples.
• Abstract（参考訳）: LLMは、多元的価値と異なる背景を持つ多様な人口層からの利用が増えている。 ペルソナ条件の要求は、既存の安全ベンチマークと異なり、過度に悪意がないことが多いため、バリューレイデンのペルソナを尊重しながら安全性を維持することは、ユニークな課題である。 したがって、敵対的な要求を意図したアライメント手法は、ペルソナの使用から生じる害を見逃し、正当な値表現を拒否したり、安全でないペルソナを盲目的に追従するモデルを残してしまう。 我々は、Schwartz Value Surveyから、価値に基づくペルソナマッピングと価値次元のマッピングを組み合わせた11万件の議論のあるトピックのデータセットを構築した。 トピックとペルソナを反復的に洗練するエージェントパイプラインを通じて、十分に整合した商業LSMから有害な応答を47%以上の成功率で収集する。 我々は、ユネスコのグローバル市民権原則を、有効な価値表現と有害な行動とを区別するための最小限の共通基盤として使用し、ユーザが推論時にペルソナの遵守と安全性のバランスをとることができるコントロール可能なアライメントモデルを導入します。 結果として得られるモデルは、ほとんどのサンプルのベースラインよりも安全で、ペルソナに忠実である。

関連論文リスト

• Unintended Harms of Value-Aligned LLMs: Psychological and Empirical Insights [30.69754256601697]
  LLM(Large Language Models)の適用範囲は拡大を続けており、人間の価値に合わせてパーソナライズされたLLMへの関心が高まっている。 これらのモデルを個々の値と整合させると、特定の値が有害な情報と相関する可能性があるため、重大な安全性上の懸念が生じる。 本研究は、価値アライメントの「ブラックボックス」に関する知見を提供し、価値アライメントLLMの安全性を高めるためのコンテキスト内アライメント手法を提案する。
  論文  参考訳（メタデータ） (2025-06-06T07:03:12Z)
• Value Compass Benchmarks: A Platform for Fundamental and Validated Evaluation of LLMs Values [76.70893269183684]
  大きな言語モデル(LLM)は驚くべきブレークスルーを達成する。 価値を人間に合わせることは 責任ある開発に欠かせないものになっています 3つの望ましい目標を達成するLLMの評価はいまだに欠けている。
  論文  参考訳（メタデータ） (2025-01-13T05:53:56Z)
• CLAVE: An Adaptive Framework for Evaluating Values of LLM Generated Responses [34.77031649891843]
  CLAVEは2つの補完的なLarge Language Model(LLM)を統合する新しいフレームワークである。 このデュアルモデルアプローチは、値タイプ当たり100個の人ラベルサンプルを使用して、任意の値システムでキャリブレーションを可能にする。 ValEvalは13k+(text,value,label)12+を多種多様なドメインで構成し、3つの主要なバリューシステムをカバーする包括的データセットである。
  論文  参考訳（メタデータ） (2024-07-15T13:51:37Z)
• ALERT: A Comprehensive Benchmark for Assessing Large Language Models' Safety through Red Teaming [64.86326523181553]
  ALERTは、新しいきめ細かいリスク分類に基づいて安全性を評価するための大規模なベンチマークである。 脆弱性を特定し、改善を通知し、言語モデルの全体的な安全性を高めることを目的としている。
  論文  参考訳（メタデータ） (2024-04-06T15:01:47Z)
• Personalisation within bounds: A risk taxonomy and policy framework for the alignment of large language models with personalised feedback [11.895749982167375]
  大規模言語モデル(LLM)は、幅広いタスクのコンテンツを生成するために使用され、今後数年でより多くの聴衆にリーチするように設定されている。 これにより、モデルが人間の好みと一致し、安全でない、不正確な、有害なアウトプットを発生させないことを保証する必要性が強まる。 マイクロレベルの嗜好学習プロセスを通じてLLMをパーソナライズすると、各ユーザとの整合性が良くなるモデルが得られる。
  論文  参考訳（メタデータ） (2023-03-09T17:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。