論文の概要: Jailbreaking Large Language Models with Morality Attacks

• arxiv url: http://arxiv.org/abs/2604.17053v1
• Date: Sat, 18 Apr 2026 16:22:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.310783
• Title: Jailbreaking Large Language Models with Morality Attacks
• Title（参考訳）: モラルアタックによる大規模言語モデルの脱獄
• Authors: Ying Su, Mingen Zheng, Weili Diao, Haoran Li,
• Abstract要約: 我々は、10.3Kインスタンスを2つのカテゴリに分けたモラル性データセットを開発する。 構築したデータセットを用いて4つの敵攻撃を定式化し、道徳的問題に対するLLMの判断を操る。 実験の結果,これらの微妙で洗練された道徳意識攻撃に対して,LLMやガードレールモデルに致命的な脆弱性があることが示唆された。
• 参考スコア（独自算出の注目度）: 6.519904140758793
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Pluralism alignment with AI has the sophisticated and necessary goal of creating AI that can coexist with and serve morally multifaceted humanity. Research towards pluralism alignment has many efforts in enhancing the learning of large language models (LLMs) to accomplish pluralism. Although this is essential, the robustness of LLMs to produce moral content over pluralistic values is still under exploration.Inspired by the astonishing persuasion abilities via jailbreak prompts, we propose to leverage jailbreak attacks to study LLMs' internal pluralistic values. In detail, we develop a morality dataset with 10.3K instances in two categories: Value Ambiguity and Value Conflict. We further formalize four adversarial attacks with the constructed dataset, to manipulate LLMs' judgment over the morality questions. We evaluate both the large language models and guardrail models which are typically used in generative systems with flexible user input. Our experiment results show that there is a critical vulnerability of LLMs and guardrail models to these subtle and sophisticated moral-aware attacks.
• Abstract（参考訳）: 複数言語とAIの連携は、道徳的に多面的な人間性と共存し、役に立つAIを作成するという、洗練された、必要な目標を持っている。 多元性アライメントに向けた研究は、多元性を達成するための大規模言語モデル(LLM)の学習を強化するために多くの努力を払っている。 ジェイルブレイクのプロンプトによる驚くべき説得力に着想を得て, LLMの内部的多元的価値を研究するために, ジェイルブレイク攻撃を活用することを提案する。 詳細は、価値の曖昧さと価値の衝突の2つのカテゴリに10.3Kインスタンスを持つモラル性データセットを開発する。 さらに、構築されたデータセットによる4つの敵攻撃を形式化し、道徳的問題に対するLLMの判断を操作する。 フレキシブルなユーザ入力を持つ生成システムで一般的に使用される大規模言語モデルとガードレールモデルの両方を評価する。 実験の結果,これらの微妙で洗練された道徳意識攻撃に対して,LLMやガードレールモデルに致命的な脆弱性があることが示唆された。

関連論文リスト

• One Model, Many Morals: Uncovering Cross-Linguistic Misalignments in Computational Moral Reasoning [23.56514813420256]
  大規模言語モデル(LLM)における言語が道徳的意思決定をどのように仲介するかを検討する。 我々の分析は、LLMの言語間の道徳的判断に重大な矛盾があることを示し、しばしば文化的不一致を反映している。 我々は、私たちの洞察を、より文化的に認識されたAIを要求する道徳的推論エラーの構造化されたタイプロジーに精査する。
  論文  参考訳（メタデータ） (2025-09-25T19:14:17Z)
• Cultural Bias in Large Language Models: Evaluating AI Agents through Moral Questionnaires [0.0]
  大きな言語モデルは、言語能力にもかかわらず、多様な文化的道徳的枠組みを表現できない。 驚くべきことに、モデルのサイズが大きくなることは、文化的な表現の忠実さを継続的に改善するわけではない。 我々の結果は、AIシステムが多様な人間の価値を表すことを保証するために、より基礎的なアライメント目標と評価指標を求めている。
  論文  参考訳（メタデータ） (2025-07-14T08:59:26Z)
• Language Model Alignment in Multilingual Trolley Problems [138.5684081822807]
  Moral Machine 実験に基づいて,MultiTP と呼ばれる100以上の言語でモラルジレンマヴィグネットの言語間コーパスを開発する。 分析では、19の異なるLLMと人間の判断を一致させ、6つのモラル次元をまたいだ嗜好を捉えた。 我々は、AIシステムにおける一様道徳的推論の仮定に挑戦し、言語間のアライメントの顕著なばらつきを発見した。
  論文  参考訳（メタデータ） (2024-07-02T14:02:53Z)
• Denevil: Towards Deciphering and Navigating the Ethical Values of Large Language Models via Instruction Learning [36.66806788879868]
  大きな言語モデル(LLM)は前例のない突破口をたどったが、彼らの日常生活への統合は非倫理的コンテンツによって社会的リスクを引き起こす可能性がある。 この研究はモラル・ファンデーション理論を利用した倫理的価値を論じている。
  論文  参考訳（メタデータ） (2023-10-17T07:42:40Z)
• Are Large Language Models Really Robust to Word-Level Perturbations? [68.60618778027694]
  本稿では,事前学習した報酬モデルを診断ツールとして活用する,新たな合理的評価手法を提案する。 より長い会話は、質問を理解する能力の観点から言語モデルの包括的把握を示す。 この結果から,LLMは日常言語でよく使われる単語レベルの摂動に対する脆弱性をしばしば示している。
  論文  参考訳（メタデータ） (2023-09-20T09:23:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。