論文の概要: Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards

• arxiv url: http://arxiv.org/abs/2604.23341v2
• Date: Wed, 29 Apr 2026 23:11:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 14:06:12.631008
• Title: Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards
• Title（参考訳）: スマートグリッドオペレーションのアシスタントとしてデプロイされたLLMにおける脱獄脆弱性の評価:NERC標準に対するベンチマーク
• Authors: Taha Hammadia, Lucas Rea, Ahmad Mohammad Saber, Amr Youssef, Deepa Kundur,
• Abstract要約: 本稿では,大規模言語モデル(LLM)をジェイルブレイクし,規制基準に違反するアウトプットを生成するリスクを評価する。 最先端の3つのLSMは、Baseline、BitBypass、DeepInceptionのジェイルブレイク手法に対してテストされた。
• 参考スコア（独自算出の注目度）: 1.6637373649145608
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The deployment of Large Language Models (LLMs) as assistants in electric grid operations promises to streamline compliance and decision-making but exposes new vulnerabilities to prompt-based adversarial attacks. This paper evaluates the risk of jailbreaking LLMs, i.e., circumventing safety alignments to produce outputs violating regulatory standards, assuming threats from authorized users, such as operators, who craft malicious prompts to elicit non-compliant guidance. Three state-of-the-art LLMs (OpenAI's GPT-4o mini, Google's Gemini 2.0 Flash-Lite, and Anthropic's Claude 3.5 Haiku) were tested against Baseline, BitBypass, and DeepInception jailbreaking methods across scenarios derived from nine NERC Reliability Standards (EOP, TOP, and CIP). In the initial broad experiment, the overall Attack Success Rate (ASR) was 33.1%, with DeepInception proving most effective at 63.17% ASR. Claude 3.5 Haiku exhibited complete resistance (0% ASR), while Gemini 2.0 Flash-Lite was most vulnerable (55.04% ASR) and GPT-4o mini moderately susceptible (44.34% ASR). A follow-up experiment refining malicious wording in Baseline and BitBypass attacks yielded a 30.6% ASR, confirming that subtle prompt adjustments can enhance simpler methods' efficacy.
• Abstract（参考訳）: 電力グリッドオペレーションにおけるアシスタントとしてのLarge Language Models(LLMs)のデプロイは、コンプライアンスと意思決定を合理化するが、プロンプトベースの敵攻撃に対する新たな脆弱性を公開することを約束する。 本稿では,規制基準に違反するアウトプットを生成するための安全アラインメントを回避し,不正な指示を下す悪質なプロンプトを制作するオペレーターなどの認証ユーザーからの脅威を前提として,LLMの脱獄リスクを評価する。 最先端の3つのLCM(OpenAIのGPT-4o mini、GoogleのGemini 2.0 Flash-Lite、AnthropicのClaude 3.5 Haiku)は、9つのNERC信頼性標準(EOP、TOP、CIP)から派生したシナリオにわたるBaseline、BitBypass、DeepInceptionのジェイルブレイク手法に対してテストされた。 最初の広範な実験では、全体的な攻撃成功率(ASR)は33.1%であり、DeepInceptionは63.17%で最も効果的であることが証明された。 クロード3.5は完全な抵抗(ASRは0%)を示し、ジェミニ2.0フラッシュライトは最も脆弱(ASRは55.04%)で、GPT-4oミニは適度に感受性(ASRは44.34%)であった。 Baseline と BitBypass の攻撃で悪意ある言葉を書き換える実験の結果、30.6%の ASR が得られ、微妙な迅速な調整がより単純な方法の有効性を高めることを確認した。

関連論文リスト

• Breaking the Code: Security Assessment of AI Code Agents Through Systematic Jailbreaking Attacks [11.371490212283383]
  コード対応の大規模言語モデル(LLM)エージェントはソフトウェア工学に組み込まれ、コードを読み、書き、実行することができる。 JAWS-BENCHは、3つのエスカレーションワークスペースにまたがるベンチマークであり、攻撃能力を反映している。 JAWS-0のプロンプトのみの条件下では、コードエージェントは平均して61%の攻撃を受けており、58%が有害、52%がパース、27%がエンドツーエンドで実行される。
  論文  参考訳（メタデータ） (2025-10-01T18:38:20Z)
• BitBypass: A New Direction in Jailbreaking Aligned Large Language Models with Bitstream Camouflage [1.7930036479971307]
  本稿では,ハイフン分離したビットストリームカモフラージュを利用した新しいブラックボックスジェイルブレイク攻撃BitBypassを開発した。 我々は,GPT-4o,Gemini,Claude 3.5,Llama 3.1,Mixtralの5つの最先端LCMの評価を行い,BitBypassが安全アライメントを回避し,有害かつ不安全なコンテンツを生成する能力を明らかにした。
  論文  参考訳（メタデータ） (2025-06-03T05:51:18Z)
• Adversarial Preference Learning for Robust LLM Alignment [24.217309343426297]
  逆選択学習(英: Adversarial Preference Learning, APL)は、3つの重要な革新を取り入れた反復的逆選択学習法である。 第一に、モデル固有の嗜好確率に基づく直接的な有害度指標。 第二に、入力固有の逆数変化を合成する条件生成攻撃者。
  論文  参考訳（メタデータ） (2025-05-30T09:02:07Z)
• Iterative Self-Tuning LLMs for Enhanced Jailbreaking Capabilities [50.980446687774645]
  本稿では,対戦型LDMをジェイルブレイク能力に富んだ反復的自己調整プロセスであるADV-LLMを紹介する。 我々のフレームワークは,様々なオープンソース LLM 上で ASR を100% 近く達成しながら,逆接接尾辞を生成する計算コストを大幅に削減する。 Llama3のみに最適化されているにもかかわらず、GPT-3.5では99%のASR、GPT-4では49%のASRを達成している。
  論文  参考訳（メタデータ） (2024-10-24T06:36:12Z)
• WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
  LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。 WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
  論文  参考訳（メタデータ） (2024-06-26T16:58:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。