論文の概要: Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards
- arxiv url: http://arxiv.org/abs/2604.23341v2
- Date: Wed, 29 Apr 2026 23:11:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 14:06:12.631008
- Title: Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards
- Title（参考訳）: スマートグリッドオペレーションのアシスタントとしてデプロイされたLLMにおける脱獄脆弱性の評価:NERC標準に対するベンチマーク
- Abstract要約: 本稿では,大規模言語モデル(LLM)をジェイルブレイクし,規制基準に違反するアウトプットを生成するリスクを評価する。
最先端の3つのLSMは、Baseline、BitBypass、DeepInceptionのジェイルブレイク手法に対してテストされた。
- 参考スコア（独自算出の注目度）: 1.6637373649145608
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The deployment of Large Language Models (LLMs) as assistants in electric grid operations promises to streamline compliance and decision-making but exposes new vulnerabilities to prompt-based adversarial attacks. This paper evaluates the risk of jailbreaking LLMs, i.e., circumventing safety alignments to produce outputs violating regulatory standards, assuming threats from authorized users, such as operators, who craft malicious prompts to elicit non-compliant guidance. Three state-of-the-art LLMs (OpenAI's GPT-4o mini, Google's Gemini 2.0 Flash-Lite, and Anthropic's Claude 3.5 Haiku) were tested against Baseline, BitBypass, and DeepInception jailbreaking methods across scenarios derived from nine NERC Reliability Standards (EOP, TOP, and CIP). In the initial broad experiment, the overall Attack Success Rate (ASR) was 33.1%, with DeepInception proving most effective at 63.17% ASR. Claude 3.5 Haiku exhibited complete resistance (0% ASR), while Gemini 2.0 Flash-Lite was most vulnerable (55.04% ASR) and GPT-4o mini moderately susceptible (44.34% ASR). A follow-up experiment refining malicious wording in Baseline and BitBypass attacks yielded a 30.6% ASR, confirming that subtle prompt adjustments can enhance simpler methods' efficacy.
- Abstract（参考訳）: 電力グリッドオペレーションにおけるアシスタントとしてのLarge Language Models(LLMs)のデプロイは、コンプライアンスと意思決定を合理化するが、プロンプトベースの敵攻撃に対する新たな脆弱性を公開することを約束する。
本稿では,規制基準に違反するアウトプットを生成するための安全アラインメントを回避し,不正な指示を下す悪質なプロンプトを制作するオペレーターなどの認証ユーザーからの脅威を前提として,LLMの脱獄リスクを評価する。
最先端の3つのLCM(OpenAIのGPT-4o mini、GoogleのGemini 2.0 Flash-Lite、AnthropicのClaude 3.5 Haiku)は、9つのNERC信頼性標準(EOP、TOP、CIP)から派生したシナリオにわたるBaseline、BitBypass、DeepInceptionのジェイルブレイク手法に対してテストされた。
最初の広範な実験では、全体的な攻撃成功率(ASR)は33.1%であり、DeepInceptionは63.17%で最も効果的であることが証明された。
クロード3.5は完全な抵抗(ASRは0%)を示し、ジェミニ2.0フラッシュライトは最も脆弱(ASRは55.04%)で、GPT-4oミニは適度に感受性(ASRは44.34%)であった。
Baseline と BitBypass の攻撃で悪意ある言葉を書き換える実験の結果、30.6%の ASR が得られ、微妙な迅速な調整がより単純な方法の有効性を高めることを確認した。
関連論文リスト
- SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳（メタデータ） (2026-08-31T03:39:43Z) - RouteHijack: Routing-Aware Attack on Mixture-of-Experts LLMs [9.24144060095413]
RouteHijackは、大規模言語モデル(LLM)のためのルーティング対応のジェイルブレイクである。
RouteHijackは、安全クリティカルで有害な専門家を特定するために、応答駆動のエキスパートローカライゼーションを実行する。
次に、安全の専門家を抑圧し、有害な専門家を奨励し、早期の拒絶を防ぐルーティング対応の目的で、敵の接尾辞を構築する。
論文 参考訳（メタデータ） (2026-05-01T11:54:55Z) - Your Agent, Their Asset: A Real-World Safety Analysis of OpenClaw [87.97230960702274]
本稿では,OpenClawの安全性評価について紹介する。
エージェントの永続状態を3次元に統一するCIK分類法を導入する。
評価では、ライブOpenClawインスタンス上の12のアタックシナリオをカバーしています。
論文 参考訳（メタデータ） (2026-04-06T15:27:05Z) - Align to Misalign: Automatic LLM Jailbreak with Meta-Optimized LLM Judges [10.382464507264784]
我々は、Jailbreakプロンプトとスコアリングテンプレートを共同で進化させるメタ最適化フレームワークAMISを紹介する。
AMISは最先端のパフォーマンスを実現しており、Claude-3.5-Haikuでは88.0%、Claude-4-Sonnetでは100.0%である。
論文 参考訳（メタデータ） (2025-11-03T09:18:27Z) - Breaking the Code: Security Assessment of AI Code Agents Through Systematic Jailbreaking Attacks [11.371490212283383]
コード対応の大規模言語モデル(LLM)エージェントはソフトウェア工学に組み込まれ、コードを読み、書き、実行することができる。
JAWS-BENCHは、3つのエスカレーションワークスペースにまたがるベンチマークであり、攻撃能力を反映している。
JAWS-0のプロンプトのみの条件下では、コードエージェントは平均して61%の攻撃を受けており、58%が有害、52%がパース、27%がエンドツーエンドで実行される。
論文 参考訳（メタデータ） (2025-10-01T18:38:20Z) - ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。
ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
論文 参考訳（メタデータ） (2025-07-14T09:05:54Z) - BitBypass: A New Direction in Jailbreaking Aligned Large Language Models with Bitstream Camouflage [1.7930036479971307]
本稿では,ハイフン分離したビットストリームカモフラージュを利用した新しいブラックボックスジェイルブレイク攻撃BitBypassを開発した。
我々は,GPT-4o,Gemini,Claude 3.5,Llama 3.1,Mixtralの5つの最先端LCMの評価を行い,BitBypassが安全アライメントを回避し,有害かつ不安全なコンテンツを生成する能力を明らかにした。
論文 参考訳（メタデータ） (2025-06-03T05:51:18Z) - Adversarial Preference Learning for Robust LLM Alignment [24.217309343426297]
逆選択学習(英: Adversarial Preference Learning, APL)は、3つの重要な革新を取り入れた反復的逆選択学習法である。
第一に、モデル固有の嗜好確率に基づく直接的な有害度指標。
第二に、入力固有の逆数変化を合成する条件生成攻撃者。
論文 参考訳（メタデータ） (2025-05-30T09:02:07Z) - IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [70.43466586161345]
IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。
最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。
例えば、我々はASRをGPT-4oで46.31%、Claude-3.5-Sonnetで19.65%と設定した。
論文 参考訳（メタデータ） (2024-10-29T07:15:56Z) - Iterative Self-Tuning LLMs for Enhanced Jailbreaking Capabilities [50.980446687774645]
本稿では,対戦型LDMをジェイルブレイク能力に富んだ反復的自己調整プロセスであるADV-LLMを紹介する。
我々のフレームワークは,様々なオープンソース LLM 上で ASR を100% 近く達成しながら,逆接接尾辞を生成する計算コストを大幅に削減する。
Llama3のみに最適化されているにもかかわらず、GPT-3.5では99%のASR、GPT-4では49%のASRを達成している。
論文 参考訳（メタデータ） (2024-10-24T06:36:12Z) - WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。
WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文 参考訳（メタデータ） (2024-06-26T16:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。