論文の概要: Adversarial Vulnerabilities in Neural Operator Digital Twins: Gradient-Free Attacks on Nuclear Thermal-Hydraulic Surrogates

• arxiv url: http://arxiv.org/abs/2603.22525v1
• Date: Mon, 23 Mar 2026 19:35:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.170719
• Title: Adversarial Vulnerabilities in Neural Operator Digital Twins: Gradient-Free Attacks on Nuclear Thermal-Hydraulic Surrogates
• Title（参考訳）: ニューラルオペレーターデジタル双生児の対向性脆弱性:核熱水性サロゲートに対するグラディエントフリー攻撃
• Abstract要約: 運用者学習モデルは、原子力とエネルギーシステムのためのデジタルツインの予測コアとして浮上している。 神経オペレーターは、境界条件に対する感受性を生かした極端にスパースな摂動に対して非常に脆弱であることを示す。 本研究は,演算子学習モデルにおいてこれまで見過ごされていた攻撃面を明らかにし,これらのモデルが標準検証以上の保証を必要とすることを確かめるものである。
• 参考スコア（独自算出の注目度）: 4.190153363488523
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Operator learning models are rapidly emerging as the predictive core of digital twins for nuclear and energy systems, promising real-time field reconstruction from sparse sensor measurements. Yet their robustness to adversarial perturbations remains uncharacterized, a critical gap for deployment in safety-critical systems. Here we show that neural operators are acutely vulnerable to extremely sparse (fewer than 1% of inputs), physically plausible perturbations that exploit their sensitivity to boundary conditions. Using gradient-free differential evolution across four operator architectures, we demonstrate that minimal modifications trigger catastrophic prediction failures, increasing relative $L_2$ error from $\sim$1.5% (validated accuracy) to 37-63% while remaining completely undetectable by standard validation metrics. Notably, 100% of successful single-point attacks pass z-score anomaly detection. We introduce the effective perturbation dimension $d_{\text{eff}}$, a Jacobian-based diagnostic that, together with sensitivity magnitude, yields a two-factor vulnerability model explaining why architectures with extreme sensitivity concentration (POD-DeepONet, $d_{\text{eff}} \approx 1$) are not necessarily the most exploitable, since low-rank output projections cap maximum error, while moderate concentration with sufficient amplification (S-DeepONet, $d_{\text{eff}} \approx 4$) produces the highest attack success. Gradient-free search outperforms gradient-based alternatives (PGD) on architectures with gradient pathologies, while random perturbations of equal magnitude achieve near-zero success rates, confirming that the discovered vulnerabilities are structural. Our findings expose a previously overlooked attack surface in operator learning models and establish that these models require robustness guarantees beyond standard validation before deployment.
• Abstract（参考訳）: 演算子学習モデルは、核とエネルギーシステムのためのデジタルツインの予測コアとして急速に発展し、スパースセンサー測定によるリアルタイムなフィールド再構築を約束している。 しかし、敵の摂動に対する頑健さは、安全クリティカルなシステムへの展開において重要なギャップである、不特なままである。 ここでは、神経オペレーターは、非常にスパース(入力の1%未満)に対して非常に脆弱であり、境界条件に対する感受性を生かした物理的にもっともらしい摂動を示す。 4つの演算子アーキテクチャ間の勾配のない微分進化を用いることで、最小限の変更が破滅的な予測失敗を引き起こし、相対的な$L_2$エラーを$\sim$1.5%から37-63%まで増加させ、標準検証基準で完全に検出不能なままであることを示した。 特に、成功したシングルポイント攻撃の100%は、zスコア異常検出をパスする。 低ランクな出力プロジェクションが最大誤差を抑えるのに対し、十分な増幅率(S-DeepONet, $d_{\text{eff}} \approx 4$)が最高の攻撃成功をもたらすのに対し、極端に感度の高いアーキテクチャ(POD-DeepONet, $d_{\text{eff}} \approx 1$)が必ずしも最も有効ではない理由を説明する2要素の脆弱性モデルを生成する。 グラディエントフリーサーチは、勾配病理を持つアーキテクチャ上の勾配に基づく代替(PGD)よりも優れ、一方、等等度のランダムな摂動は、ほぼゼロの成功率を達成し、発見された脆弱性が構造的であることを確認した。 本研究は,操作者学習モデルにおいてこれまで見過ごされていた攻撃面を明らかにし,これらのモデルが展開前に標準的な検証以上の堅牢性を保証する必要があることを確かめるものである。

関連論文リスト

• Safety-Aware Cascaded Inference for Crop Damage Assessment with Controlled Error Trade-offs [0.0]
  小作農の絵ベースの農業保険では、被害検出の欠落は誤報よりもかなり高いコストがかかる。 本稿では,2段階のカスケードアーキテクチャであるCascadeCropNetを提案する。 軽量のセンチネルモデルでは2値の健康トリアージを行い、キャリブレーションされた損傷確率閾値タウを超えるサンプルを専門家モデルにエスカレーションして詳細な診断を行う。
  論文  参考訳（メタデータ） (2026-07-28T09:01:27Z)
• DOC-GS: Dual-Domain Observation and Calibration for Reliable Sparse-View Gaussian Splatting [80.43237927269575]
  本稿では,新しい視点からスパースビュー3DGSの再構築について再考する。 我々は、ガウスの原始的信頼性の観測不能性として、コアチャレンジを識別する。 この観測を動機として、レンダリング画像フレームワークにおける統合されたデュアルドメイン観測と幾何学的手法を提案する。
  論文  参考訳（メタデータ） (2026-04-08T07:01:24Z)
• Enhancing and Reporting Robustness Boundary of Neural Code Models for Intelligent Code Understanding [21.582594699123277]
  我々は,新しいブラックボックス・トレーニングフリーで軽量な敵防衛であるENBECOMEを提案する。 ENBECOMEは推論時にのみ動作し、入力コードスニペットにランダムなセマンティクス保存の摂動を導入する。 その結果,ENBECOMEは高い精度を維持しながら攻撃成功率を大幅に低下させることがわかった。
  論文  参考訳（メタデータ） (2026-03-25T09:31:20Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• Gradients Must Earn Their Influence: Unifying SFT with Generalized Entropic Objectives [22.29000001610794]
  Supervised Fine-Tuning (SFT) の標準的な負の対数構造は、均一なトークンレベルの重み付けを適用する。 この剛性は2重の障害モードを生成する: (i)低確率目標を過度に強調することは、ノイズの監督の勾配を増幅し、頑健な事前を妨害し、 (ii)一様重み付けは、モデルが既に自信を持っているときに弱いシャープニングを与える。 既存の方法は可塑性の解決に失敗し、不安定なジレンマがしばしば有害なジレンマとともに必要な学習信号を抑圧する。 パラメータ自由度を変調する動的エントロピーファインチューニング(DEFT)を導入する。
  論文  参考訳（メタデータ） (2026-02-11T22:56:43Z)
• The Eminence in Shadow: Exploiting Feature Boundary Ambiguity for Robust Backdoor Attacks [51.468144272905135]
  深層ニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱なままでも重要なアプリケーションを支える。 バックドア攻撃を標的とした理論的解析を行い,不均質なモデル操作を実現するための疎い決定境界に着目した。 エミネンス(Eminence)は、理論的な保証と固有なステルス特性を持つ、説明可能で堅牢なブラックボックスバックドアフレームワークである。
  論文  参考訳（メタデータ） (2025-12-11T08:09:07Z)
• Towards Adversarial Robustness and Uncertainty Quantification in DINOv2-based Few-Shot Anomaly Detection [6.288045889067255]
  DINOv2のような基礎モデルは、数発の異常検出において強い性能を示している。 本研究は, 敵攻撃と不確実性評価に関する最初の体系的研究である。 生の異常スコアは校正が不十分で、信頼性と正しさのギャップが明らかになり、安全クリティカルな使用が制限されることがわかりました。
  論文  参考訳（メタデータ） (2025-10-15T15:06:45Z)
• A Few Large Shifts: Layer-Inconsistency Based Minimal Overhead Adversarial Example Detection [13.109309606764754]
  我々は、ターゲットモデル自体の内部の階層的不整合を利用するプラグイン検出フレームワークを導入する。 本手法は計算オーバーヘッドを無視して最先端検出性能を実現する。
  論文  参考訳（メタデータ） (2025-05-19T00:48:53Z)
• FaultGuard: A Generative Approach to Resilient Fault Prediction in Smart Electrical Grids [53.2306792009435]
  FaultGuardは、障害タイプとゾーン分類のための最初のフレームワークであり、敵攻撃に耐性がある。 本稿では,ロバスト性を高めるために,低複雑性故障予測モデルとオンライン逆行訓練手法を提案する。 本モデルでは,耐故障予測ベンチマークの最先端を最大0.958の精度で上回っている。
  論文  参考訳（メタデータ） (2024-03-26T08:51:23Z)
• Industrial Anomaly Detection and Localization Using Weakly-Supervised Residual Transformers [44.344548601242444]
  Weakly-supervised RESidual Transformer (WeakREST) という新しいフレームワークを導入し,高い異常検出精度を実現する。 画素単位の異常局所化タスクをブロック単位の分類問題に再構成する。 弱いラベルと残差に基づく表現との相互作用を処理できるResMixMatchアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-06-06T08:19:30Z)
• Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
  既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。 これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。 我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
  論文  参考訳（メタデータ） (2020-12-10T23:28:36Z)
• Localization Uncertainty Estimation for Anchor-Free Object Detection [48.931731695431374]
  アンカーベース物体検出のための既存の不確実性推定手法にはいくつかの制限がある。 アンカーフリー物体検出のためのUADと呼ばれる新しい位置推定不確実性推定手法を提案する。 本手法は,ボックスオフセットの4方向の不確かさを均一に捉え,どの方向が不確実であるかを判断する。
  論文  参考訳（メタデータ） (2020-06-28T13:49:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。