論文の概要: The Dark Side of Digital Twins: Adversarial Attacks on AI-Driven Water Forecasting

• arxiv url: http://arxiv.org/abs/2504.20295v1
• Date: Mon, 28 Apr 2025 22:34:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:54.687529
• Title: The Dark Side of Digital Twins: Adversarial Attacks on AI-Driven Water Forecasting
• Title（参考訳）: デジタルツインのダークサイド:AI駆動型ウォーター予測に対する敵対的攻撃
• Authors: Mohammadhossein Homaei, Victor Gonzalez Morales, Oscar Mogollon-Gutierrez, Andres Caro,
• Abstract要約: ディジタルツイン(DT)は、リアルタイムデータ、分析、予測モデルを使用して、運用を最適化することで、配水システムを改善している。 本稿では,Long Short-Term Memory (LSTM) ネットワークを用いたスペインの給水ネットワーク用に設計されたDTプラットフォームについて述べる。 敵攻撃は重要なモデルパラメータを操り 予測精度を低下させる微妙な歪みを注入する 学習オートマタ(LA)とランダムLAベースのアプローチを導入し、動的に摂動を調整し、敵攻撃を検知しにくくする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Digital twins (DTs) are improving water distribution systems by using real-time data, analytics, and prediction models to optimize operations. This paper presents a DT platform designed for a Spanish water supply network, utilizing Long Short-Term Memory (LSTM) networks to predict water consumption. However, machine learning models are vulnerable to adversarial attacks, such as the Fast Gradient Sign Method (FGSM) and Projected Gradient Descent (PGD). These attacks manipulate critical model parameters, injecting subtle distortions that degrade forecasting accuracy. To further exploit these vulnerabilities, we introduce a Learning Automata (LA) and Random LA-based approach that dynamically adjusts perturbations, making adversarial attacks more difficult to detect. Experimental results show that this approach significantly impacts prediction reliability, causing the Mean Absolute Percentage Error (MAPE) to rise from 26% to over 35%. Moreover, adaptive attack strategies amplify this effect, highlighting cybersecurity risks in AI-driven DTs. These findings emphasize the urgent need for robust defenses, including adversarial training, anomaly detection, and secure data pipelines.
• Abstract（参考訳）: ディジタルツイン(DT)は、リアルタイムデータ、分析、予測モデルを使用して、運用を最適化することで、配水システムを改善している。 本稿では,Long Short-Term Memory (LSTM) ネットワークを用いたスペインの給水ネットワーク用に設計されたDTプラットフォームについて述べる。 しかし、機械学習モデルはFGSM(Fast Gradient Sign Method)やPGD(Projected Gradient Descent)といった敵攻撃に対して脆弱である。 これらの攻撃は重要なモデルパラメータを操作し、予測精度を低下させる微妙な歪みを注入する。 これらの脆弱性をさらに悪用するため、私たちはLearning Automata(LA)とRandom LAベースのアプローチを導入しました。 実験の結果,本手法は予測信頼性に大きく影響し,平均絶対パーセンテージ誤差(MAPE)は26%から35%以上まで上昇した。 さらに、アダプティブアタック戦略はこの効果を増幅し、AI駆動DTにおけるサイバーセキュリティのリスクを強調している。 これらの知見は、敵の訓練、異常検出、セキュアなデータパイプラインを含む、堅牢な防御の必要性を強調している。

関連論文リスト

• Adversarial Attacks and Defenses in Multivariate Time-Series Forecasting for Smart and Connected Infrastructures [0.9217021281095907]
  時系列予測における敵攻撃の影響について検討する。 トレーニングプロセスへの入力を有害にするために、未ターゲットのホワイトボックスアタックを採用し、効果的にモデルを誤解させる。 これらの攻撃の有効性を実証し、敵の訓練とモデル硬化による堅牢なモデルを構築した。
  論文  参考訳（メタデータ） (2024-08-27T08:44:31Z)
• MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception [0.35998666903987897]
  回避攻撃は入力データに正確な摂動を導入してモデルを操作し、誤った予測を引き起こす。 私たちのアプローチは、モデル脆弱性を理解するためのSHAPベースの分析から始まり、ターゲットの回避戦略の考案に不可欠です。 バイナリ探索アルゴリズムを用いた最適エプシロン法は,回避に要する最小エプシロンを効率的に決定する。
  論文  参考訳（メタデータ） (2024-04-24T05:22:38Z)
• Precision Guided Approach to Mitigate Data Poisoning Attacks in Federated Learning [4.907460152017894]
  フェデレートラーニング(Federated Learning, FL)は、参加者が共有機械学習モデルを集合的にトレーニングすることを可能にする、協調学習パラダイムである。 データ中毒攻撃に対する現在のFL防衛戦略は、正確性と堅牢性の間のトレードオフを含む。 本稿では、FLにおけるデータ中毒攻撃を効果的に対処するために、ゾーンベースの退避更新(ZBDU)機構を利用するFedZZを提案する。
  論文  参考訳（メタデータ） (2024-04-05T14:37:49Z)
• FaultGuard: A Generative Approach to Resilient Fault Prediction in Smart Electrical Grids [53.2306792009435]
  FaultGuardは、障害タイプとゾーン分類のための最初のフレームワークであり、敵攻撃に耐性がある。 本稿では,ロバスト性を高めるために,低複雑性故障予測モデルとオンライン逆行訓練手法を提案する。 本モデルでは,耐故障予測ベンチマークの最先端を最大0.958の精度で上回っている。
  論文  参考訳（メタデータ） (2024-03-26T08:51:23Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Consistent Valid Physically-Realizable Adversarial Attack against Crowd-flow Prediction Models [4.286570387250455]
  ディープラーニング(DL)モデルは、都市全体のクラウドフローパターンを効果的に学習することができる。 DLモデルは、目立たない逆境の摂動に対して不利に作用することが知られている。
  論文  参考訳（メタデータ） (2023-03-05T13:30:25Z)
• Robust Trajectory Prediction against Adversarial Attacks [84.10405251683713]
  ディープニューラルネットワーク(DNN)を用いた軌道予測は、自律運転システムにおいて不可欠な要素である。 これらの手法は敵の攻撃に対して脆弱であり、衝突などの重大な結果をもたらす。 本研究では,敵対的攻撃に対する軌道予測モデルを保護するための2つの重要な要素を同定する。
  論文  参考訳（メタデータ） (2022-07-29T22:35:05Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• The Adversarial Security Mitigations of mmWave Beamforming Prediction Models using Defensive Distillation and Adversarial Retraining [0.41998444721319217]
  本稿では、6G無線ネットワークにおけるディープニューラルネットワーク(DNN)を用いたビームフォーミング予測のためのディープラーニングにおけるセキュリティ脆弱性について述べる。 提案手法は、トレーニングデータの逆例によりデータが破損した状況で使用できる。
  論文  参考訳（メタデータ） (2022-02-16T16:47:17Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。