論文の概要: Revisiting the Adversarial Robustness of Graph-Based Traffic Forecasting
- arxiv url: http://arxiv.org/abs/2607.27604v1
- Date: Thu, 30 Jul 2026 02:49:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.369541
- Title: Revisiting the Adversarial Robustness of Graph-Based Traffic Forecasting
- Title（参考訳）: グラフベース交通予測における逆ロバスト性の再検討
- Abstract要約: グラフベースのAIによる交通予測は、インテリジェントトランスポートシステムの重要なコンポーネントである。
本研究では,限られたモデル知識と少数の道路センサのみを監視・操作する能力を備えた現実的な敵について検討する。
本稿では、入力特徴として硬化した予測器に出力を供給し、予測器を固定した適応攻撃に対して訓練した学習された物理インフォームド検出器を提案する。
- 参考スコア（独自算出の注目度）: 3.6211789323897166
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Traffic forecasting by graph-based AI is a critical component of intelligent transportation systems, motivating security research on robustness to malicious sensor readings. We argue that prior robustness evaluations are largely shaped by unrealistic threat models and untargeted objectives, so both attacks and defenses must be revisited. We study a practical adversary with limited model knowledge and the ability to monitor and manipulate only a few road sensors. More importantly, practical attacks can be localized to specific links or routes, causing incorrect estimated arrival times or unnecessary rerouting while leaving the broader network largely unaffected. This targeted setting remains underexplored, and defenses such as adversarial training do not transfer well from the norm-bounded attacks they train on to structurally different, physics-aware attacks that mimic genuine congestion. We therefore reframe robustness as a detection problem, introducing a learned physics-informed detector whose output is fed to a hardened forecaster as an input feature and trained against adaptive attacks with the forecaster fixed. We evaluate across a variety of model architectures and benchmarks. The physics-aware attack multiplies target-link error several-fold while the network-wide error barely moves, and adversarial training, tuned to norm-bounded perturbations, barely dents it. Our detection--mitigation defense improves even on adversarial training hardened against the physics-aware attack itself, on $13$ of $15$ model--dataset settings and by the widest margin on a held-out attack, at near-zero clean cost. The results emphasize the need to examine abstracted AI adversarial attacks under application-specific constraints to assess their true security impacts.
- Abstract（参考訳）: グラフベースのAIによるトラフィック予測は、インテリジェントトランスポートシステムの重要なコンポーネントであり、悪意のあるセンサー読み取りに対する堅牢性に関するセキュリティ研究を動機付けている。
我々は、事前の堅牢性評価は非現実的な脅威モデルと未標的の目標によって主に形作られており、攻撃と防御の両方を再考する必要があると論じている。
本研究では,限られたモデル知識と少数の道路センサのみを監視・操作する能力を備えた現実的な敵について検討する。
さらに重要なことは、実際の攻撃は特定のリンクやルートにローカライズすることができ、不正確な到着時間や不要なリローティングを引き起こし、広いネットワークは影響を受けないままである。
この目標設定は未発見のままであり、敵の訓練のような防御策は、彼らが訓練する通常の攻撃から、真の混雑を模倣する構造的に異なる物理認識攻撃にうまく移行しない。
そこで我々は、入力特徴として強化予測器に出力を供給し、予測器を固定した適応攻撃に対して訓練した学習された物理インフォームド検出器を導入し、検出問題としてロバスト性を再設定する。
さまざまなモデルアーキテクチャとベンチマークを評価します。
物理を意識した攻撃はターゲットリンク誤差を数倍増し、ネットワーク全体のエラーはわずかに動き、敵の訓練はノルム境界の摂動に調整され、ほとんど無視される。
我々の検出緩和防御は、物理認識攻撃そのものに対して強化された敵の訓練でも、13ドル(約1,300円)のモデルセット設定で改善され、また、ホールドアウト攻撃において最も広いマージンで、ほぼゼロのクリーンコストで改善されます。
その結果、アプリケーション固有の制約の下で、抽象化されたAI敵攻撃を調べて、真のセキュリティへの影響を評価する必要性が強調された。
関連論文リスト
- Benchmarking Adversarial Robustness and Adversarial Training Strategies for Object Detection [24.70528833663651]
物体検出モデルは、自動運転車や知覚に基づくロボットなど、自動システムの重要なコンポーネントである。
これらのモデルの防衛の進歩は、標準化された評価の欠如によって妨げられている分類の遅れを妨げている。
既存の作業では、異なるデータセット、一貫性のない効率指標、様々な摂動コストの測定が使用されているため、攻撃や防御の方法を徹底的に比較することはほぼ不可能である。
論文 参考訳（メタデータ） (2026-02-18T14:33:58Z) - Behavior-Aware and Generalizable Defense Against Black-Box Adversarial Attacks for ML-Based IDS [2.179313476241343]
ブラックボックスの敵攻撃は、機械学習ベースの侵入検知システムによってますます標的にされている。
本稿では,現実的なブラックボックスシナリオに特化して設計された,軽量かつプロアクティブな防御機構であるAdaptive Feature Poisoningを提案する。
我々は攻撃者を混乱させ、攻撃の有効性を低下させ、検出性能を維持する能力を評価する。
論文 参考訳（メタデータ） (2025-12-15T16:29:23Z) - Preliminary Investigation into Uncertainty-Aware Attack Stage Classification [81.28215542218724]
この研究は、不確実性の下での攻撃段階推論の問題に対処する。
Evidential Deep Learning (EDL) に基づく分類手法を提案し、ディリクレ分布のパラメータを可能な段階に出力することで予測の不確実性をモデル化する。
シミュレーション環境における予備実験により,提案モデルが精度良く攻撃の段階を推定できることが実証された。
論文 参考訳（メタデータ） (2025-08-01T06:58:00Z) - Adversarial Attacks and Defenses in Multivariate Time-Series Forecasting for Smart and Connected Infrastructures [8.325525024021832]
時系列予測における敵攻撃の影響について検討する。
トレーニングプロセスへの入力を有害にするために、未ターゲットのホワイトボックスアタックを採用し、効果的にモデルを誤解させる。
これらの攻撃の有効性を実証し、敵の訓練とモデル硬化による堅牢なモデルを構築した。
論文 参考訳（メタデータ） (2024-08-27T08:44:31Z) - FaultGuard: A Generative Approach to Resilient Fault Prediction in Smart Electrical Grids [53.2306792009435]
FaultGuardは、障害タイプとゾーン分類のための最初のフレームワークであり、敵攻撃に耐性がある。
本稿では,ロバスト性を高めるために,低複雑性故障予測モデルとオンライン逆行訓練手法を提案する。
本モデルでは,耐故障予測ベンチマークの最先端を最大0.958の精度で上回っている。
論文 参考訳（メタデータ） (2024-03-26T08:51:23Z) - Enhancing Object Detection Robustness: Detecting and Restoring Confidence in the Presence of Adversarial Patch Attacks [2.963101656293054]
敵パッチに対するYOLOv5モデルの防御機構について検討した。
我々はSegment and Complete (SAC)、Inpainting、Latent Diffusion Modelsを含むいくつかの防衛実験を行った。
その結果, 対向パッチは平均検出信頼度を22.06%低下させることがわかった。
論文 参考訳（メタデータ） (2024-03-04T13:32:48Z) - Avoid Adversarial Adaption in Federated Learning by Multi-Metric
Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。
FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。
我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。
MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文 参考訳（メタデータ） (2023-06-06T11:44:42Z) - Towards Adversarial Realism and Robust Learning for IoT Intrusion
Detection and Classification [0.0]
IoT(Internet of Things)は、重大なセキュリティ上の課題に直面している。
敵の攻撃による脅威の増大は、信頼できる防衛戦略の必要性を回復させる。
本研究は、敵のサイバー攻撃事例が現実的であるために必要な制約の種類について述べる。
論文 参考訳（メタデータ） (2023-01-30T18:00:28Z) - AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。
我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。
私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
論文 参考訳（メタデータ） (2022-09-19T03:34:59Z) - The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。
敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文 参考訳（メタデータ） (2021-06-26T10:50:07Z) - Adversarial vs behavioural-based defensive AI with joint, continual and
active learning: automated evaluation of robustness to deception, poisoning
and concept drift [62.997667081978825]
人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。
本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
論文 参考訳（メタデータ） (2020-01-13T13:54:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。