論文の概要: Adversarial Robustness of Bottleneck Injected Deep Neural Networks for Task-Oriented Communication

• arxiv url: http://arxiv.org/abs/2412.10265v1
• Date: Fri, 13 Dec 2024 16:33:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-16 15:01:26.472390
• Title: Adversarial Robustness of Bottleneck Injected Deep Neural Networks for Task-Oriented Communication
• Title（参考訳）: タスク指向通信のためのボトルネック注入深部ニューラルネットワークの逆ロバスト性
• Authors: Alireza Furutanpey, Pantelis A. Frangoudis, Patrik Szabo, Schahram Dustdar,
• Abstract要約: 本稿では,Deep Neural Networks (DNNs) のタスク指向通信システムにおけるinformation Bottleneck (IB) 目標を用いた対角的ロバスト性について検討する。 IBベースのアプローチは、下流タスクをターゲットにした攻撃に対してベースラインレジリエンスを提供するが、タスク指向コミュニケーションのための生成モデルへの依存は新たな脆弱性をもたらすことを実証的に示す。
• 参考スコア（独自算出の注目度）: 5.623268609388779
• License:
• Abstract: This paper investigates the adversarial robustness of Deep Neural Networks (DNNs) using Information Bottleneck (IB) objectives for task-oriented communication systems. We empirically demonstrate that while IB-based approaches provide baseline resilience against attacks targeting downstream tasks, the reliance on generative models for task-oriented communication introduces new vulnerabilities. Through extensive experiments on several datasets, we analyze how bottleneck depth and task complexity influence adversarial robustness. Our key findings show that Shallow Variational Bottleneck Injection (SVBI) provides less adversarial robustness compared to Deep Variational Information Bottleneck (DVIB) approaches, with the gap widening for more complex tasks. Additionally, we reveal that IB-based objectives exhibit stronger robustness against attacks focusing on salient pixels with high intensity compared to those perturbing many pixels with lower intensity. Lastly, we demonstrate that task-oriented communication systems that rely on generative models to extract and recover salient information have an increased attack surface. The results highlight important security considerations for next-generation communication systems that leverage neural networks for goal-oriented compression.
• Abstract（参考訳）: 本稿では,Deep Neural Networks (DNNs) のタスク指向通信システムにおけるinformation Bottleneck (IB) 目標を用いた対角的ロバスト性について検討する。 IBベースのアプローチは、下流タスクをターゲットにした攻撃に対してベースラインレジリエンスを提供するが、タスク指向コミュニケーションのための生成モデルへの依存は新たな脆弱性をもたらすことを実証的に示す。 いくつかのデータセットに対する広範な実験を通じて、ボトルネックの深さとタスクの複雑さが敵の堅牢性にどのように影響するかを分析する。 以上の結果から,Shallow Variational Bottleneck Injection (SVBI) は,DVIB (Deep Variational Information Bottleneck) のアプローチと比較して,より複雑なタスクのギャップを広げることにより,対向的ロバスト性を低下させることが示唆された。 さらに, IBをベースとした目的は, 強度の低い多くの画素を摂動させた場合と比較して, 高い強度の有意な画素に焦点を絞った攻撃に対して強い強靭性を示すことが明らかとなった。 最後に,有能な情報を抽出・回収するための生成モデルに依存するタスク指向通信システムが攻撃面を増大させることを示した。 その結果、ニューラルネットワークを目標指向圧縮に活用する次世代通信システムにおいて、重要なセキュリティ上の考慮事項が浮かび上がっている。

関連論文リスト

• CONTINUUM: Detecting APT Attacks through Spatial-Temporal Graph Neural Networks [0.9553673944187253]
  Advanced Persistent Threats (APT) はサイバーセキュリティにおいて重要な課題である。 従来の侵入検知システム(IDS)は、これらの多段階攻撃を検出するのに不足することが多い。
  論文  参考訳（メタデータ） (2025-01-06T12:43:59Z)
• AI Flow at the Network Edge [58.31090055138711]
  AI Flowは、デバイス、エッジノード、クラウドサーバ間で利用可能な異種リソースを共同で活用することで、推論プロセスを合理化するフレームワークである。 この記事では、AI Flowのモチベーション、課題、原則を特定するためのポジションペーパーとして機能する。
  論文  参考訳（メタデータ） (2024-11-19T12:51:17Z)
• Towards Resource-Efficient Federated Learning in Industrial IoT for Multivariate Time Series Analysis [50.18156030818883]
  異常と欠落したデータは、産業応用における厄介な問題を構成する。 ディープラーニングによる異常検出が重要な方向として現れている。 エッジデバイスで収集されたデータは、ユーザのプライバシを含む。
  論文  参考訳（メタデータ） (2024-11-06T15:38:31Z)
• Advancing Security in AI Systems: A Novel Approach to Detecting Backdoors in Deep Neural Networks [3.489779105594534]
  バックドアは、ディープニューラルネットワーク(DNN)上の悪意あるアクターと、データ処理のためのクラウドサービスによって悪用される。 提案手法は高度テンソル分解アルゴリズムを利用して,事前学習したDNNの重みを慎重に解析し,バックドアモデルとクリーンモデルとの区別を行う。 この進歩は、ネットワークシステムにおけるディープラーニングとAIのセキュリティを強化し、新興技術の脅威の進化に対して不可欠なサイバーセキュリティを提供する。
  論文  参考訳（メタデータ） (2024-03-13T03:10:11Z)
• Tighter Bounds on the Information Bottleneck with Application to Deep Learning [6.206127662604578]
  Deep Neural Nets (DNN)は、下流タスク、目的関数、その他のパラメータによって誘導される潜在表現を学習する。 Information Bottleneck (IB)は、データモデリングのための仮説上最適なフレームワークを提供するが、しばしば難解である。 近年のDNNとIBの連携により,VAEにインスパイアされた変分法を相互情報のバウンダリ近似に適用し,敵攻撃に対するロバスト性の向上を実現している。
  論文  参考訳（メタデータ） (2024-02-12T13:24:32Z)
• X-CBA: Explainability Aided CatBoosted Anomal-E for Intrusion Detection System [2.556190321164248]
  Intrusion Detection Systemsにおける機械学習(ML)モデルとディープラーニング(DL)モデルの使用は、不透明な意思決定による信頼の欠如につながっている。 本稿では、グラフニューラルネットワーク(GNN)の構造的利点を活用して、ネットワークトラフィックデータを効率的に処理する新しい説明可能なIDS手法であるX-CBAを提案する。 本手法は、脅威検出の99.47%で高精度に達成し、その分析結果の明確で実用的な説明を提供する。
  論文  参考訳（メタデータ） (2024-02-01T18:29:16Z)
• Advancing DDoS Attack Detection: A Synergistic Approach Using Deep Residual Neural Networks and Synthetic Oversampling [2.988269372716689]
  本稿では,Deep Residual Neural Networks(ResNets)の機能を活用したDDoS攻撃検出の強化手法を提案する。 我々は、良性および悪意のあるデータポイントの表現のバランスをとり、モデルが攻撃を示す複雑なパターンをよりよく識別できるようにする。 実世界のデータセットを用いた実験結果から,従来の手法よりもはるかに優れた99.98%の精度が得られた。
  論文  参考訳（メタデータ） (2024-01-06T03:03:52Z)
• ADASR: An Adversarial Auto-Augmentation Framework for Hyperspectral and Multispectral Data Fusion [54.668445421149364]
  HSI(Deep Learning-based Hyperspectral Image)は、HSI(Hyperspectral Image)とMSI(Multispectral Image)を深層ニューラルネットワーク(DNN)に融合させることにより、高空間分解能HSI(HR-HSI)を生成することを目的としている。 本稿では, HSI-MSI 融合のためのデータ多様性を向上するために, HSI-MSI サンプルペアの自動最適化と拡張を行う新しい逆自動データ拡張フレームワーク ADASR を提案する。
  論文  参考訳（メタデータ） (2023-10-11T07:30:37Z)
• Improving Corruption and Adversarial Robustness by Enhancing Weak Subnets [91.9346332103637]
  本研究では,頑健性を向上させるために,トレーニング中の弱さを明確に識別し,強化する新しいロバストトレーニング手法を提案する。 具体的には、特に弱いものを見つけるための探索アルゴリズムを開発し、全ネットワークからの知識蒸留を通じてそれらを明示的に強化することを提案する。 EWSは、破損した画像に対するロバスト性を大幅に改善し、クリーンなデータの正確性も向上することを示す。
  論文  参考訳（メタデータ） (2022-01-30T09:36:19Z)
• Information Obfuscation of Graph Neural Networks [96.8421624921384]
  本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。 本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-09-28T17:55:04Z)
• Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
  我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。 実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。 以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
  論文  参考訳（メタデータ） (2020-04-30T19:12:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。