Fugu-MT 論文翻訳(概要): Adversarial Machine Learning: Attacks, Defenses, and Open Challenges

論文の概要: Adversarial Machine Learning: Attacks, Defenses, and Open Challenges

arxiv url: http://arxiv.org/abs/2502.05637v1
Date: Sat, 08 Feb 2025 16:43:17 GMT
ステータス: 翻訳完了
システム内更新日: 2025-02-11 14:33:26.415891
Title: Adversarial Machine Learning: Attacks, Defenses, and Open Challenges
Title（参考訳）: 敵対的機械学習 - 攻撃、防御、オープンチャレンジ
Authors: Pranav K Jha,
Abstract要約: Adversarial Machine Learning (AML)は、AIシステムの脆弱性に対処する。本稿では,回避攻撃と毒殺攻撃を包括的に分析し,数学的厳密さで防御機構を定式化し,適応的脅威モデルに頑健なソリューションを実装する上での課題について論じる。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: Adversarial Machine Learning (AML) addresses vulnerabilities in AI systems where adversaries manipulate inputs or training data to degrade performance. This article provides a comprehensive analysis of evasion and poisoning attacks, formalizes defense mechanisms with mathematical rigor, and discusses the challenges of implementing robust solutions in adaptive threat models. Additionally, it highlights open challenges in certified robustness, scalability, and real-world deployment.
Abstract（参考訳）: Adversarial Machine Learning (AML)は、AIシステムの脆弱性に対処する。本稿では,回避攻撃と毒殺攻撃を包括的に分析し,数学的厳密さで防御機構を定式化し,適応的脅威モデルに頑健なソリューションを実装する上での課題について論じる。さらに、信頼性の高い堅牢性、スケーラビリティ、実際のデプロイメントにおけるオープンな課題を強調している。

関連論文リスト

Towards Robust and Secure Embodied AI: A Survey on Vulnerabilities and Attacks [22.154001025679896]
ロボットや自動運転車を含む身体的AIシステムは、現実のアプリケーションにますます統合されている。これらの脆弱性は、センサーのスプーフィング、敵攻撃、タスクおよび動作計画における失敗を通じて現れる。
論文参考訳（メタデータ） (2025-02-18T03:38:07Z)
Intelligent Attacks on Cyber-Physical Systems and Critical Infrastructures [0.0]
この章は、サイバー物理システムと重要なインフラにおける攻撃の進化の状況の概要を提供する。人工知能(AI)アルゴリズムによるインテリジェントなサイバーアタックの開発の可能性を強調している。
論文参考訳（メタデータ） (2025-01-22T09:54:58Z)
Bringing Order Amidst Chaos: On the Role of Artificial Intelligence in Secure Software Engineering [0.0]
進化を続ける技術的景観は、機会と脅威の両方を提供し、カオスと秩序が競合する動的な空間を作り出す。セキュアなソフトウェアエンジニアリング(SSE)は、ソフトウェアシステムを危険にさらす脆弱性に継続的に対処しなければならない。この論文は、AIの精度に影響を与えるドメイン固有の違いに対処することで、SSEのカオスに秩序をもたらすことを目指している。
論文参考訳（メタデータ） (2025-01-09T11:38:58Z)
Deep Learning Model Security: Threats and Defenses [25.074630770554105]
ディープラーニングはAIアプリケーションを変えたが、重要なセキュリティ課題に直面している。この調査は、これらの脆弱性を調べ、それらのメカニズムとモデル完全性と機密性への影響を詳細に示す。この調査は、自動化された防御、ゼロトラストアーキテクチャ、大規模AIモデルのセキュリティ上の課題を強調し、今後の方向性を結論付けている。
論文参考訳（メタデータ） (2024-12-12T06:04:20Z)
Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
論文参考訳（メタデータ） (2024-09-23T10:18:10Z)
Threats, Attacks, and Defenses in Machine Unlearning: A Survey [14.03428437751312]
マシン・アンラーニング(MU)は、Safe AIを達成する可能性から、最近かなりの注目を集めている。この調査は、機械学習における脅威、攻撃、防衛に関する広範な研究のギャップを埋めることを目的としている。
論文参考訳（メタデータ） (2024-03-20T15:40:18Z)
Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文参考訳（メタデータ） (2024-02-07T21:58:40Z)
Designing an attack-defense game: how to increase robustness of financial transaction models via a competition [69.08339915577206]
金融セクターにおける悪意ある攻撃のエスカレートリスクを考えると、機械学習モデルの敵戦略と堅牢な防御メカニズムを理解することが重要である。本研究の目的は、逐次的な財務データを入力として使用するニューラルネットワークモデルに対する敵攻撃と防御の現状とダイナミクスを調査することである。我々は、現代の金融取引データにおける問題の現実的かつ詳細な調査を可能にする競争を設計した。参加者は直接対決するので、実生活に近い環境で攻撃や防御が検討される。
論文参考訳（メタデータ） (2023-08-22T12:53:09Z)
Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
論文参考訳（メタデータ） (2023-03-11T04:19:31Z)
Holistic Adversarial Robustness of Deep Learning Models [91.34155889052786]
敵対的堅牢性は、安全性と信頼性を確保するために、機械学習モデルの最悪のケースパフォーマンスを研究する。本稿では,深層学習モデルの対角的ロバスト性に関する研究課題の概要と研究手法の基礎原則について概説する。
論文参考訳（メタデータ） (2022-02-15T05:30:27Z)
Dataset Security for Machine Learning: Data Poisoning, Backdoor Attacks, and Defenses [150.64470864162556]
この作業は体系的に分類され、幅広いデータセット脆弱性とエクスプロイトを議論する。様々な毒とバックドアの脅威モデルとそれらの関係を記述することに加えて,それらの統一分類法を展開する。
論文参考訳（メタデータ） (2020-12-18T22:38:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。