Fugu-MT 論文翻訳(概要): Evaluating the Vulnerabilities in ML systems in terms of adversarial attacks

論文の概要: Evaluating the Vulnerabilities in ML systems in terms of adversarial attacks

arxiv url: http://arxiv.org/abs/2308.12918v1
Date: Thu, 24 Aug 2023 16:46:01 GMT
ステータス: 処理完了
システム内更新日: 2023-08-25 13:03:30.439178
Title: Evaluating the Vulnerabilities in ML systems in terms of adversarial attacks
Title（参考訳）: 敵対的攻撃の観点からみたmlシステムの脆弱性評価
Authors: John Harshith, Mantej Singh Gill, Madhan Jothimani
Abstract要約: 新たな敵攻撃手法は、現在のディープラーニングサイバー防衛システムに課題をもたらす可能性がある。著者はAIシステムにおける脆弱性の結果を探求する。テストフェーズにあるAIシステムを適切にトレーニングし、より広範な使用に備えることが重要です。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: There have been recent adversarial attacks that are difficult to find. These new adversarial attacks methods may pose challenges to current deep learning cyber defense systems and could influence the future defense of cyberattacks. The authors focus on this domain in this research paper. They explore the consequences of vulnerabilities in AI systems. This includes discussing how they might arise, differences between randomized and adversarial examples and also potential ethical implications of vulnerabilities. Moreover, it is important to train the AI systems appropriately when they are in testing phase and getting them ready for broader use.
Abstract（参考訳）: 最近の敵の攻撃は、見つけるのが難しい。これらの新たな敵攻撃手法は、現在のディープラーニングサイバー防衛システムに課題をもたらし、将来のサイバー攻撃の防衛に影響を与える可能性がある。著者らは本研究論文でこの領域に注目した。彼らはAIシステムの脆弱性の結果を探る。これには、それらの発生方法、ランダム化された例と敵の例の違い、および潜在的な脆弱性の倫理的影響について議論することが含まれる。さらに、テストフェーズにあるaiシステムを適切にトレーニングし、より広範な利用に向けて準備しておくことも重要です。

関連論文リスト

Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
論文参考訳（メタデータ） (2024-09-23T10:18:10Z)
Counter Denial of Service for Next-Generation Networks within the Artificial Intelligence and Post-Quantum Era [2.156208381257605]
DoS攻撃はますます洗練され、容易に実行できるようになった。最先端の体系化の取り組みには、孤立したDoS対策のような制限がある。量子コンピュータの出現は、攻撃と防御の観点からのDoSのゲームチェンジャーである。
論文参考訳（メタデータ） (2024-08-08T18:47:31Z)
Exploring Vulnerabilities and Protections in Large Language Models: A Survey [1.6179784294541053]
本稿では,Large Language Models (LLMs) のセキュリティ課題について検討する。 Prompt HackingとAdversarial Attacksの2つの主要分野に焦点を当てている。これらのセキュリティ問題の詳細を明らかにすることで、この調査はレジリエントなAIシステム構築に関する広範な議論に貢献する。
論文参考訳（メタデータ） (2024-06-01T00:11:09Z)
CANEDERLI: On The Impact of Adversarial Training and Transferability on CAN Intrusion Detection Systems [17.351539765989433]
車両と外部ネットワークの統合が拡大し、コントロールエリアネットワーク(CAN)の内部バスをターゲットにした攻撃が急増した。対策として,様々な侵入検知システム(IDS)が文献で提案されている。これらのシステムのほとんどは、機械学習(ML)やディープラーニング(DL)モデルのような、データ駆動のアプローチに依存しています。本稿では,CANベースのIDSをセキュアにするための新しいフレームワークであるCANEDERLIを提案する。
論文参考訳（メタデータ） (2024-04-06T14:54:11Z)
Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
論文参考訳（メタデータ） (2022-07-20T19:49:09Z)
Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
ネットワーク分類器に対するブラックボックス攻撃について検討する。我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
論文参考訳（メタデータ） (2021-11-23T23:42:16Z)
The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文参考訳（メタデータ） (2021-06-26T10:50:07Z)
Security and Privacy for Artificial Intelligence: Opportunities and Challenges [11.368470074697747]
近年、ほとんどのAIモデルは高度なハッキング技術に弱い。この課題は、敵AIの研究努力を共同で進めるきっかけとなった。我々は、AIアプリケーションに対する敵攻撃を実証する総合的なサイバーセキュリティレビューを提示する。
論文参考訳（メタデータ） (2021-02-09T06:06:13Z)
Measurement-driven Security Analysis of Imperceptible Impersonation Attacks [54.727945432381716]
本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
論文参考訳（メタデータ） (2020-08-26T19:27:27Z)
Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain [58.30296637276011]
本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
論文参考訳（メタデータ） (2020-07-05T18:22:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。