論文の概要: Ethical Testing in the Real World: Evaluating Physical Testing of
Adversarial Machine Learning
- arxiv url: http://arxiv.org/abs/2012.02048v1
- Date: Thu, 3 Dec 2020 16:28:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-22 05:16:14.262673
- Title: Ethical Testing in the Real World: Evaluating Physical Testing of
Adversarial Machine Learning
- Title(参考訳): 現実世界における倫理的テスト: 対人機械学習の身体的テストの評価
- Authors: Kendra Albert, Maggie Delano, Jonathon Penney, Afsaneh Rigot and Ram
Shankar Siva Kumar
- Abstract要約: 機械学習(ML、Adversarial Machine Learning)は、倫理的、科学的、健康・安全に関する問題である。
本稿では、人体を含むコンピュータビジョンシステムに対する様々な対向機械学習(ML)攻撃に対する物理領域検定の妥当性と代表性について批判的に評価する。
- 参考スコア(独自算出の注目度): 0.71747343065587
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper critically assesses the adequacy and representativeness of
physical domain testing for various adversarial machine learning (ML) attacks
against computer vision systems involving human subjects. Many papers that
deploy such attacks characterize themselves as "real world." Despite this
framing, however, we found the physical or real-world testing conducted was
minimal, provided few details about testing subjects and was often conducted as
an afterthought or demonstration. Adversarial ML research without
representative trials or testing is an ethical, scientific, and health/safety
issue that can cause real harms. We introduce the problem and our methodology,
and then critique the physical domain testing methodologies employed by papers
in the field. We then explore various barriers to more inclusive physical
testing in adversarial ML and offer recommendations to improve such testing
notwithstanding these challenges.
- Abstract(参考訳): 本稿では,人間を含むコンピュータビジョンシステムに対する様々な機械学習(ml)攻撃に対する物理領域テストの妥当性と代表性について批判的に評価する。
このような攻撃を展開する多くの論文は、自らを「現実世界」と特徴づけている。
しかし、このフレーミングにもかかわらず、実際のテストは最小限であり、被験者についてはほとんど詳細を示さず、後述や実演としてしばしば行われた。
代表的トライアルやテストのない敵対的ML研究は、倫理的、科学的、健康・安全の問題であり、真の損害を引き起こす可能性がある。
この問題と方法論を紹介し,その分野の論文で採用されている物理ドメインテスト方法論を批判する。
次に、敵mlにおけるより包括的な物理的テストに対するさまざまな障壁を調査し、これらの課題にかかわらず、このようなテストを改善するための推奨を提供する。
関連論文リスト
- MultiTest: Physical-Aware Object Insertion for Testing Multi-sensor
Fusion Perception Systems [23.460181958075566]
マルチセンサー融合(MSF、Multi-Sensor fusion)は、自動運転車や自動ロボットアームなど、多くの安全上重要なタスクや応用に対処する鍵となる技術である。
既存のテスト方法は、主に単一センサーの知覚システムに焦点を当てている。
複雑なMSF知覚システムのための適合性誘導型メタモルフィックテスト手法であるMultiTestを紹介する。
論文 参考訳(メタデータ) (2024-01-25T17:03:02Z) - Adversarial Attack and Defense for Medical Image Analysis: Methods and
Applications [57.206139366029646]
医用画像解析における対人攻撃と防御の進歩に関する総合的な調査を報告する。
医療画像解析のための異なる種類の敵攻撃のための統一的理論的枠組みと防衛方法を提供する。
公正な比較のために、逆向きに堅牢な診断モデルのための新しいベンチマークを構築した。
論文 参考訳(メタデータ) (2023-03-24T16:38:58Z) - Review on the Feasibility of Adversarial Evasion Attacks and Defenses
for Network Intrusion Detection Systems [0.7829352305480285]
最近の研究は、サイバーセキュリティ分野における多くの懸念を提起している。
機械学習アルゴリズムに基づくセキュリティシステムに対する攻撃の可能性について研究する研究者が増えている。
論文 参考訳(メタデータ) (2023-03-13T11:00:05Z) - A Survey on Computer Vision based Human Analysis in the COVID-19 Era [58.79053747159797]
新型コロナウイルスの出現は、社会全体だけでなく、個人の生活にも大きく影響している。
マスクやソーシャルディスタンシングの義務、公共空間での定期消毒、スクリーニングアプリケーションの使用など、さまざまな予防策が世界中で導入されている。
これらの発展は、(i)視覚データの自動解析による予防対策の支援、(ii)生体認証などの既存の視覚ベースのサービスの正常な操作を容易にする、新しいコンピュータビジョン技術の必要性を喚起した。
論文 参考訳(メタデータ) (2022-11-07T17:20:39Z) - Physical Adversarial Attack meets Computer Vision: A Decade Survey [57.46379460600939]
本稿では,身体的敵意攻撃の概要を概観する。
本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。
提案する評価基準であるhiPAAは6つの視点から構成される。
論文 参考訳(メタデータ) (2022-09-30T01:59:53Z) - Failure Detection in Medical Image Classification: A Reality Check and
Benchmarking Testbed [23.25084022554028]
自動画像分類における故障検出は、臨床展開にとって重要な安全策である。
その最重要さにもかかわらず、テストタイムの失敗を検出する最先端の信頼度評価手法の能力に関する証拠は不十分である。
本稿では,ドメイン内誤分類検出手法の性能を実証する現実チェックを提案する。
論文 参考訳(メタデータ) (2022-05-27T16:50:48Z) - Survey of Machine Learning Based Intrusion Detection Methods for
Internet of Medical Things [2.223733768286313]
Internet of Medical Things (IoMT) は、モノのインターネット(Internet of Things)の応用である。
このデータのセンシティブでプライベートな性質は、攻撃者にとって重要な関心事であるかもしれない。
ストレージや計算能力に制限のある機器に対する従来のセキュリティ手法の使用は効果がない。
論文 参考訳(メタデータ) (2022-02-19T18:40:55Z) - Mind the Gap! A Study on the Transferability of Virtual vs
Physical-world Testing of Autonomous Driving Systems [6.649715954440713]
私たちはDonkey Carのオープンソースフレームワークを活用して、物理的に小型の車両にデプロイされたSDCのテストと仮想シミュレーションされたテストとを経験的に比較します。
多くのテスト結果が仮想環境と物理環境の間で伝達される一方で、仮想環境と物理環境の間の現実的ギャップに寄与する重要な欠点も確認した。
論文 参考訳(メタデータ) (2021-12-21T14:28:35Z) - As Easy as 1, 2, 3: Behavioural Testing of NMT Systems for Numerical
Translation [51.20569527047729]
誤訳された数字は、金銭的損失や医療的誤報などの深刻な影響を引き起こす可能性がある。
本研究では,ニューラルネットワーク翻訳システムの動作テストによる数値テキストへの堅牢性に関する総合的な評価法を開発した。
論文 参考訳(メタデータ) (2021-07-18T04:09:47Z) - Inspect, Understand, Overcome: A Survey of Practical Methods for AI
Safety [54.478842696269304]
安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。
近年,これらの安全対策を目的とした最先端技術動物園が出現している。
本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
論文 参考訳(メタデータ) (2021-04-29T09:54:54Z) - Dynamic Causal Effects Evaluation in A/B Testing with a Reinforcement
Learning Framework [68.96770035057716]
A/Bテスト(A/B Testing)は、新しい製品を製薬、技術、伝統産業の古い製品と比較するビジネス戦略である。
本稿では,オンライン実験においてA/Bテストを実施するための強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-05T10:25:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。