論文の概要: Towards Interpreting Vulnerability of Multi-Instance Learning via
Customized and Universal Adversarial Perturbations
- arxiv url: http://arxiv.org/abs/2211.17071v1
- Date: Wed, 30 Nov 2022 15:29:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 16:14:26.635163
- Title: Towards Interpreting Vulnerability of Multi-Instance Learning via
Customized and Universal Adversarial Perturbations
- Title（参考訳）: カスタマイズ・普遍的摂動によるマルチインスタンス学習の脆弱性の解釈に向けて
- Authors: Yu-Xuan Zhang and Hua Meng and Xuemei Cao and Zhengchun Zhou and Mei
Yang
- Abstract要約: MIL(Multi-Instance Learning)は、画像分類、ビデオ異常検出など、多くの分野で大きな成果を上げている。
しかし,MIL学習者の安全性は問題視されている。
例えば、ユーザーが望ましい画像にアクセスできない場合や、犯罪者が監視カメラを騙そうとしている場合などだ。
本稿では,MIL手法の脆弱性を解釈するための2つの逆摂動を設計する。
- 参考スコア（独自算出の注目度）: 33.528758369186505
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-instance learning (MIL) is a great paradigm for dealing with complex
data and has achieved impressive achievements in a number of fields, including
image classification, video anomaly detection, and far more. Each data sample
is referred to as a bag containing several unlabeled instances, and the
supervised information is only provided at the bag-level. The safety of MIL
learners is concerning, though, as we can greatly fool them by introducing a
few adversarial perturbations. This can be fatal in some cases, such as when
users are unable to access desired images and criminals are attempting to trick
surveillance cameras. In this paper, we design two adversarial perturbations to
interpret the vulnerability of MIL methods. The first method can efficiently
generate the bag-specific perturbation (called customized) with the aim of
outsiding it from its original classification region. The second method builds
on the first one by investigating the image-agnostic perturbation (called
universal) that aims to affect all bags in a given data set and obtains some
generalizability. We conduct various experiments to verify the performance of
these two perturbations, and the results show that both of them can effectively
fool MIL learners. We additionally propose a simple strategy to lessen the
effects of adversarial perturbations. Source codes are available at
https://github.com/InkiInki/MI-UAP.
- Abstract（参考訳）: MIL(Multi-Instance Learning)は、複雑なデータを扱うための優れたパラダイムであり、画像分類、ビデオ異常検出など、多くの分野で大きな成果を上げている。
各データサンプルは、複数のラベルのないインスタンスを含むバッグとして参照され、監督された情報は、バッグレベルでのみ提供される。
しかし、ミル学習者の安全性は、いくつかの敵の摂動を導入することで彼らを大いに騙すことができるため、関係している。
これは、ユーザーが所望の画像にアクセスできず、犯罪者が監視カメラを騙そうとしている場合に致命的な可能性がある。
本稿では,MIL手法の脆弱性を解釈するための2つの逆摂動を設計する。
最初の方法は、バッグ固有の摂動(カスタマイズと呼ばれる)を、元の分類領域から外す目的で効率的に生成することができる。
第2の方法は、与えられたデータセット内のすべてのバッグに影響を与えることを目的としたイメージ非依存の摂動(ユニバーサルと呼ばれる)を調査し、いくつかの一般化性を得ることで、第1の方法に基づいている。
この2つの摂動の性能を検証するために様々な実験を行い,ミル学習者を効果的に騙すことができることを示した。
さらに, 逆摂動の影響を少なくするための簡易な戦略を提案する。
ソースコードはhttps://github.com/InkiInki/MI-UAPで入手できる。
関連論文リスト
- Reproducibility in Multiple Instance Learning: A Case For Algorithmic
Unit Tests [59.623267208433255]
多重インスタンス学習(MIL)は、正と負のラベルと入力の「バグ」を持つ分類問題のサブドメインである。
本研究では,最も顕著な深層MILモデルの5つについて検討し,いずれも標準MILの仮定を尊重していないことを明らかにする。
提案した"アルゴリズムユニットテスト"によってこの問題を特定し,実証する。そこでは,MILを尊重するモデルによって解決可能な,合成データセットを作成する。
論文 参考訳（メタデータ） (2023-10-27T03:05:11Z) - Multiple Instance Learning Framework with Masked Hard Instance Mining
for Whole Slide Image Classification [11.996318969699296]
マスケードハードインスタンスマイニング(MHIM-MIL)について紹介する。
MHIM-MILは、潜在的なハードインスタンスを探索するために一貫性のある制約を持つシームズ構造(Teacher-Student)を使用する。
CAMELYON-16およびTCGA肺がんデータセットの実験結果は、MHIM-MILがパフォーマンスとトレーニングコストの点で他の最新の方法よりも優れていることを示している。
論文 参考訳（メタデータ） (2023-07-28T01:40:04Z) - When Measures are Unreliable: Imperceptible Adversarial Perturbations
toward Top-$k$ Multi-Label Learning [83.8758881342346]
新しい損失関数は、視覚的および測定的不受容性を両立できる敵の摂動を生成するために考案された。
大規模ベンチマークデータセットを用いた実験により,提案手法が最上位の$kのマルチラベルシステムを攻撃する際の優位性を実証した。
論文 参考訳（メタデータ） (2023-07-27T13:18:47Z) - Review on the Feasibility of Adversarial Evasion Attacks and Defenses
for Network Intrusion Detection Systems [0.7829352305480285]
最近の研究は、サイバーセキュリティ分野における多くの懸念を提起している。
機械学習アルゴリズムに基づくセキュリティシステムに対する攻撃の可能性について研究する研究者が増えている。
論文 参考訳（メタデータ） (2023-03-13T11:00:05Z) - HardVis: Visual Analytics to Handle Instance Hardness Using Undersampling and Oversampling Techniques [48.82319198853359]
HardVisは、主に不均衡な分類シナリオでインスタンスの硬さを処理するために設計されたビジュアル分析システムである。
ユーザはさまざまな視点からデータのサブセットを探索して、これらのパラメータをすべて決定できる。
HardVisの有効性と有効性は仮説的利用シナリオとユースケースで実証される。
論文 参考訳（メタデータ） (2022-03-29T17:04:16Z) - MAML is a Noisy Contrastive Learner [72.04430033118426]
モデルに依存しないメタラーニング(MAML)は、今日では最も人気があり広く採用されているメタラーニングアルゴリズムの1つである。
我々は、MAMLの動作メカニズムに対する新たな視点を提供し、以下に示すように、MAMLは、教師付きコントラスト目的関数を用いたメタラーナーに類似している。
このような干渉を軽減するため, 単純だが効果的な手法であるゼロ化手法を提案する。
論文 参考訳（メタデータ） (2021-06-29T12:52:26Z) - CIL: Contrastive Instance Learning Framework for Distantly Supervised
Relation Extraction [52.94486705393062]
我々は、典型的なマルチインスタンス学習(MIL)フレームワークを超えて、新しいコントラッシブ・インスタンス学習(CIL)フレームワークを提案する。
具体的には、初期MILをリレーショナルトリプルエンコーダと各インスタンスに対する負のペアに対する制約正のペアとみなす。
提案手法の有効性を実験的に検証し, 提案手法をNYT10, GDS, KBPで比較検討した。
論文 参考訳（メタデータ） (2021-06-21T04:51:59Z) - A Visual Mining Approach to Improved Multiple-Instance Learning [3.611492083936225]
MIL(Multiple-Instance Learning)は、オブジェクト(インスタンス)の集合(バッグ)を分類し、ラベルをバッグのみに割り当てることを目的とした機械学習のパラダイムである。
MILをサポートするため,マルチスケールのツリーベースビジュアライゼーションを提案する。
木の最初のレベルはバッグを表し、2番目のレベルは各バッグに属するインスタンスを表します。
論文 参考訳（メタデータ） (2020-12-14T05:12:43Z) - Dual-stream Maximum Self-attention Multi-instance Learning [11.685285490589981]
MIL(Multi-Instance Learning)は、インスタンスレベルのラベルが利用できない間に単一のクラスラベルがインスタンスのバッグに割り当てられる弱い教師付き学習の一種である。
ニューラルネットワークによりパラメータ化されたDSMILモデル(Dual-stream maximum self-attention MIL model)を提案する。
提案手法は,最高のMIL手法と比較して優れた性能を示し,ベンチマークMILデータセット上での最先端性能を示す。
論文 参考訳（メタデータ） (2020-06-09T22:44:58Z) - Adversarial Machine Learning in Network Intrusion Detection Systems [6.18778092044887]
ネットワーク侵入検知システムにおける逆問題の性質について検討する。
進化的計算(粒子群最適化と遺伝的アルゴリズム)と深層学習(生成的敵ネットワーク)を、敵対的サンプル生成のためのツールとして利用する。
我々の研究は、敵の摂動に直面した機械学習ベースのNIDSの脆弱性を強調している。
論文 参考訳（メタデータ） (2020-04-23T19:47:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。