論文の概要: Is my Data in your AI Model? Membership Inference Test with Application
to Face Images
- arxiv url: http://arxiv.org/abs/2402.09225v1
- Date: Wed, 14 Feb 2024 15:09:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-15 15:24:07.793970
- Title: Is my Data in your AI Model? Membership Inference Test with Application
to Face Images
- Title(参考訳): 私のデータはAIモデルにあるか?
顔画像への適用によるメンバーシップ推論テスト
- Authors: Daniel DeAlcala, Aythami Morales, Gonzalo Mancera, Julian Fierrez,
Ruben Tolosana, Javier Ortega-Garcia
- Abstract要約: メンバーシップ推論テスト(MINT)は、人工知能(AI)モデルのトレーニング中に特定のデータが使用されたかどうかを経験的に評価することを目的としている。
本稿では,学習プロセスで使用するデータに監査モデルが露出した場合に現れるアクティベーションパターンを学習するために,新しい2つのMINTアーキテクチャを提案する。
提案したMINTアーキテクチャは,3つの最先端の顔認識モデルを考慮して,難易度の高い顔認識タスクで評価される。
- 参考スコア(独自算出の注目度): 19.49970318531581
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper introduces the Membership Inference Test (MINT), a novel approach
that aims to empirically assess if specific data was used during the training
of Artificial Intelligence (AI) models. Specifically, we propose two novel MINT
architectures designed to learn the distinct activation patterns that emerge
when an audited model is exposed to data used during its training process. The
first architecture is based on a Multilayer Perceptron (MLP) network and the
second one is based on Convolutional Neural Networks (CNNs). The proposed MINT
architectures are evaluated on a challenging face recognition task, considering
three state-of-the-art face recognition models. Experiments are carried out
using six publicly available databases, comprising over 22 million face images
in total. Also, different experimental scenarios are considered depending on
the context available of the AI model to test. Promising results, up to 90%
accuracy, are achieved using our proposed MINT approach, suggesting that it is
possible to recognize if an AI model has been trained with specific data.
- Abstract(参考訳): 本稿では,人工知能(AI)モデルのトレーニング中に特定のデータが使用されているかどうかを実証的に評価することを目的とした,新しい手法である会員推論テスト(MINT)を紹介する。
具体的には、監査モデルがトレーニングプロセスで使用されるデータに晒されたときに現れる、異なるアクティベーションパターンを学習するために設計された2つの新しいmintアーキテクチャを提案する。
第1のアーキテクチャはマルチレイヤパーセプトロン(MLP)ネットワークに基づいており、第2のアーキテクチャは畳み込みニューラルネットワーク(CNN)に基づいている。
提案するmintアーキテクチャは,3つの最先端顔認識モデルを考慮して,難解な顔認識タスクで評価される。
実験は6つの公開データベースを使って行われ、合計2200万以上の顔画像が含まれている。
また、テストするAIモデルのコンテキストによって異なる実験シナリオも考慮されている。
有望な結果、最大90%の精度が、提案するmintアプローチによって達成され、aiモデルが特定のデータでトレーニングされたかどうかを認識できることを示唆している。
関連論文リスト
- Data Augmentation and Transfer Learning Approaches Applied to Facial
Expressions Recognition [0.3481985817302898]
本稿では,認識タスクの性能を向上させる新しいデータ拡張手法を提案する。
我々は、感情タイプごとに新しい合成画像を生成することができるGANモデルをスクラッチから構築する。
拡張データセットでは、異なるアーキテクチャで事前訓練された畳み込みニューラルネットワークを微調整します。
論文 参考訳(メタデータ) (2024-02-15T14:46:03Z) - Unleashing Mask: Explore the Intrinsic Out-of-Distribution Detection
Capability [70.72426887518517]
Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイする際に、セキュアAIの必須の側面である。
本稿では,IDデータを用いた学習モデルのOOD識別能力を復元する新しい手法であるUnleashing Maskを提案する。
本手法では, マスクを用いて記憶した非定型サンプルを抽出し, モデルを微調整するか, 導入したマスクでプルーする。
論文 参考訳(メタデータ) (2023-06-06T14:23:34Z) - DeepDC: Deep Distance Correlation as a Perceptual Image Quality
Evaluator [53.57431705309919]
ImageNet Pre-trained Deep Neural Network (DNN)は、効果的な画像品質評価(IQA)モデルを構築するための顕著な転送性を示す。
我々は,事前学習DNN機能のみに基づく新しいフル参照IQA(FR-IQA)モデルを開発した。
5つの標準IQAデータセット上で,提案した品質モデルの優位性を示すため,包括的実験を行った。
論文 参考訳(メタデータ) (2022-11-09T14:57:27Z) - CONVIQT: Contrastive Video Quality Estimator [63.749184706461826]
知覚ビデオ品質評価(VQA)は、多くのストリーミングおよびビデオ共有プラットフォームにおいて不可欠な要素である。
本稿では,視覚的に関連のある映像品質表現を自己指導的に学習する問題について考察する。
本研究は, 自己教師型学習を用いて, 知覚力による説得力のある表現が得られることを示す。
論文 参考訳(メタデータ) (2022-06-29T15:22:01Z) - A Robust Framework for Deep Learning Approaches to Facial Emotion
Recognition and Evaluation [0.17398560678845074]
本稿では、FER用に開発したモデルを比較し、相互に比較するフレームワークを提案する。
AffectNetデータセットで、軽量な畳み込みニューラルネットワークをトレーニングする。
概念実証として提案したフレームワークを用いてWebアプリケーションを開発,デプロイする。
論文 参考訳(メタデータ) (2022-01-30T02:10:01Z) - An Approach for Combining Multimodal Fusion and Neural Architecture
Search Applied to Knowledge Tracing [6.540879944736641]
本稿では,マルチモーダル融合とニューラルアーキテクチャ探索を組み合わせた逐次モデルに基づく最適化手法を提案する。
得られたモデルが優れた性能を達成できることを示す2つの公開実データに対して,本手法の評価を行った。
論文 参考訳(メタデータ) (2021-11-08T13:43:46Z) - Multi-Branch Deep Radial Basis Function Networks for Facial Emotion
Recognition [80.35852245488043]
放射状基底関数(RBF)ユニットによって形成された複数の分岐で拡張されたCNNベースのアーキテクチャを提案する。
RBFユニットは、中間表現を用いて類似のインスタンスで共有される局所パターンをキャプチャする。
提案手法は,提案手法の競争力を高めるためのローカル情報の導入であることを示す。
論文 参考訳(メタデータ) (2021-09-07T21:05:56Z) - Continual Learning for Blind Image Quality Assessment [80.55119990128419]
ブラインド画像品質評価(BIQA)モデルは、サブポピュレーションシフトに継続的に適応できない。
最近の研究では、利用可能なすべての人間評価のIQAデータセットの組み合わせに関するBIQAメソッドのトレーニングが推奨されている。
モデルがIQAデータセットのストリームから継続的に学習するBIQAの継続的学習を策定する。
論文 参考訳(メタデータ) (2021-02-19T03:07:01Z) - Application of Facial Recognition using Convolutional Neural Networks
for Entry Access Control [0.0]
本論文は,画像中の人物を入力として捉え,その人物を著者の1人か否かを分類する,教師付き分類問題の解決に焦点をあてる。
提案手法は,(1)WoodNetと呼ばれるニューラルネットワークをスクラッチから構築し,トレーニングすること,(2)ImageNetデータベース上に事前トレーニングされたネットワークを利用することで,転送学習を活用すること,の2つである。
結果は、データセット内の個人を高い精度で分類し、保持されたテストデータに対して99%以上の精度で達成する2つのモデルである。
論文 参考訳(メタデータ) (2020-11-23T07:55:24Z) - Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks [133.93803565077337]
検索強化生成モデルは、事前訓練されたパラメトリックメモリと非パラメトリックメモリを組み合わせて言語生成を行う。
我々は、RAGモデルが、最先端パラメトリックのみのセク2セックベースラインよりも、より具体的で、多様で、現実的な言語を生成することを示す。
論文 参考訳(メタデータ) (2020-05-22T21:34:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。