論文の概要: Deep Learning model integrity checking mechanism using watermarking technique

• arxiv url: http://arxiv.org/abs/2301.12333v2
• Date: Fri, 21 Mar 2025 19:03:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:28:15.705221
• Title: Deep Learning model integrity checking mechanism using watermarking technique
• Title（参考訳）: 透かしを用いた深層学習モデルの整合性チェック機構
• Authors: Shahinul Hoque, Farhin Farhad Riya, Yingyuan Yang, Jinyuan Sun,
• Abstract要約: モデル透かし技術を用いてMLモデルの整合性を監視するモデル整合性検査機構を提案する。 提案手法は,計算コストの低い新しいデータに対して,モデルをさらに訓練した場合でも,MLモデルの完全性を監視することができる。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: In response to the growing popularity of Machine Learning (ML) techniques to solve problems in various industries, various malicious groups have started to target such techniques in their attack plan. However, as ML models are constantly updated with continuous data, it is very hard to monitor the integrity of ML models. One probable solution would be to use hashing techniques. Regardless of how that would mean re-hashing the model each time the model is trained on newer data which is computationally expensive and not a feasible solution for ML models that are trained on continuous data. Therefore, in this paper, we propose a model integrity-checking mechanism that uses model watermarking techniques to monitor the integrity of ML models. We then demonstrate that our proposed technique can monitor the integrity of ML models even when the model is further trained on newer data with a low computational cost. Furthermore, the integrity checking mechanism can be used on Deep Learning models that work on complex data distributions such as Cyber-Physical System applications.
• Abstract（参考訳）: さまざまな業界の問題を解決する機械学習(ML)技術の普及に対応して、様々な悪意あるグループが攻撃計画においてそのようなテクニックを標的にし始めた。 しかし、MLモデルは連続したデータで常に更新されるため、MLモデルの完全性を監視することは極めて困難である。 考えられる解決策の1つは、ハッシュ技術を使用することである。 モデルが計算コストが高く、継続的なデータでトレーニングされたMLモデルにとって実現可能なソリューションではない、新しいデータでトレーニングされるたびに、モデルを再起動することを意味する。 そこで本研究では,モデル透かし技術を用いてMLモデルの整合性を監視するモデル整合性検査機構を提案する。 提案手法は,計算コストの低い新しいデータに対して,モデルをさらに訓練した場合でも,MLモデルの整合性を監視することができることを示す。 さらに、Cyber-Physical Systemアプリケーションのような複雑なデータ分散を扱うディープラーニングモデルでも、整合性チェックメカニズムが利用できる。

関連論文リスト

• Analysis of Zero Day Attack Detection Using MLP and XAI [0.0]
  本稿では、侵入検知システム(IDS)を構築するための機械学習(ML)とディープラーニング(DL)に基づくアプローチについて分析する。 KDD99データセットは、ゼロデイ攻撃を検出するために、すべてのデータセットの中で最も研究されている。 ベースラインMLモデル,重み付きMLモデル,重み付きMLモデル,重み付きMLモデルを含む,KDD99データセット上でトレーニングされた4層パーセプトロン(MLP)の性能を評価する。
  論文  参考訳（メタデータ） (2025-01-28T02:20:34Z)
• Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
  機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。 最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
  論文  参考訳（メタデータ） (2024-10-30T17:20:10Z)
• Learn to Unlearn: A Survey on Machine Unlearning [29.077334665555316]
  本稿では,最近の機械学習技術,検証機構,潜在的攻撃について概説する。 新たな課題と今後の研究方向性を強調します。 本稿では、プライバシ、エクイティ、レジリエンスをMLシステムに統合するための貴重なリソースの提供を目的としている。
  論文  参考訳（メタデータ） (2023-05-12T14:28:02Z)
• AI Model Disgorgement: Methods and Choices [127.54319351058167]
  本稿では,現代の機械学習システムに適用可能な分類法を紹介する。 学習モデルにおけるデータ「効果の除去」の意味を,スクラッチからリトレーニングする必要のない方法で検討する。
  論文  参考訳（メタデータ） (2023-04-07T08:50:18Z)
• Dataless Knowledge Fusion by Merging Weights of Language Models [51.8162883997512]
  微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。 これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。 パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
  論文  参考訳（メタデータ） (2022-12-19T20:46:43Z)
• Synthetic Model Combination: An Instance-wise Approach to Unsupervised Ensemble Learning [92.89846887298852]
  ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。 専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
  論文  参考訳（メタデータ） (2022-10-11T10:20:31Z)
• Learning continuous models for continuous physics [94.42705784823997]
  本研究では,科学技術応用のための機械学習モデルを検証する数値解析理論に基づくテストを開発する。 本研究は,従来のMLトレーニング/テスト手法と一体化して,科学・工学分野におけるモデルの検証を行う方法である。
  論文  参考訳（メタデータ） (2022-02-17T07:56:46Z)
• Scanflow: A multi-graph framework for Machine Learning workflow management, supervision, and debugging [0.0]
  本稿では,エンドツーエンドの機械学習ワークフロー管理を支援するコンテナ化指向グラフフレームワークを提案する。 このフレームワークは、コンテナ内でMLを定義してデプロイし、メタデータを追跡し、本番環境での振る舞いを確認し、学習された知識と人為的な知識を使用してモデルを改善する。
  論文  参考訳（メタデータ） (2021-11-04T17:01:12Z)
• Training Structured Mechanical Models by Minimizing Discrete Euler-Lagrange Residual [36.52097893036073]
  structured mechanical models (smms) は、機械システムのデータ効率の良いブラックボックスパラメータ化である。 離散オイラーラグランジュ残差を最小化することにより,SMMをデータに適用する手法を提案する。 実験の結果,従来のSMMの適合方式よりも精度の高いモデルが得られた。
  論文  参考訳（メタデータ） (2021-05-05T00:44:01Z)
• Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources [78.72922528736011]
  そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。 ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。 BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
  論文  参考訳（メタデータ） (2020-07-17T01:52:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。