論文の概要: SoK: Dataset Copyright Auditing in Machine Learning Systems

• arxiv url: http://arxiv.org/abs/2410.16618v1
• Date: Tue, 22 Oct 2024 02:06:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:25:33.298875
• Title: SoK: Dataset Copyright Auditing in Machine Learning Systems
• Title（参考訳）: SoK:機械学習システムにおけるデータセット著作権監査
• Authors: Linkang Du, Xuanru Zhou, Min Chen, Chusong Zhang, Zhou Su, Peng Cheng, Jiming Chen, Zhikun Zhang,
• Abstract要約: 本稿では,現在のデータセット著作権監査ツールについて検討し,その有効性と限界について検討する。 本稿では,データセットによる著作権監査研究を,侵入的手法と非侵入的手法の2つに分類する。 結果の要約として、現在の文献における詳細な参照テーブル、キーポイントのハイライト、未解決問題について紹介する。
• 参考スコア（独自算出の注目度）: 23.00196984807359
• License:
• Abstract: As the implementation of machine learning (ML) systems becomes more widespread, especially with the introduction of larger ML models, we perceive a spring demand for massive data. However, it inevitably causes infringement and misuse problems with the data, such as using unauthorized online artworks or face images to train ML models. To address this problem, many efforts have been made to audit the copyright of the model training dataset. However, existing solutions vary in auditing assumptions and capabilities, making it difficult to compare their strengths and weaknesses. In addition, robustness evaluations usually consider only part of the ML pipeline and hardly reflect the performance of algorithms in real-world ML applications. Thus, it is essential to take a practical deployment perspective on the current dataset copyright auditing tools, examining their effectiveness and limitations. Concretely, we categorize dataset copyright auditing research into two prominent strands: intrusive methods and non-intrusive methods, depending on whether they require modifications to the original dataset. Then, we break down the intrusive methods into different watermark injection options and examine the non-intrusive methods using various fingerprints. To summarize our results, we offer detailed reference tables, highlight key points, and pinpoint unresolved issues in the current literature. By combining the pipeline in ML systems and analyzing previous studies, we highlight several future directions to make auditing tools more suitable for real-world copyright protection requirements.
• Abstract（参考訳）: 機械学習(ML)システムの実装がさらに広まり、特に大規模なMLモデルの導入により、大量のデータに対するバネ需要が認識されるようになる。 しかし、これは必然的に、不正なオンラインアートワークや顔画像を使用してMLモデルをトレーニングするなど、データに対する侵害や誤用の問題を引き起こす。 この問題に対処するため、モデルトレーニングデータセットの著作権を監査するための多くの取り組みがなされている。 しかし、既存のソリューションは、仮定と能力の監査において異なるため、その強みと弱みを比較することは困難である。 加えて、ロバストネス評価は通常、MLパイプラインの一部のみを考慮しており、現実のMLアプリケーションにおけるアルゴリズムのパフォーマンスをほとんど反映していない。 したがって、現行のデータセット著作権監査ツールの実践的なデプロイメントの観点から、その有効性と限界を検討することが不可欠である。 具体的には,データセットの著作権監査研究を,オリジナルのデータセットの変更が必要かどうかに応じて,侵入的手法と非侵入的手法の2つの顕著なストランドに分類する。 次に, 侵入法を異なる透かし注入法に分解し, 各種指紋を用いた侵入法について検討する。 結果の要約として、現在の文献における詳細な参照テーブル、キーポイントのハイライト、未解決問題について紹介する。 MLシステムにおけるパイプラインと過去の研究分析を組み合わせることで,監査ツールを現実の著作権保護要件に適合させるための今後の方向性を強調した。

関連論文リスト

• CAP: Detecting Unauthorized Data Usage in Generative Models via Prompt Generation [1.6141139250981018]
  Copyright Audit via Prompts Generation (CAP)は、MLモデルが不正なデータでトレーニングされているかどうかを自動的にテストするフレームワークである。 具体的には、著作権のあるコンテンツを明らかにするためのモデルに適切なキーを生成するアプローチを考案する。 有効性を証明するため,4つのIoTシナリオで収集した測定値について広範な評価を行った。
  論文  参考訳（メタデータ） (2024-10-08T08:49:41Z)
• Evaluating Copyright Takedown Methods for Language Models [100.38129820325497]
  言語モデル(LM)は、潜在的に著作権のある資料を含む様々なデータに対する広範な訓練からその能力を引き出す。 本稿では,LMの著作権削除の可能性と副作用を初めて評価する。 システムプロンプトの追加、デコード時間フィルタリングの介入、未学習アプローチなど、いくつかの戦略を検討する。
  論文  参考訳（メタデータ） (2024-06-26T18:09:46Z)
• Advancing Anomaly Detection: Non-Semantic Financial Data Encoding with LLMs [49.57641083688934]
  本稿では,Large Language Models (LLM) 埋め込みを用いた財務データにおける異常検出の新しい手法を提案する。 実験により,LLMが異常検出に有用な情報をもたらし,モデルがベースラインを上回っていることが確認された。
  論文  参考訳（メタデータ） (2024-06-05T20:19:09Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• LLM Inference Unveiled: Survey and Roofline Model Insights [62.92811060490876]
  大規模言語モデル(LLM)推論は急速に進化しており、機会と課題のユニークなブレンドを提示している。 本調査は, 研究状況を要約するだけでなく, 屋上モデルに基づく枠組みを導入することによって, 従来の文献レビューから際立っている。 このフレームワークは、ハードウェアデバイスにLSMをデプロイする際のボトルネックを特定し、実用上の問題を明確に理解する。
  論文  参考訳（メタデータ） (2024-02-26T07:33:05Z)
• Don't Push the Button! Exploring Data Leakage Risks in Machine Learning and Transfer Learning [0.0]
  本稿では、意図しない情報がトレーニングデータを汚染し、モデルの性能評価に影響を与える機械学習(ML)における重要な問題に対処する。 新たなデータに対する評価と実際のパフォーマンスの相違は大きな懸念事項である。 データ漏洩と対処中の特定のタスクとの関係を調査し、Transfer Learningにおけるその発生を調査し、標準的なインダクティブMLとトランスダクティブMLフレームワークを比較します。
  論文  参考訳（メタデータ） (2024-01-24T20:30:52Z)
• Learn to Unlearn: A Survey on Machine Unlearning [29.077334665555316]
  本稿では,最近の機械学習技術,検証機構,潜在的攻撃について概説する。 新たな課題と今後の研究方向性を強調します。 本稿では、プライバシ、エクイティ、レジリエンスをMLシステムに統合するための貴重なリソースの提供を目的としている。
  論文  参考訳（メタデータ） (2023-05-12T14:28:02Z)
• Review on the Feasibility of Adversarial Evasion Attacks and Defenses for Network Intrusion Detection Systems [0.7829352305480285]
  最近の研究は、サイバーセキュリティ分野における多くの懸念を提起している。 機械学習アルゴリズムに基づくセキュリティシステムに対する攻撃の可能性について研究する研究者が増えている。
  論文  参考訳（メタデータ） (2023-03-13T11:00:05Z)
• A Survey of Machine Unlearning [56.017968863854186]
  最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。 MLモデルは古いデータをよく記憶します。 機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
  論文  参考訳（メタデータ） (2022-09-06T08:51:53Z)
• Automated Machine Learning Techniques for Data Streams [91.3755431537592]
  本稿では、最先端のオープンソースAutoMLツールを調査し、ストリームから収集したデータに適用し、時間とともにパフォーマンスがどのように変化するかを測定する。 この結果から,既製のAutoMLツールで十分な結果が得られることが示されたが,概念ドリフトや検出,適応といった手法が適用されれば,予測精度を時間とともに維持することが可能になる。
  論文  参考訳（メタデータ） (2021-06-14T11:42:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。