論文の概要: Mitigating dataset harms requires stewardship: Lessons from 1000 papers

• arxiv url: http://arxiv.org/abs/2108.02922v1
• Date: Fri, 6 Aug 2021 02:52:36 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-09 14:24:02.955602
• Title: Mitigating dataset harms requires stewardship: Lessons from 1000 papers
• Title（参考訳）: データセット障害の緩和にはスチュワードシップが必要だ:1000の論文から学ぶ
• Authors: Kenny Peng and Arunesh Mathur and Arvind Narayanan
• Abstract要約: 約1000枚の論文を分析し,3つの影響力ある顔と人物の認識データセットについて検討した。 デリバティブデータセットとモデルの作成、より広範な技術と社会の変化、ライセンスの明確さの欠如、データセット管理プラクティスは、幅広い倫理的懸念をもたらす可能性がある。
• 参考スコア（独自算出の注目度）: 8.469320512479456
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Concerns about privacy, bias, and harmful applications have shone a light on the ethics of machine learning datasets, even leading to the retraction of prominent datasets including DukeMTMC, MS-Celeb-1M, TinyImages, and VGGFace2. In response, the machine learning community has called for higher ethical standards, transparency efforts, and technical fixes in the dataset creation process. The premise of our work is that these efforts can be more effective if informed by an understanding of how datasets are used in practice in the research community. We study three influential face and person recognition datasets - DukeMTMC, MS-Celeb-1M, and Labeled Faces in the Wild (LFW) - by analyzing nearly 1000 papers that cite them. We found that the creation of derivative datasets and models, broader technological and social change, the lack of clarity of licenses, and dataset management practices can introduce a wide range of ethical concerns. We conclude by suggesting a distributed approach that can mitigate these harms, making recommendations to dataset creators, conference program committees, dataset users, and the broader research community.
• Abstract（参考訳）: プライバシ、バイアス、有害なアプリケーションに関する懸念は、マシンラーニングデータセットの倫理に光を当て、さらにはDukeMTMC、MS-Celeb-1M、TinyImages、VGGFace2といった著名なデータセットの削除につながった。 これに対し、機械学習コミュニティは、データセット作成プロセスにおけるより高い倫理基準、透明性の取り組み、技術的な修正を要求している。 私たちの研究の前提は、研究コミュニティで実際にデータセットがどのように使われているかを理解することで、これらの取り組みがより効果的になるということです。 我々は,DukeMTMC, MS-Celeb-1M, Labeled Faces in the Wild (LFW) の3つの影響力のある顔および人物認識データセットについて,1000近い論文を引用して分析した。 我々は、デリバティブデータセットとモデルの作成、より広範な技術と社会の変化、ライセンスの明確さの欠如、データセット管理プラクティスが幅広い倫理的懸念をもたらすことを見出した。 我々は、これらの害を軽減し、データセット作成者、カンファレンスプログラム委員会、データセットユーザ、そして幅広い研究コミュニティに推奨する分散アプローチを提案する。

関連論文リスト

• A Critical Field Guide for Working with Machine Learning Datasets [0.716879432974126]
  機械学習データセットを扱うためのクリティカルフィールドガイドは、良心的なデータセットスチュワードシップのための実践的なガイダンスを示唆している。 既存の機械学習データセットを扱うための質問、提案、戦略、リソースを提供する。 学生、ジャーナリスト、アーティスト、研究者、開発者はデータセット特有の問題を避けることができる。
  論文  参考訳（メタデータ） (2025-01-26T11:43:33Z)
• Mastering Collaborative Multi-modal Data Selection: A Focus on Informativeness, Uniqueness, and Representativeness [65.01625761120924]
  我々は、貴重なサンプルはタスクを知らせ、非冗長であり、サンプル分布(つまり、外れ値ではない)を表すべきであると論じる。 我々は、効果的なデータ選択のために、インフォーマル性、ユニーク性、代表性という3つの重要な原則を活用するコラボレーティブフレームワーク、DataTailorを提案する。 様々なベンチマークの実験により、DataTailorはデータの15%でフルデータの微調整のパフォーマンスの100.8%を達成している。
  論文  参考訳（メタデータ） (2024-12-09T08:36:10Z)
• Lazy Data Practices Harm Fairness Research [49.02318458244464]
  本稿では,公正な機械学習データセットを包括的に分析し,不反射的手法がアルゴリズム的公正度発見の到達度と信頼性をいかに妨げているかを示す。 本分析では,(1)データと評価における特定の保護属性の表現のテクスブフラック,(2)データ前処理におけるマイノリティの広汎なテキストbf,(3)フェアネス研究の一般化を脅かすテキストbfopaqueデータ処理の3つの分野について検討した。 この研究は、公正なMLにおけるデータプラクティスの批判的な再評価の必要性を強調し、データセットのソーシングと使用の両方を改善するための指針を提供する。
  論文  参考訳（メタデータ） (2024-04-26T09:51:24Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• Eagle: Ethical Dataset Given from Real Interactions [74.7319697510621]
  社会的バイアス、毒性、不道徳な問題を示すChatGPTとユーザ間の実際のインタラクションから抽出されたデータセットを作成します。 我々の実験では、イーグルは、そのような倫理的課題の評価と緩和のために提案された既存のデータセットでカバーされていない相補的な側面を捉えている。
  論文  参考訳（メタデータ） (2024-02-22T03:46:02Z)
• The Data Provenance Initiative: A Large Scale Audit of Dataset Licensing & Attribution in AI [41.32981860191232]
  法的および機械学習の専門家は、1800以上のテキストデータセットを体系的に監査し、追跡する。 私たちのランドスケープ分析は、コンポジションの急激な分断と、商業的にオープンなデータセットとクローズドなデータセットの焦点を浮き彫りにしています。 広く使用されているデータセットホスティングサイトでは、ライセンスが70%以上、エラー率が50%以上である。
  論文  参考訳（メタデータ） (2023-10-25T17:20:26Z)
• On Responsible Machine Learning Datasets with Fairness, Privacy, and Regulatory Norms [56.119374302685934]
  AI技術の信頼性に関する深刻な懸念があった。 機械学習とディープラーニングのアルゴリズムは、開発に使用されるデータに大きく依存する。 本稿では,責任あるルーブリックを用いてデータセットを評価するフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-24T14:01:53Z)
• Metadata Archaeology: Unearthing Data Subsets by Leveraging Training Dynamics [3.9627732117855414]
  メタデータ考古学のための統一的で効率的なフレームワークを提供することに注力する。 データセットに存在する可能性のあるデータのさまざまなサブセットをキュレートします。 これらのプローブスイート間の学習力学の相違を利用して、関心のメタデータを推測する。
  論文  参考訳（メタデータ） (2022-09-20T21:52:39Z)
• The Problem of Zombie Datasets:A Framework For Deprecating Datasets [55.878249096379804]
  我々は、ImageNet、8000 Million Tiny Images、MS-Celeb-1M、Duke MTMC、Brainwash、HRT Transgenderなど、いくつかの著名なデータセットの公開後処理について検討する。 本稿では,リスクの考慮,影響の緩和,アピール機構,タイムライン,非推奨プロトコル,公開チェックなどを含むデータセットの非推奨化フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-10-18T20:13:51Z)
• Multimodal datasets: misogyny, pornography, and malignant stereotypes [2.8682942808330703]
  最近リリースされたLAION-400Mデータセットは、Common-Crawlデータセットから解析された画像-Alt-textペアのCLIPフィルタリングデータセットである。 このデータセットには、レイプ、ポルノグラフィー、悪性のステレオタイプ、人種差別的および民族的スラー、その他の非常に問題のあるコンテンツが含まれています。
  論文  参考訳（メタデータ） (2021-10-05T11:47:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。