論文の概要: Neglected Risks: The Disturbing Reality of Children's Images in Datasets and the Urgent Call for Accountability
- arxiv url: http://arxiv.org/abs/2504.14446v1
- Date: Sun, 20 Apr 2025 01:36:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-30 00:31:38.307674
- Title: Neglected Risks: The Disturbing Reality of Children's Images in Datasets and the Urgent Call for Accountability
- Title（参考訳）: 否定的リスク--データセットにおける子どものイメージのゆがみと説明責任の急激な呼びかけ-
- Authors: Carlos Caetano, Gabriel O. dos Santos, Caio Petrucci, Artur Barros, Camila Laranjeira, Leo S. F. Ribeiro, Júlia F. de Mendonça, Jefersson A. dos Santos, Sandra Avila,
- Abstract要約: データセットに子供のイメージを含めると、倫理的な懸念が浮かび上がっている。
これらのデータセットは、搾取、プロファイリング、追跡などのリスクに子供たちをさらけ出すことができる。
本稿では,そのような画像の検出と削除を行うパイプラインを提案する。
- 参考スコア（独自算出の注目度）: 6.366871989491978
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Including children's images in datasets has raised ethical concerns, particularly regarding privacy, consent, data protection, and accountability. These datasets, often built by scraping publicly available images from the Internet, can expose children to risks such as exploitation, profiling, and tracking. Despite the growing recognition of these issues, approaches for addressing them remain limited. We explore the ethical implications of using children's images in AI datasets and propose a pipeline to detect and remove such images. As a use case, we built the pipeline on a Vision-Language Model under the Visual Question Answering task and tested it on the #PraCegoVer dataset. We also evaluate the pipeline on a subset of 100,000 images from the Open Images V7 dataset to assess its effectiveness in detecting and removing images of children. The pipeline serves as a baseline for future research, providing a starting point for more comprehensive tools and methodologies. While we leverage existing models trained on potentially problematic data, our goal is to expose and address this issue. We do not advocate for training or deploying such models, but instead call for urgent community reflection and action to protect children's rights. Ultimately, we aim to encourage the research community to exercise - more than an additional - care in creating new datasets and to inspire the development of tools to protect the fundamental rights of vulnerable groups, particularly children.
- Abstract（参考訳）: データセットに子供のイメージを含めると、特にプライバシー、同意、データ保護、説明責任に関する倫理的な懸念が持ち上がっている。
これらのデータセットは、しばしばインターネットから公開画像を取り除き、利用、プロファイリング、追跡などのリスクに子供たちをさらけ出すことができる。
これらの問題に対する認識が高まりつつあるにもかかわらず、これらの問題に対処するためのアプローチは依然として限られている。
子どものイメージをAIデータセットに用いた場合の倫理的意味を考察し、そのような画像を検出して除去するためのパイプラインを提案する。
ユースケースとして、Visual Question Answeringタスクの下でVision-Language Model上でパイプラインを構築し、#PraCegoVerデータセットでテストしました。
また、Open Images V7データセットから10万枚の画像のサブセット上でパイプラインを評価し、子供の画像の検出と削除の有効性を評価する。
パイプラインは将来の研究のベースラインとして機能し、より包括的なツールや方法論の出発点となる。
潜在的な問題のあるデータに基づいてトレーニングされた既存のモデルを活用する一方で、当社の目標はこの問題を公開して対処することにあります。
我々はそのようなモデルの訓練や展開を推奨せず、子どもの権利を守るために緊急のコミュニティリフレクションと行動を要求する。
最終的には、研究コミュニティが新たなデータセットの作成に注意を払い、脆弱なグループ、特に子供の基本的権利を保護するためのツールの開発を促すことを目的としています。
関連論文リスト
- Person Re-Identification without Identification via Event Anonymization [23.062038973576296]
ディープラーニングは、イベントカメラからのイメージを高い忠実度で再構築することができ、イベントベースのビジョンアプリケーションに対するプライバシーに対する潜在的な脅威を再導入した。
本稿では,プライバシを保護し,人物ReIdのような下流タスクを実行するという2つの目的のために,エンドツーエンドのネットワークアーキテクチャを共同で提案する。
論文 参考訳（メタデータ） (2023-08-08T17:04:53Z) - ConfounderGAN: Protecting Image Data Privacy with Causal Confounder [85.6757153033139]
本稿では,GAN(Generative Adversarial Network)のConfounderGANを提案する。
実験は、3つの自然なオブジェクトデータセットと3つの医療データセットからなる6つの画像分類データセットで実施される。
論文 参考訳（メタデータ） (2022-12-04T08:49:14Z) - Hiding Visual Information via Obfuscating Adversarial Perturbations [47.315523613407244]
本稿では,データの視覚的プライバシを保護するために,敵対的な視覚情報隠蔽手法を提案する。
具体的には、データの視覚情報を隠蔽する難読化対向摂動を生成する。
認識・分類タスクの実験結果から,提案手法が視覚情報を効果的に隠蔽できることが示唆された。
論文 参考訳（メタデータ） (2022-09-30T08:23:26Z) - Learning to See by Looking at Noise [87.12788334473295]
簡単なランダムなプロセスから画像を生成する一連の画像生成モデルについて検討する。
これらは、対照的な損失を伴う視覚表現学習者のトレーニングデータとして使用される。
以上の結果から,実データの構造的特性を捉えることはノイズにとって重要であるが,現実的ではないプロセスでも良好な性能が達成できることが示唆された。
論文 参考訳（メタデータ） (2021-06-10T17:56:46Z) - Curious Representation Learning for Embodied Intelligence [81.21764276106924]
近年,自己指導型表現学習は顕著な成功を収めている。
しかし、真にインテリジェントなエージェントを構築するためには、環境から学習できる表現学習アルゴリズムを構築する必要がある。
本稿では,強化学習方針と視覚的表現モデルを同時に学習する,好奇心をそそる表現学習フレームワークを提案する。
論文 参考訳（メタデータ） (2021-05-03T17:59:20Z) - Data Augmentation for Object Detection via Differentiable Neural
Rendering [71.00447761415388]
注釈付きデータが乏しい場合、堅牢なオブジェクト検出器を訓練することは困難です。
この問題に対処する既存のアプローチには、ラベル付きデータからラベル付きデータを補間する半教師付き学習が含まれる。
オブジェクト検出のためのオフラインデータ拡張手法を導入し、新しいビューでトレーニングデータを意味的に補間する。
論文 参考訳（メタデータ） (2021-03-04T06:31:06Z) - Deep Learning Benchmarks and Datasets for Social Media Image
Classification for Disaster Response [5.610924570214424]
本研究では,災害タイプ検出,情報度分類,被害重大度評価のための新しいデータセットを提案する。
我々は、最先端のディープラーニングモデルをいくつかベンチマークし、有望な結果を得る。
我々は、適切なベースラインを提供するとともに、危機情報化コミュニティにおけるさらなる研究を促進するために、データセットとモデルを公開しています。
論文 参考訳（メタデータ） (2020-11-17T20:15:49Z) - Improving Object Detection with Selective Self-supervised Self-training [62.792445237541145]
本研究では,Web画像を利用した人為的対象検出データセットの強化について検討する。
画像と画像の検索によりWebイメージを検索し、他の検索手法に比べて、キュレートされたデータからのドメインシフトが少なくなる。
画像分類のためのラベルのないデータを探索する2つの並列処理をモチベーションとした新しい学習手法を提案する。
論文 参考訳（メタデータ） (2020-07-17T18:05:01Z) - Large image datasets: A pyrrhic win for computer vision? [2.627046865670577]
大規模ビジョンデータセットの問題点と結果について検討する。
我々は,同意や正義の問題などの幅広い問題や,データセットに検証可能なポルノ画像を含めるといった特定の懸念について検討する。
論文 参考訳（メタデータ） (2020-06-24T06:41:32Z) - From ImageNet to Image Classification: Contextualizing Progress on
Benchmarks [99.19183528305598]
ImageNet作成プロセスにおける特定の設計選択が、結果のデータセットの忠実性に与える影響について検討する。
私たちの分析では、ノイズの多いデータ収集パイプラインが、結果のベンチマークと、それがプロキシとして機能する実世界のタスクとの間に、体系的なミスアライメントをもたらす可能性があることを指摘しています。
論文 参考訳（メタデータ） (2020-05-22T17:39:16Z) - Privacy-Preserving Image Classification in the Local Setting [17.375582978294105]
ローカル微分プライバシ(LDP)は、データ所有者がランダムにインプットを摂動させ、リリース前にデータの妥当な削除を可能にする、有望なソリューションを提供する。
本稿では、データ所有者が画像を保持し、不信なデータ利用者が機械学習モデルにこれらの画像を入力として適合させたいという、双方向のイメージ分類問題について考察する。
本稿では,拡張性のある領域サイズで画像表現を生成する,教師付き画像特徴抽出器 DCAConv を提案する。
論文 参考訳（メタデータ） (2020-02-09T01:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。