論文の概要: Emergent AI Surveillance: Overlearned Person Re-Identification and Its Mitigation in Law Enforcement Context

• arxiv url: http://arxiv.org/abs/2510.06026v1
• Date: Tue, 07 Oct 2025 15:23:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-08 17:57:08.311281
• Title: Emergent AI Surveillance: Overlearned Person Re-Identification and Its Mitigation in Law Enforcement Context
• Title（参考訳）: 創発的なAIサーベイランス: 過大評価された人物の再識別とその法執行文脈における軽減
• Authors: An Thi Nguyen, Radina Stoykova, Eric Arazo,
• Abstract要約: ジェネリック・インスタンス・サーチ・モデルは、犯罪捜査中の大規模な監視映像を分析するのに必要な手作業を大幅に削減し、特定の対象を法執行機関に回収する。 しかし、我々の研究は意図しない創発的能力を明らかにしている:オーバーラーニングによって、これらのモデルは、人間の被験者なしでデータセットで訓練された場合でも、特定の個人を選別することができる。 この能力は、個人の個人データに基づいた個人識別とプロファイリングに関する懸念を提起する。
• 参考スコア（独自算出の注目度）: 2.3124669700253553
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generic instance search models can dramatically reduce the manual effort required to analyze vast surveillance footage during criminal investigations by retrieving specific objects of interest to law enforcement. However, our research reveals an unintended emergent capability: through overlearning, these models can single out specific individuals even when trained on datasets without human subjects. This capability raises concerns regarding identification and profiling of individuals based on their personal data, while there is currently no clear standard on how de-identification can be achieved. We evaluate two technical safeguards to curtail a model's person re-identification capacity: index exclusion and confusion loss. Our experiments demonstrate that combining these approaches can reduce person re-identification accuracy to below 2% while maintaining 82% of retrieval performance for non-person objects. However, we identify critical vulnerabilities in these mitigations, including potential circumvention using partial person images. These findings highlight urgent regulatory questions at the intersection of AI governance and data protection: How should we classify and regulate systems with emergent identification capabilities? And what technical standards should be required to prevent identification capabilities from developing in seemingly benign applications?
• Abstract（参考訳）: ジェネリック・インスタンス・サーチ・モデルは、犯罪捜査中の大規模な監視映像を分析するのに必要な手作業を大幅に削減し、特定の対象を法執行機関に回収する。 しかし、我々の研究は意図しない創発的能力を明らかにしている:オーバーラーニングによって、これらのモデルは、人間の被験者なしでデータセットで訓練された場合でも、特定の個人を選別することができる。 この能力は、個人を個人データに基づいて識別し、プロファイリングすることに関する懸念を提起するが、現在、脱識別の方法に関する明確な基準はない。 我々は,モデル担当者の再識別能力を改善するために,指標排除と混乱損失の2つの技術的保護策を評価する。 実験により、これらの手法を組み合わせることで、人物の再識別精度を2%以下に抑えつつ、非人的対象に対する検索性能の82%を維持することができることを示した。 しかし,部分人物画像を用いた潜在的な回避を含む,これらの緩和の重大な脆弱性を同定する。 これらの調査結果は、AIガバナンスとデータ保護の交差点における緊急規制上の疑問を浮き彫りにしている。 そして、一見良質なアプリケーションで識別能力が開発されるのを防ぐために、どのような技術標準が必要か?

関連論文リスト

• Privacy Preservation and Identity Tracing Prevention in AI-Driven Eye Tracking for Interactive Learning Environments [17.850299218352102]
  視線追跡技術は、神経発達障害を理解し、人の身元を追跡するのに役立つ。 本稿では、AIによる視線追跡の教育的メリットを保ちながら、アイデンティティのバックトラッキングを防止するために設計された人間中心のフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-04T13:08:06Z)
• A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage [77.83757117924995]
  我々は、データリリース時の個人のプライバシーリスクを定量化するために、再識別攻撃を評価する新しいフレームワークを提案する。 本手法は, 衛生データから年齢や物質使用履歴などのセンシティブな属性を推測するために, 一見無害な補助情報を利用できることを示す。
  論文  参考訳（メタデータ） (2025-04-28T01:16:27Z)
• Disentangled Representations for Short-Term and Long-Term Person Re-Identification [33.76874948187976]
  アイデンティティシャッフルGAN(Identity shuffle GAN:IS-GAN)と呼ばれる新たな生成対向ネットワークを提案する。 それは、アイデンティティシャッフル技術によって、個人画像からアイデンティティ関連および非関連の特徴を解き放つ。 実験により,IS-GANの有効性が検証され,標準reIDベンチマークにおける最先端性能が示された。
  論文  参考訳（メタデータ） (2024-09-09T02:09:49Z)
• Footprints of Data in a Classifier: Understanding the Privacy Risks and Solution Strategies [0.9208007322096533]
  一般データ保護規則(Right Erasure)第17条は、潜在的な妥協を防ぐために、システムから永久にデータを除去することを要求する。 そのような問題の1つは、予測モデルに埋め込まれたトレーニングデータの残余のフットプリントから生じる。 本研究は,分類器システムの2つの基本的な側面 – 訓練品質と分類器訓練方法 – が,プライバシの脆弱性にどのように寄与するかを検討する。
  論文  参考訳（メタデータ） (2024-07-02T13:56:37Z)
• Diff-Privacy: Diffusion-based Face Privacy Protection [58.1021066224765]
  本稿では,Diff-Privacyと呼ばれる拡散モデルに基づく顔のプライバシー保護手法を提案する。 具体的には、提案したマルチスケール画像インバージョンモジュール(MSI)をトレーニングし、元の画像のSDMフォーマット条件付き埋め込みのセットを得る。 本研究は,条件付き埋め込みに基づいて,組込みスケジューリング戦略を設計し,デノナイズプロセス中に異なるエネルギー関数を構築し,匿名化と視覚的アイデンティティ情報隠蔽を実現する。
  論文  参考訳（メタデータ） (2023-09-11T09:26:07Z)
• Disguise without Disruption: Utility-Preserving Face De-Identification [40.484745636190034]
  本研究では,修正データの利用性を確保しつつ,顔画像をシームレスに識別する新しいアルゴリズムであるDisguiseを紹介する。 本手法は, 難読化と非可逆性を最大化するために, 変分機構を用いて生成した合成物を用いて, 描写されたアイデンティティを抽出し置換することを含む。 提案手法を複数のデータセットを用いて広範に評価し,様々な下流タスクにおける従来の手法と比較して,高い非識別率と一貫性を示す。
  論文  参考訳（メタデータ） (2023-03-23T13:50:46Z)
• AI-based Re-identification of Behavioral Clickstream Data [0.0]
  本論文は, 行動パターンに基づいて, 個人を純粋に同定する上で, 同様の手法が適用可能であることを実証する。 レコード間の振舞いパターンの単なる類似性は、識別された個人に振舞いデータを正しく属性付けるのに十分である。 また、私たちが導入したAIベースの再識別攻撃に対して回復力があることが示されています。
  論文  参考訳（メタデータ） (2022-01-21T16:49:00Z)
• RealGait: Gait Recognition for Person Re-Identification [79.67088297584762]
  我々は,既存の映像人物の再識別課題からシルエットを抽出し,制約のない方法で歩く1,404人からなる新たな歩行データセットを構築した。 以上の結果から、実際の監視シナリオにおける歩行による認識は実現可能であり、その基盤となる歩行パターンが、実際にビデオの人物認識が機能する真の理由である可能性が示唆された。
  論文  参考訳（メタデータ） (2022-01-13T06:30:56Z)
• Unsupervised Person Re-Identification: A Systematic Survey of Challenges and Solutions [64.68497473454816]
  教師なしのRe-IDは、Re-ID担当者のスケーラビリティ問題に対処する可能性に注目が集まっている。 教師なしのRe-IDは、主に人物の特徴学習を監督するアイデンティティラベルが欠如しているため、難しい。 本調査では,課題と解決の観点から,教師なしのRe-IDに関する最近の研究を概観する。
  論文  参考訳（メタデータ） (2021-09-01T00:01:35Z)
• Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach [54.32266555843765]
  本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。 この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
  論文  参考訳（メタデータ） (2020-09-26T10:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。