論文の概要: From Beats to Breaches:How Offensive AI Infers Sensitive User Information from Playlists

• arxiv url: http://arxiv.org/abs/2605.04724v1
• Date: Wed, 06 May 2026 10:18:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-07 18:41:07.766592
• Title: From Beats to Breaches:How Offensive AI Infers Sensitive User Information from Playlists
• Title（参考訳）: BeatsからBreachesへ:どうやって悪質なAIがプレイリストからユーザー情報を推測するか
• Abstract要約: AIは、無害な公開データから個人識別可能な情報(PII)を推測するために使用することができる。 ユーザーがパブリックプレイリストを定期的にリリースする音楽ストリーミングエコシステムは、Offensive AIに活用することができる。 musicPIIrateは、スタンドアロンのデータ表現とユーザのプレイリストコレクションに埋め込まれた構造情報の両方を利用する新しいツールである。 分析の結果,JamShieldは期待できる防御力を示し,F1スコアを平均10%下げた。
• 参考スコア（独自算出の注目度）: 18.039278210272727
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The pervasive integration of AI has enabled Offensive AI: the exploitation of AI for malicious ends across the cyber-kill chain. A critical manifestation is the user attribute inference attack, where AI infers sensitive Personally Identifiable Information (PII) from innocuous public data. We explore how music streaming ecosystems, where users routinely release public playlists, can be exploited for Offensive AI. To quantify this threat, we developed musicPIIrate. This novel tool leverages deep learning architectures that utilize both standalone data representations and the structural information embedded in a user's playlist collection. Our design explores set-based approaches (e.g., Deep Sets) and methodologies modeling relationships between playlists (e.g., Graph Neural Networks), which we also combine to leverage both perspectives. Our approach addresses feature extraction from unordered, variable-length set data, enabling accurate PII prediction. Empirical evaluation demonstrates that musicPIIrate achieves state-of-the-art inference accuracy. The tool successfully infers a wide array of attributes, including: Demographics (Age, Country, Gender), Habits (Alcohol, Smoke, Sport), and Personality Traits (OCEAN scores). musicPIIrate outperforms existing methods, beating baselines in 9 out of 15 attribute inference tasks. To counter this vulnerability, we propose JamShield, a lightweight defensive framework. JamShield strategically injects dummy playlists into an account to dilute the PII-carrying signal. Our analysis indicates that JamShield represents a promising defense, lowering inference F1-scores by an average of 10%. This work provides an initial Offensive-AI benchmark for playlist-based PII inference using architectures that leverage set- and graph-structured data and introduces a defense showing encouraging mitigation effects.
• Abstract（参考訳）: AIの広範囲な統合により、Offensive AI — サイバースキルチェーン全体の悪意ある端に対するAIの搾取 — が実現した。 重要なマニフェストは、AIが無害な公開データから機密性の高い個人識別情報(PII)を推測する、ユーザー属性推論攻撃である。 私たちは、ユーザーが定期的に公開プレイリストをリリースする音楽ストリーミングエコシステムを、Offensive AIに活用する方法を探る。 この脅威を定量化するために、MusicPIIrateを開発した。 この新しいツールは、スタンドアロンのデータ表現とユーザのプレイリストコレクションに埋め込まれた構造情報の両方を利用するディープラーニングアーキテクチャを活用する。 我々の設計では、セットベースのアプローチ(例えば、Deep Sets)とプレイリスト間の関係をモデル化する方法論(例えば、グラフニューラルネットワーク)を探索し、両者の視点を活用する。 提案手法は, 可変長データセットから特徴抽出を行い, 正確なPII予測を可能にする。 経験的評価は、MusicPIIrateが最先端の推論精度を達成することを示す。 このツールは、Demographics(Age, Country, Gender)、Habits(Alcohol, Smoke, Sport)、Personality Traits(OCEANスコア)など、幅広い属性を推測することに成功した。 musicPIIrateは既存のメソッドを上回り、15の属性推論タスクのうち9のベースラインを上回ります。 この脆弱性に対処するため、軽量な防御フレームワークであるJamShieldを提案する。 JamShieldは戦略的にダミープレイリストをアカウントに注入し、PII搬送信号を希釈する。 分析の結果,JamShieldは期待できる防御力を示し,F1スコアを平均10%下げた。 この研究は、データセットとグラフ構造化データを活用するアーキテクチャを使用して、プレイリストベースのPII推論のための最初のOffensive-AIベンチマークを提供し、緩和効果を示すディフェンスを導入している。

関連論文リスト

• RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents [14.945227570112882]
  エンボディドAIシステムの新しいクラスは、例えばロボットや自動運転車のような物理的なプラットフォームに統合される。 従来の研究は、AIを具体化するためのジェイルブレイク攻撃と防御を導入した。 既存のベンチマークと評価フレームワークは、従来のチャットベースのモデルをターゲットにするか、エンボディされたAIの非敵安全評価に注力する。 本稿では,3つのコアコンポーネントからなるRoboJailBenchとのギャップに対処する。
  論文  参考訳（メタデータ） (2026-05-19T04:07:24Z)
• Adversarial Semantic and Label Perturbation Attack for Pedestrian Attribute Recognition [42.36333049201237]
  本稿では,歩行者属性認識のための最初の対角攻撃と防御の枠組みを提案する。 事前に訓練されたCLIPベースのPARフレームワークに基づいて,歩行者画像に対するグローバルおよびパッチレベルの攻撃を併用する。 また、敵攻撃の影響を抑えるために、セマンティックオフセット防衛戦略を設計する。
  論文  参考訳（メタデータ） (2025-05-29T10:17:17Z)
• Adversarial Machine Unlearning [26.809123658470693]
  本稿では,機械学習モデルに対する特定のトレーニングデータの影響を取り除くことを目的とした,機械学習の課題に焦点を当てた。 伝統的に、未学習アルゴリズムの開発は、ある種のプライバシー脅威である会員推論攻撃(MIA)と並行して実行される。 未学習アルゴリズムの設計にMIAを統合するゲーム理論フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-11T20:07:22Z)
• Erasing, Transforming, and Noising Defense Network for Occluded Person Re-Identification [36.91680117072686]
  我々は,隠蔽された人物のリIDを解決するために,ETNDNet(Easing, Transforming, and Noising Defense Network)を提案する。 提案するETNDNetでは,特徴マップをランダムに消去し,不完全な情報を持つ逆表現を生成する。 第3に、障害物や歩行者以外の歩行者が導入したノイズ情報に対処するために、ランダムな値で特徴マップを摂動する。
  論文  参考訳（メタデータ） (2023-07-14T06:42:21Z)
• A Tale of HodgeRank and Spectral Method: Target Attack Against Rank Aggregation Is the Fixed Point of Adversarial Game [153.74942025516853]
  ランクアグリゲーション手法の本質的な脆弱性は文献ではよく研究されていない。 本稿では,ペアデータの変更による集計結果の指定を希望する目的のある敵に焦点をあてる。 提案した標的攻撃戦略の有効性は,一連の玩具シミュレーションと実世界のデータ実験によって実証された。
  論文  参考訳（メタデータ） (2022-09-13T05:59:02Z)
• An Adversarial Attack Analysis on Malicious Advertisement URL Detection Framework [22.259444589459513]
  悪意のある広告URLは、サイバー攻撃の源泉であるため、セキュリティ上のリスクをもたらす。 既存の悪意のあるURL検出技術は制限されており、見えない機能やテストデータの一般化を扱うことができる。 本研究では,新しい語彙・ウェブスクラップ機能群を抽出し,機械学習技術を用いて不正広告URL検出システムを構築する。
  論文  参考訳（メタデータ） (2022-04-27T20:06:22Z)
• Feature Importance Guided Attack: A Model Agnostic Adversarial Attack [0.0]
  本稿では,敵の避難サンプルを生成する「FIGA(Feature Importance Guided Attack)」を提案する。 8種類のフィッシング検出モデルに対してFIGAを実証する。 フィッシング検出モデルのF1スコアを平均0.96から0.41に下げることが可能である。
  論文  参考訳（メタデータ） (2021-06-28T15:46:22Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Zero-shot learning approach to adaptive Cybersecurity using Explainable AI [0.5076419064097734]
  本稿では,セキュリティ情報やイベント管理 (SIEM) や侵入検知 (IDS) といったサイバーセキュリティシステムで直面するアラーム浸水問題に対処する新しいアプローチを提案する。 我々は機械学習(ML)にゼロショット学習法を適用し、MLモデルによって生成された異常の予測に説明を活用する。 このアプローチでは、攻撃に関する事前の知識がなければ、それを識別し、分類に寄与する特徴を解読し、特定のカテゴリで攻撃をバケット化しようとする。
  論文  参考訳（メタデータ） (2021-06-21T06:29:13Z)
• Attack Agnostic Adversarial Defense via Visual Imperceptible Bound [70.72413095698961]
  本研究の目的は、目視攻撃と目視攻撃の両方に対して一定の範囲内で堅牢な防衛モデルを設計することである。 提案するディフェンスモデルは,MNIST,CIFAR-10,Tiny ImageNetデータベース上で評価される。 提案アルゴリズムは攻撃非依存であり,攻撃アルゴリズムの知識を必要としない。
  論文  参考訳（メタデータ） (2020-10-25T23:14:26Z)
• Targeted Physical-World Attention Attack on Deep Learning Models in Road Sign Recognition [79.50450766097686]
  本稿では,現実の道路標識攻撃に対するTAA手法を提案する。 実験の結果,TAA法は攻撃成功率(約10%)を向上し,RP2法と比較して摂動損失(約4分の1)を減少させることがわかった。
  論文  参考訳（メタデータ） (2020-10-09T02:31:34Z)
• Anomaly Detection-Based Unknown Face Presentation Attack Detection [74.4918294453537]
  異常検出に基づくスプーフ攻撃検出は、顔提示攻撃検出の最近の進歩である。 本稿では,異常検出に基づくスプーフ攻撃検出のためのディープラーニングソリューションを提案する。 提案手法はCNNの表現学習能力の恩恵を受け,fPADタスクの優れた特徴を学習する。
  論文  参考訳（メタデータ） (2020-07-11T21:20:55Z)
• On Adversarial Examples and Stealth Attacks in Artificial Intelligence Systems [62.997667081978825]
  本稿では,汎用人工知能(AI)システムに対する2種類の多元性行動の評価と分析を行うための公式な枠組みを提案する。 最初のクラスは、逆例を含み、誤分類を引き起こす入力データの小さな摂動の導入を懸念する。 第2のクラスは、ここで初めて導入され、ステルス攻撃と名付けられたもので、AIシステム自体に対する小さな摂動を伴う。
  論文  参考訳（メタデータ） (2020-04-09T10:56:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。