論文の概要: Timing is Everything: Inferring Temporal Membership in Continually Updated Models
- arxiv url: http://arxiv.org/abs/2611.05781v1
- Date: Wed, 04 Nov 2026 00:36:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.910925
- Title: Timing is Everything: Inferring Temporal Membership in Continually Updated Models
- Title(参考訳): タイミングはすべて:継続的に更新されたモデルで一時的なメンバーシップを推測する
- Abstract要約: 本稿では,継続的に更新されたディープラーニングモデルにおける時間的プライバシーリスクに関する最初の体系的研究について述べる。
本稿では,双方向LSTMを用いた新たなブラックボックス攻撃であるTMIAを提案し,逐次更新で観測されたモデル出力から時間的メンバシップを推定する。
- 参考スコア(独自算出の注目度): 17.730069496129996
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual model updating has become a common practice in the deployment of machine learning systems. However, the dynamic training behaviors give rise to new risks not sufficiently addressed by existing studies. In this paper, we present the first systematic study of temporal privacy risk in continually updated deep learning models. We formalize the notion of temporal membership in continually updated models. We then define the temporal membership inference attack, which seeks to infer whether and when individual samples were involved in model training, at both timestamp-level and interval-level granularities. To this end, we propose TMIA, a novel black-box attack that leverages bidirectional LSTMs to infer temporal membership from model outputs observed across successive updates. Through extensive experiments on three language models and three image classification models, we show that TMIA is highly effective and significantly outperforms existing baselines. Finally, we evaluate three potential defenses, revealing the trade-off between privacy protection and model utility.
- Abstract(参考訳): 継続的モデル更新は、機械学習システムのデプロイにおいて一般的なプラクティスとなっている。
しかし、動的なトレーニング行動は、既存の研究では十分に対処できない新しいリスクを引き起こす。
本稿では,継続的に更新されたディープラーニングモデルにおける時間的プライバシーリスクに関する最初の体系的研究について述べる。
我々は、継続的に更新されたモデルにおいて、時間的メンバシップの概念を定式化する。
次に、モデルトレーニングに個々のサンプルが関与しているかどうかをタイムスタンプレベルとインターバルレベルの両方の粒度で推測する時間的メンバーシップ推論攻撃を定義した。
そこで本稿では,双方向LSTMを用いた新たなブラックボックス攻撃であるTMIAを提案し,連続更新で観測されたモデル出力から時間的メンバシップを推定する。
3つの言語モデルと3つの画像分類モデルに関する広範な実験を通して、TMIAは既存のベースラインよりも非常に効果的であり、著しく優れていることを示す。
最後に,プライバシ保護とモデルユーティリティのトレードオフを明らかにすることで,3つの潜在的な防御効果を評価する。
関連論文リスト
- Evaluating Temporal Plasticity in Foundation Time Series Models for Incremental Fine-tuning [8.191499481025843]
時系列基礎モデルは、様々な時系列予測タスクで優れているが、漸進的な学習による継続的改善の能力は、まだ解明されていない。
本研究は,これらのモデルの時間的可塑性(連続学習による性能向上能力)を調査する最初の包括的研究である。
その結果,従来のモデルでは微調整の微調整で性能劣化に悩まされていたが,Time-MoEやChronosのような基礎モデルでは予測精度が持続的に向上していることがわかった。
論文 参考訳(メタデータ) (2025-04-20T16:43:01Z) - A Practitioner's Guide to Continual Multimodal Pretraining [83.63894495064855]
マルチモーダル・ファンデーション・モデルは視覚と言語を交わす多くのアプリケーションに役立っている。
モデルを更新し続けるために、継続事前トレーニングの研究は主に、大規模な新しいデータに対する頻度の低い、差別的な更新、あるいは頻繁に行われるサンプルレベルの更新のシナリオを探求する。
本稿では,FoMo-in-Flux(FoMo-in-Flux)について紹介する。
論文 参考訳(メタデータ) (2024-08-26T17:59:01Z) - iNeMo: Incremental Neural Mesh Models for Robust Class-Incremental Learning [22.14627083675405]
我々は、時間とともに新しいメッシュで拡張できるインクリメンタルニューラルネットワークモデルを提案する。
本研究では,Pascal3DおよびObjectNet3Dデータセットの広範な実験を通して,本手法の有効性を実証する。
我々の研究は、ポーズ推定のための最初の漸進的な学習手法も提示している。
論文 参考訳(メタデータ) (2024-07-12T13:57:49Z) - Continual Learning with Pre-Trained Models: A Survey [61.97613090666247]
継続的な学習は、新しい知識を学ぶ際に、かつての知識の破滅的な忘れを克服することを目的としている。
本稿では, PTM を用いた CL の最近の進歩を包括的に調査する。
論文 参考訳(メタデータ) (2024-01-29T18:27:52Z) - USTEP: Spatio-Temporal Predictive Learning under A Unified View [62.58464029270846]
UTEP(Unified S-Temporal Predictive Learning)は,マイクロテンポラリスケールとマクロテンポラリスケールを統合した再帰的および再帰的フリーな手法を再構築する,革新的なフレームワークである。
論文 参考訳(メタデータ) (2023-10-09T16:17:42Z) - A Comprehensive Study on Temporal Modeling for Online Action Detection [50.558313106389335]
オンライン行動検出(OAD)は実用的だが難しい課題であり、近年注目を集めている。
本稿では,4種類の時間的モデリング手法を含むOADの時間的モデリングに関する総合的研究を提案する。
本稿では,THUMOS-14 と TVSeries に対して,近年の最先端手法よりも大きなマージンを有するハイブリッド時間モデルを提案する。
論文 参考訳(メタデータ) (2020-01-21T13:12:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。