論文の概要: Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations

• arxiv url: http://arxiv.org/abs/2608.08245v1
• Date: Sat, 08 Aug 2026 17:15:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.739622
• Title: Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations
• Title（参考訳）: プロキシ表現による大規模LLMアプリケーションのプライバシ保護データドリフト検出とリカバリ
• Abstract要約: ProxyDriftは、運用トラフィックとオフライン評価セット間のドリフトを特定し、測定するフレームワークである。 当社のアプローチは、PII以外のプロキシ表現に完全に依存しています。
• 参考スコア（独自算出の注目度）: 5.534194634878958
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM applications deployed at scale face a fundamental challenge: privacy constraints prevent direct inspection of user interactions, making it difficult to obtain any representative evaluation dataset or to track the ongoing evolution of production traffic. We present ProxyDrift, a framework that (i) identifies and measures drift between production traffic and offline evaluation sets, and (ii) constructs and refreshes those evaluation sets accordingly; all without access to raw user data. Our approach operates entirely on non-PII proxy representations: structured, multi-dimensional descriptors derived from LLM-based classification of user interactions. We introduce (1) a chance-calibrated, redundancy-aware (RA) alignment score that aggregates per-dimension drift measurements via mutual information; (2) a conditional sampler that generates synthetic proxies respecting inter-dimensional dependencies; (3) a roundtrip consistency analysis that exposes generator/classifier disagreements and guides proxy taxonomy refinement; and (4) a feedback-linkage analysis that ties per-dimension and per-value proxy distributions to user satisfaction, surfacing actionable failure and success modes. Serving hundreds of millions of users, ProxyDrift enables continuous drift monitoring and targeted synthetic data generation without exposing sensitive user data. Experiments confirm strong roundtrip consistency, discriminator-level indistinguishability of synthetic queries from human queries, and tight end-to-end alignment (RA~0.9) with production.
• Abstract（参考訳）: プライバシ制約は、ユーザインタラクションの直接的な検査を防ぎ、代表的評価データセットを取得したり、運用トラフィックの継続的な進化を追跡するのが難しくなる。 フレームワークであるProxyDriftを紹介します。 一 生産トラフィックとオフライン評価セットとの間のドリフトを特定して測定すること。 (ii) それらの評価セットを作成・更新する。 我々のアプローチは、LLMに基づくユーザインタラクションの分類から派生した構造化多次元記述子である非PIIプロキシ表現に完全に依存する。 本稿では,(1)次元ごとのドリフト計測を相互情報で集計するRAアライメントスコア,(2)次元間の依存性を反映した合成プロキシを生成する条件サンプル,(3)ジェネレータ/分類器の不一致を露呈するラウンドトリップ整合解析,(4)次元ごとのドリフト分布と値ごとのプロキシ分布をユーザ満足度,期待可能な障害および成功モードに結びつけるフィードバックリンク分析を紹介する。 ProxyDriftは、数億人のユーザを対象にした継続的ドリフト監視と、センシティブなユーザデータを秘密にすることなく、ターゲットとする合成データ生成を可能にする。 実験では、強いラウンドトリップ一貫性、人間のクエリから合成クエリを識別するレベルの不明瞭さ、生産と密なエンドツーエンドアライメント(RA~0.9)が確認された。

関連論文リスト

• CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
  CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。 本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。 実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
  論文  参考訳（メタデータ） (2026-08-12T04:27:45Z)
• Beyond Shapley: An Influence-Based Data Auditing Pipeline for LLM Alignment and Evaluation [2.733105115068754]
  反復モデルの再トレーニングなしにShapley値を近似する,スケーラブルで推論のみのデータアベイラビリティパイプラインを導入する。 重厚な2つのアライメントデータセットの衛生化におけるパイプラインの有効性を実証する。
  論文  参考訳（メタデータ） (2026-07-24T03:31:44Z)
• Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
  データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。 本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
  論文  参考訳（メタデータ） (2026-06-15T16:54:02Z)
• Decoupling Identity from Utility: Privacy-by-Design Frameworks for Financial Ecosystems [2.8555760710139393]
  本稿では、この対立を解決するための堅牢な"Privacy by Design"フレームワークとして、差分プライベート(DP)合成データについて検討する。 生データから高忠実度関節分布を再構成する直接タブラル合成法と,DP保護骨材を用いて複雑でステートフルなシミュレーションをパラメータ化するDPシードエージェントベースモデリング法(ABM)について検討した。
  論文  参考訳（メタデータ） (2026-04-16T00:07:32Z)
• An Agentic Workflow for Detecting Personally Identifiable Information in Crash Narratives [25.2699036413582]
  PIIは軽々しく、矛盾なくクラッシュの物語に現れる。 既存のルールベースのアプローチでは、コンテキスト依存のPIIをキャプチャできないことが多い。 本研究は,事故物語におけるPII検出のための局所展開可能なエージェントワークフローを開発し,評価する。
  論文  参考訳（メタデータ） (2026-04-15T05:03:20Z)
• Towards Generalizable Deepfake Detection via Real Distribution Bias Correction [62.89674593681203]
  本稿では,2つの主要コンポーネントからなるReal Distribution Bias Correction(RDBC)フレームワークを紹介する。 RDBCは、ドメイン内およびクロスドメインのディープフェイク検出の両方で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-03-14T16:11:00Z)
• Knowledge-to-Data: LLM-Driven Synthesis of Structured Network Traffic for Testbed-Free IDS Evaluation [0.4893345190925178]
  本稿では,Large Language Models (LLMs) が構造化された合成ネットワークトラフィックデータセットを生成するための制御された知識データエンジンとして機能するかどうかを検討する。 本稿では,プロトコル文書,アタックセマンティクス,および明示的な統計的ルールを組み合わせた手法を提案する。 その結果、明示的な制約の下では、LLM生成データセットは実際のネットワークトラフィックの統計的および構造的特性を正確に近似することができることがわかった。
  論文  参考訳（メタデータ） (2026-01-08T15:31:33Z)
• Agent4FaceForgery: Multi-Agent LLM Framework for Realistic Face Forgery Detection [108.5042835056188]
  この作業では,2つの基本的な問題に対処するため,Agent4FaceForgeryを導入している。 人間の偽造の多様な意図と反復的なプロセスを捉える方法。 ソーシャルメディアの偽造に付随する複雑な、しばしば敵対的な、テキストと画像のインタラクションをモデル化する方法。
  論文  参考訳（メタデータ） (2025-09-16T01:05:01Z)
• Byzantine-Robust Federated Learning Using Generative Adversarial Networks [1.4091801425319963]
  フェデレートラーニング(FL)は、生データを共有せずに分散クライアント間で協調的なモデルトレーニングを可能にするが、その堅牢性は、データやモデル中毒といったビザンチンの行動によって脅かされている。 本稿では,クライアントの更新を検証するための代表データを生成するために,サーバ上の条件付き生成逆ネットワーク(cGAN)を活用することで,これらの課題に対処する防衛フレームワークを提案する。 このアプローチは、外部データセットへの依存を排除し、多様な攻撃戦略に適応し、標準FLにシームレスに統合する。
  論文  参考訳（メタデータ） (2025-03-26T18:00:56Z)
• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  機密情報を含む匿名化は、幅広いアプリケーションにとって不可欠である。 既存の技術は、大規模言語モデルの再識別能力の新たな課題に直面している。 本稿では,プライバシ評価器,ユーティリティ評価器,最適化コンポーネントの3つの重要なコンポーネントで構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• Geometry-Aware Instrumental Variable Regression [56.16884466478886]
  本稿では,データ導出情報によるデータ多様体の幾何を考慮した移動型IV推定器を提案する。 本手法のプラグイン・アンド・プレイ実装は,標準設定で関連する推定器と同等に動作する。
  論文  参考訳（メタデータ） (2024-05-19T17:49:33Z)
• Debiasing Recommendation by Learning Identifiable Latent Confounders [49.16119112336605]
  コンバウンディングバイアスは、ユーザの露出とフィードバックの両方に影響を与える未測定変数の存在によって生じる。 既存の手法では,(1) 未測定変数について不確定な仮定を行うか,(2) 潜伏した共同創設者を直接ユーザの露出から推測する。 本稿では、上記の非識別問題の解決にプロキシ変数の集合を利用する新しい方法、すなわち、識別可能なデコノウ(iDCF)を提案する。
  論文  参考訳（メタデータ） (2023-02-10T05:10:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。