論文の概要: TabPATE: Differentially Private Tabular In-Context Learning Without Public Data

• arxiv url: http://arxiv.org/abs/2606.31474v1
• Date: Tue, 30 Jun 2026 10:50:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.185069
• Title: TabPATE: Differentially Private Tabular In-Context Learning Without Public Data
• Title（参考訳）: TabPate: 公開データのない個人用タブラルインコンテキストラーニング
• Abstract要約: タブラル基礎モデルは、小さなラベル付きデータセットからコンテキスト内学習を可能にするが、コンテキストに置かれたプライベートレコードは、モデル予測を通じて漏洩する可能性がある。 本稿では,PATE 形式の表型 ICL に対して,パブリックな分散データを必要としない,差分プライベートな PATE スタイルの防衛手法である TabPATE を紹介する。
• 参考スコア（独自算出の注目度）: 41.262278295182966
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular foundation models enable accurate in-context learning (ICL) from small labeled datasets, but the private records placed in context can leak through model predictions. We first show that even basic membership inference attacks succeed against tabular ICL, motivating formal privacy protection. We then introduce TabPATE, a differentially private PATE-style defense for tabular ICL that does not require public in-distribution data. TabPATE partitions the private context across teacher models, privately aggregates their labels on synthetic tabular queries, and releases the resulting labeled queries as a student context. Because tabular features are bounded and relatively low-dimensional, useful queries can be generated from feature ranges alone or from lightly privatized marginals. Across tabular benchmarks, TabPATE preserves competitive utility while reducing membership inference to near-random success, providing a practical path to private tabular ICL without public data.
• Abstract（参考訳）: タブラル基礎モデルは、小さなラベル付きデータセットから正確なコンテキスト内学習(ICL)を可能にするが、コンテキストに置かれたプライベートレコードは、モデル予測を通じてリークする可能性がある。 まず、基本的なメンバーシップ推論攻撃でさえ、形式的なプライバシ保護を動機として、表型ICLに対して成功することを示す。 次にTabPATEを紹介した。TabPATEは、パブリックな分散データを必要としない、表型ICCのためのPATEスタイルのディフェンスである。 TabPATEは教師モデル間でプライベートコンテキストを分割し、合成表形式のクエリにラベルをプライベートに集約し、結果として得られたラベル付きクエリを学生コンテキストとしてリリースする。 表形式の特徴は有界で比較的低次元であるため、特徴範囲のみから有用なクエリを生成できる。 タブラベンチマーク全体では、TabPATEはメンバーシップ推論をほぼランダムな成功に還元し、公開データなしでプライベートなタブラICLへの実践的なパスを提供しながら、競争力を維持している。

関連論文リスト

• Private PoEtry: Private In-Context Learning via Product of Experts [58.496468062236225]
  In-context Learning (ICL) は、大規模言語モデルが推論時に少数の例だけで新しいタスクに適応できるようにする。 ICLに対する既存の差分プライバシーアプローチは、計算コストが高いか、オーバーサンプリング、合成データ生成、あるいは不要なしきい値設定に依存している。 我々は、Product-of-Expertsモデルのレンズを通してプライベートICLを再構成し、理論的に基盤付けられたフレームワークを与え、アルゴリズムを自明に並列化することができる。 本手法は,従来のDP-ICL法と比較して平均30ポイント以上精度が向上し,高いプライバシー保証を維持した。
  論文  参考訳（メタデータ） (2026-02-04T19:56:24Z)
• ConTextTab: A Semantics-Aware Tabular In-Context Learner [1.0999592665107414]
  ConTextTabを導入し、セマンティック理解とアライメントをテーブルネイティブなICLフレームワークに統合する。 我々のモデルは、意味的にリッチなCARTEベンチマークで新しい標準を設定しながら、幅広いベンチマークでSOTAと競合する。
  論文  参考訳（メタデータ） (2025-06-12T13:57:29Z)
• Do You Really Need Public Data? Surrogate Public Data for Differential Privacy on Tabular Data [10.1687640711587]
  これは、プライバシ損失の予算を消費せず、公開スキーマやメタデータからのみ構築される。 大規模言語モデル(LLM)を用いたサロゲート公開データ生成プロセスを自動化する。 特に,CSVファイルとして直接レコード生成を行う方法と,サンプリングのための自動構造因果モデル(SCM)の構築を提案する。
  論文  参考訳（メタデータ） (2025-04-19T17:55:10Z)
• A Simple Baseline for Predicting Events with Auto-Regressive Tabular Transformers [70.20477771578824]
  イベント予測への既存のアプローチには、タイムアウェアな位置埋め込み、学習行とフィールドエンコーディング、クラス不均衡に対処するオーバーサンプリング方法などがある。 基本位置埋め込みと因果言語モデリングの目的を持つ標準自己回帰型LPM変換器を用いて,単純だが柔軟なベースラインを提案する。 私たちのベースラインは、一般的なデータセットで既存のアプローチよりも優れており、さまざまなユースケースに使用することができます。
  論文  参考訳（メタデータ） (2024-10-14T15:59:16Z)
• Towards Split Learning-based Privacy-Preserving Record Linkage [49.1574468325115]
  ユーザデータのプライバシが要求されるアプリケーションを容易にするために、Split Learningが導入されている。 本稿では,プライバシ保護記録マッチングのための分割学習の可能性について検討する。
  論文  参考訳（メタデータ） (2024-09-02T09:17:05Z)
• DP-TabICL: In-Context Learning with Differentially Private Tabular Data [12.814878223075437]
  In-context Learning (ICL)は、大規模言語モデル(LLM)が新しいタスクに適応できるようにする。 LLMは、プロンプトに含まれる情報をリークすることができる。 この研究は、差分プライバシー(DP)の使用方法に関する最初の調査として機能する。 ローカル (LDP-TabICL) とグローバル (GDP-TabICL) の2つのプライベート ICL フレームワークを立案する。
  論文  参考訳（メタデータ） (2024-03-08T21:19:01Z)
• Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
  メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。 中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。 101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
  論文  参考訳（メタデータ） (2023-10-31T18:03:54Z)
• TabuLa: Harnessing Language Models for Tabular Data Synthesis [4.539846270369207]
  Tabulaは、大きな言語モデル(LLM)の構造を利用する表形式のデータシンセサイザーである。 State-of-the-art (SOTA) の LLM とは異なり、Tabula は元々自然言語処理用に設計されたトレーニング済みのウェイトを捨てている。 実験により,Tabulaは現在のSOTA法と比較して優れた合成データユーティリティを実現していることが示された。
  論文  参考訳（メタデータ） (2023-10-19T13:50:56Z)
• Privately generating tabular data using language models [80.67328256105891]
  テーブルからプライベートに合成データを生成することは、プライバシ優先の世界の重要なブロックである。 本稿では,テーブル内の各行を文として扱い,差分プライバシーを持つ言語モデルを訓練する簡単な手法を提案し,検討する。
  論文  参考訳（メタデータ） (2023-06-07T21:53:14Z)
• STUNT: Few-shot Tabular Learning with Self-generated Tasks from Unlabeled Tables [64.0903766169603]
  我々は,Unlabeled Tables (STUNT) からの自己生成タスクを作成した,数発のセミ教師付き学習のためのフレームワークを提案する。 私たちのキーとなるアイデアは、ランダムに選択された列をターゲットラベルとして扱うことで、多様なショットタスクを自己生成することです。 次に、メタラーニング手法を用いて、構築されたタスクで一般化可能な知識を学習する。
  論文  参考訳（メタデータ） (2023-03-02T02:37:54Z)
• Differentially Private Label Protection in Split Learning [20.691549091238965]
  Split Learningは分散トレーニングフレームワークで、複数のパーティが分割されたデータ上で機械学習モデルを共同でトレーニングすることができる。 近年の研究では、分割学習の実装は、半正直な敵が簡単にラベルを再構築できる厳しいプライバシーリスクに悩まされていることが示されている。 提案するtextsfTPSL (Transcript Private Split Learning) は,差分プライバシーを保証する汎用的なグラデーションベース分割学習フレームワークである。
  論文  参考訳（メタデータ） (2022-03-04T00:35:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。