論文の概要: When Retain Constraints Conflict: Mitigating Forget-Retain Interference in Tabular Data
- arxiv url: http://arxiv.org/abs/2609.06786v1
- Date: Sun, 06 Sep 2026 19:08:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.305962
- Title: When Retain Constraints Conflict: Mitigating Forget-Retain Interference in Tabular Data
- Title(参考訳): 制約の保持が競合する時--タブラルデータにおけるターゲット-保持干渉の緩和
- Abstract要約: 左行が、同じ高信号属性に依存する近傍の行を保持することを示し、左行の保持が、左行に必要となる更新に反することを示す。
この障害モードによって動機付けられたスキーマ認識アプローチである Conflict-Aware Unlearning (CAU) を提案する。
- 参考スコア(独自算出の注目度): 41.23337582511417
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine unlearning aims to remove the influence of designated training data while preserving model utility, but its behavior on tabular data remains underexplored. This gap is important because tabular prediction is widely used in high-stakes domains and is increasingly adapted to language models through record serialization and schema-aware prompting. We identify a key challenge that distinguishes tabular unlearning from unlearning in free-form text or other modalities: schema-induced forget-retain overlap. In serialized tabular data, records share fixed column-name/value slots, similar attribute ranges, and common output spaces. Consequently, a forget row may have nearby retain rows that rely on the same high-signal attributes, causing retain preservation to oppose the update required for forgetting. Motivated by this failure mode, we propose Conflict-Aware Unlearning (CAU), a schema-aware approach that reduces forget-retain interference by relaxing preservation constraints on retained rows that most conflict with the forget set. Across sample-level and feature-level unlearning on clinical and non-medical tabular tasks, CAU more closely matches a retraining oracle while maintaining predictive utility and retain-region behavior. Our results show that reliable tabular LLM unlearning depends not only on the forgetting objective, but also on how retain constraints are constructed.
- Abstract(参考訳): 機械学習は、モデルユーティリティを維持しながら、指定されたトレーニングデータの影響を取り除くことを目的としている。
このギャップは、タブ状の予測がハイテイクドメインで広く使われており、レコードシリアライズやスキーマ認識のプロンプトを通じて言語モデルに適応しやすくなっているため、重要である。
自由形式のテキストや他のモダリティにおける未学習と表在的アンラーニングを区別する重要な課題を、スキーマによって引き起こされるリサート-保持オーバーラップ(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版))(英語版))で識別する。
直列化された表データでは、レコードは固定カラム名/値スロット、類似属性範囲、共通出力空間を共有する。
したがって、左行は、同じ高信号属性に依存する近傍の保持行を持ち、その保持行は、忘れるのに必要な更新に反対する。
この障害モードによって動機づけられたスキーマ認識型アプローチである Conflict-Aware Unlearning (CAU) を提案する。
CAUは、臨床および非医学的な表型タスクに関するサンプルレベルおよび特徴レベルの未学習を通じて、予測ユーティリティと保持領域の振る舞いを維持しながら、再学習するオラクルとより密に一致している。
この結果から, 信頼度の高い表型LLMアンラーニングは, 忘れる目的だけでなく, 制約の維持方法にも依存することがわかった。
関連論文リスト
- On-the-go Forgetting without Explicit Unlearning via ERASE [2.6426981014417046]
ERASEは、モデルウェイトを変更することなく、プライベートデータの観測可能な影響を抑制する、現在進行中の忘れ物のためのフレームワークである。
ERASEが指定されたサブクラスの機能的忘れを確実に達成した場合に、十分な条件を厳格に特徴付ける。
ERASEは、最近の未学習手法よりも、有効性を忘れること、計算効率、保持率の最良のバランスを維持している。
論文 参考訳(メタデータ) (2026-09-05T08:09:27Z) - Raven: High-Recall Sequence Modeling with Sparse Memory Routing [88.47618436676748]
メモリスロットの固定セットを維持する線形時間シーケンスモデルであるRavenを導入し、各ステップにおいて、学習された入力依存ルーティングによって選択されたサブセットのみを減衰・更新する。
リコール集約ベンチマーク全体では、Ravenは以前のリニアタイムベースラインと競合するか、より優れており、SWAとSSMの両方が大幅に低下する強いロングコンテキストリコールを実現している。
論文 参考訳(メタデータ) (2026-07-28T07:04:32Z) - UTOPIA: Unlearnable Tabular Data via Decoupled Shortcut Embedding [29.54720707082683]
非学習不可能な例(UE)は、プライベートビジョンデータにおける不正なモデルトレーニングを防止するための実践的なメカニズムとして現れている。
汚染スペクトルがクリーンなセマンティックスペクトルを超過すると、証明不能が実現可能であることを示す。
提案するUnlearnable Tabular Data via DecOuPled Shortcut EmbeddIng (UTOPIA)は,特徴冗長性を利用して最適化を2つのチャネルに分離する。
論文 参考訳(メタデータ) (2026-02-07T04:44:49Z) - Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。
分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。
本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:39:10Z) - LLM Unlearning on Noisy Forget Sets: A Study of Incomplete, Rewritten, and Watermarked Data [69.5099112089508]
大規模言語モデル(LLM)は、顕著な生成能力を示すが、機密データを記憶することで倫理的およびセキュリティ上の懸念を引き起こす。
この研究は、ノイズのある忘れセットと呼ばれる、摂動的または低忠実な忘れデータの下での未学習に関する最初の研究を提示する。
コアセマンティック信号が保存されている場合、未学習は摂動に対して驚くほど堅牢である。
論文 参考訳(メタデータ) (2025-10-10T05:10:49Z) - CoUn: Empowering Machine Unlearning via Contrastive Learning [12.677444111986707]
CoUnは、保持データのみを使用してスクラッチから再トレーニングされたモデルが、保持データとのセマンティックな類似性に基づいて、忘れデータを分類する、という観察にインスパイアされた、新しいMUフレームワークである。
CoUnは、学習したデータ表現をコントラスト学習(CL)と教師付き学習によって調整し、データを保持するためにのみ適用することで、この振る舞いをエミュレートする。
論文 参考訳(メタデータ) (2025-09-19T20:12:49Z) - Tabular Data Contrastive Learning via Class-Conditioned and Feature-Correlation Based Augmentation [9.593419261003692]
コントラスト学習(Contrastive Learning)は、最初に元のデータの類似したビューを作成し、次にデータとその対応するビューを埋め込み空間に近接させるモデル事前学習技術である。
本稿では,この拡張手法の簡易かつ強力な改善法を提案する。
私たちのコードはhttps://github.com/willtop/Tabular-Class-Conditioned-SSLで利用可能です。
論文 参考訳(メタデータ) (2024-04-26T15:43:49Z) - STUNT: Few-shot Tabular Learning with Self-generated Tasks from
Unlabeled Tables [64.0903766169603]
我々は,Unlabeled Tables (STUNT) からの自己生成タスクを作成した,数発のセミ教師付き学習のためのフレームワークを提案する。
私たちのキーとなるアイデアは、ランダムに選択された列をターゲットラベルとして扱うことで、多様なショットタスクを自己生成することです。
次に、メタラーニング手法を用いて、構築されたタスクで一般化可能な知識を学習する。
論文 参考訳(メタデータ) (2023-03-02T02:37:54Z) - ORDisCo: Effective and Efficient Usage of Incremental Unlabeled Data for
Semi-supervised Continual Learning [52.831894583501395]
連続学習は、入力されたデータが完全にラベル付けされていると仮定し、実際のアプリケーションでは適用できないかもしれない。
我々は、条件付き生成逆数ネットワーク(GAN)を用いた分類器を相互に学習するために、識別器整合(ORDisCo)を用いたディープオンライン再生を提案する。
ORDisCo が SSCL の様々な半教師付き学習ベンチマークデータセットで大幅なパフォーマンス向上を達成していることを示します。
論文 参考訳(メタデータ) (2021-01-02T09:04:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。