論文の概要: Principled Nonlinear Concept Erasure and Steering

• arxiv url: http://arxiv.org/abs/2610.32516v1
• Date: Fri, 23 Oct 2026 11:44:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.509004
• Title: Principled Nonlinear Concept Erasure and Steering
• Title（参考訳）: 原理的非線形概念消去とステアリング
• Abstract要約: 非線形概念消去のための条件付きオートエンコーダフレームワークを提案する。 完全復元と人口レベルの自立は,完全非線形ガードネスに十分であることを示す。 複数のデータセット、センシティブな属性、言語モデルにまたがる優れたユーティリティ・エミッションのトレードオフを実現しています。
• 参考スコア（独自算出の注目度）: 17.083661808180484
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learned representations often encode sensitive attributes, such as gender or race, that may be undesirable or unsafe to retain. Concept erasure aims to remove this information while preserving task-relevant content. Existing methods remain incomplete: linear methods provide guarantees only against linear probes, while nonlinear methods achieve stronger empirical erasure but lack formal guarantees and often sacrifice utility. In this work, we introduce a principled conditional autoencoder framework for nonlinear concept erasure. We follow the principle that erasure should remove only the sensitive attribute and nothing else, and we show that, under the stated assumptions, perfect reconstruction together with population-level independence is sufficient for perfect nonlinear guardedness, with preservation guarantees in the imperfect-reconstruction regime. Empirically, we attain a superior utility-erasure trade-off across multiple datasets, sensitive attributes, and language models, surpassing even the supervised variants of competing methods despite using no target-task labels, while being simpler to optimize and converging substantially faster. Beyond erasure, our framework yields concept conversion (representation steering) as a by-product: by changing only the target concept at inference time, it produces representations corresponding to different concept values - at no additional training cost - a capability no prior erasure method provides, and on which we likewise demonstrate strong empirical performance.
• Abstract（参考訳）: 学習された表現はしばしば性別や人種などのセンシティブな属性をエンコードする。 概念消去は、タスク関連コンテンツを保持しながら、この情報を削除することを目的としている。 線形法は線形プローブに対してのみ保証を提供するが、非線形法はより強い経験的消去を達成するが、正式な保証を欠き、しばしば実用性を犠牲にする。 本研究では,非線形概念消去のための条件付きオートエンコーダフレームワークを提案する。 我々は、消去は機密属性のみを取り除き、その他のものは取り除くべきだという原則に従っており、この前提の下では、人口レベルの自立とともに完全な復元が完全な非線形ガードネスに十分であり、不完全な再建体制における保全の保証が十分であることを示す。 実験的に、複数のデータセット、センシティブな属性、言語モデルにまたがる優れたユーティリティ・エミッションのトレードオフを実現し、ターゲットタスクラベルを使わずに競合するメソッドの教師付きバリエーションさえ超えました。 推論時に対象とする概念だけを変更することで、異なる概念値(追加のトレーニングコストなしで)に対応する表現を生成します。

関連論文リスト

• Obliviator Reveals the Cost of Nonlinear Guardedness in Concept Erasure [15.574717738100725]
  概念消去は、学習された表現から社会的・人口的要因などの望ましくない属性を取り除くことを目的としている。 従来の手法では、学習された表現と望ましくない属性の間の複雑で非線形な統計的依存関係を完全に把握できなかった。 Obliviatorは,非線形統計的依存関係を完全に捕捉するポストホック消去法である。
  論文  参考訳（メタデータ） (2026-03-08T08:35:43Z)
• Consistency-Preserving Concept Erasure via Unsafe-Safe Pairing and Directional Fisher-weighted Adaptation [17.59828667571619]
  既存の概念消去アプローチは、対応する安全な代替手段へのガイダンスを提供することなく、安全でない概念を取り除くことに重点を置いている。 PAIRed Erasing(PAIRed Erasing)という新しいフレームワークを提案し、単純な削除から一貫性を保つセマンティックアライメントへと概念の消去を再構築する。 提案手法は, 構造的整合性, セマンティック・コヒーレンス, 生成品質を保ちながら, 効率的な概念消去を実現し, 最先端のベースラインを著しく上回っている。
  論文  参考訳（メタデータ） (2026-02-05T06:05:24Z)
• CURE: Concept Unlearning via Orthogonal Representation Editing in Diffusion Models [7.68494752148263]
  CUREは、事前訓練された拡散モデルの重み空間で直接動作する、トレーニング不要の概念未学習フレームワークである。 スペクトル消去器は、安全な属性を保持しながら、望ましくない概念に特有の特徴を特定し、分離する。 CUREは、対象とする芸術スタイル、オブジェクト、アイデンティティ、明示的なコンテンツに対して、より効率的で徹底的な除去を実現する。
  論文  参考訳（メタデータ） (2025-05-19T03:53:06Z)
• TaCo: Targeted Concept Erasure Prevents Non-Linear Classifiers From Detecting Protected Attributes [4.2560452339165895]
  Targeted Concept Erasure (TaCo)は、最後の潜伏表現から機密情報を除去する新しいアプローチである。 実験の結果,TaCoは最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-12-11T16:22:37Z)
• Linear Adversarial Concept Erasure [108.37226654006153]
  与えられた概念に対応する線形部分空間の同定と消去の問題を定式化する。 提案手法は, トラクタビリティと解釈性を維持しつつ, 深い非線形分類器のバイアスを効果的に軽減し, 高い表現性を有することを示す。
  論文  参考訳（メタデータ） (2022-01-28T13:00:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。