論文の概要: Refusal Beyond a Single Direction: A Preliminary Comparison of Diff-in-Means and INLP

• arxiv url: http://arxiv.org/abs/2606.13720v1
• Date: Thu, 11 Jun 2026 06:58:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.520577
• Title: Refusal Beyond a Single Direction: A Preliminary Comparison of Diff-in-Means and INLP
• Title（参考訳）: 単一方向の拒絶:Diff-in-MeansとINLPの比較
• Authors: Elisabetta Rocchetti, Alfio Ferrara,
• Abstract要約: オープンウェイトチャットモデルのDiMとIterative Nullspace Projectionの介入を比較した。 INLP逆ファクトフリップは、拒絶抑制に対するDiM方向のアブレーションと競合する。 抽出した部分空間の先頭方向へのINLPの制限は、ほぼベースラインのパープレキシティにおける抑制効果の大部分を保っている。
• 参考スコア（独自算出の注目度）: 2.5997274006052544
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Arditi et al. (2024) has shown that refusal in safety fine-tuned chat models is mediated by a single linear direction in the residual stream, recoverable by a difference-in-means (DiM) of harmful and harmless activations. We compare DiM-based interventions (activation addition and directional ablation) with two interventions derived from Iterative Nullspace Projection (INLP) -- nullspace projection and counterfactual flipping -- on five open-weight chat models, asking whether INLP can match DiM at steering refusal and whether its richer parameterisation yields more tweakable interventions. INLP counterfactual flipping is competitive with DiM directional ablation on refusal suppression, while nullspace projection is consistently weaker. Restricting INLP to the leading directions of the extracted subspace preserves most of the suppression effect at near-baseline perplexity, giving a tunable capability. Geometrically, the two INLP interventions land in qualitatively different regions of activation space: nullspace projection collapses transformed activations \emph{between} the harmful and harmless clusters, while counterfactual flipping moves them into the opposite cluster, suggesting that the model encodes the absence of a concept differently from its opposite -- an intriguing distinction that warrants further investigation in future work.
• Abstract（参考訳）: Arditi et al (2024) は、安全チューニングされたチャットモデルの拒絶は、残ストリーム内の1つの直線方向によって媒介され、有害かつ無害なアクティベーションの差分(DiM)によって回復可能であることを示した。 我々は、DiMベースの介入(アクティベーション加算と指向性アブレーション)と、Iterative Nullspace Projection(INLP)から派生した2つの介入(ヌルスペース投影と反ファクトフリップ)を5つのオープンウェイトチャットモデルで比較し、INLPがDiMに一致するか、よりリッチなパラメータ化がより微調整可能な介入をもたらすかどうかを問う。 INLP逆ファクトフリップは拒絶抑制に対するDiM方向のアブレーションと競合するが、ヌルスペース投影は一貫して弱い。 抽出した部分空間の先頭方向へのINLPの制限は、ほぼベースラインのパープレキシティにおける抑制効果の大部分を保存し、調整可能な能力を与える。 幾何的に、2つのINLP介入は、定性的に異なる活性化空間の領域に着地する: ヌルスペース投射崩壊は、有害で有害なクラスターの活性化を変換し、反ファクト的な反転はそれらを反対のクラスタに移し、モデルが反対のクラスタと異なる概念の欠如をコードしていることを示唆する。

関連論文リスト

• Dual-Stance Evaluation of Sycophancy: The Structure of Agreement and the Limits of Intervention [0.0]
  Llama-3-8B-Instruct上で,各トピックの両スタンスをテストし,遠心分離ステアリングに適用するデュアルスタンス評価を導入する。 モデルは幾何学的に異なる部分空間において空想的かつ事実的な一致を表すが、操舵方向は等しく両面に投影され、どちらも微分的標的にはならない。
  論文  参考訳（メタデータ） (2026-04-22T13:49:34Z)
• MirrorLA: Reflecting Feature Map for Vision Linear Attention [49.41670925034762]
  リニアアテンションはトランスフォーマーの2次から線形への計算複雑性を著しく低下させるが、パフォーマンスにおけるソフトマックスに基づくアテンションの遅れは一貫して遅れる。 我々は、受動トランケーションをアクティブなリオリエンテーションに置き換える幾何学的枠組みであるMirrorLAを提案する。 MirrorLAは標準的なベンチマークで最先端のパフォーマンスを実現し、表現の忠実さを損なうことなく厳密な線形効率を実現できることを示した。
  論文  参考訳（メタデータ） (2026-02-04T09:14:09Z)
• DeLeaker: Dynamic Inference-Time Reweighting For Semantic Leakage Mitigation in Text-to-Image Models [55.30555646945055]
  テキスト・ツー・イメージ(T2I)モデルはセマンティック・リークに対して脆弱である。 DeLeakerは、モデルのアテンションマップに直接介入することで、漏洩を緩和する軽量なアプローチである。 SLIMはセマンティックリークに特化した最初のデータセットである。
  論文  参考訳（メタデータ） (2025-10-16T17:39:21Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Decipher the Modality Gap in Multimodal Contrastive Learning: From Convergent Representations to Pairwise Alignment [6.276865284763687]
  マルチモーダルコントラスト学習は、異なるモーダルからのデータを共有埋め込み空間に埋め込むことを目的としている。 実験的な証拠は 異なるモダリティの表現が 埋め込み空間の 完全に別々の領域を占めることを示している 本稿では,MCLの収束最適表現とトレーニング最適化時のモーダリティアライメントを解析するための最初の理論的枠組みを紹介する。
  論文  参考訳（メタデータ） (2025-09-27T04:21:00Z)
• Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
  Amortized Posterior Smplingは、逆問題における効率的な後方サンプリングのための新しい変分推論手法である。 本手法は,拡散モデルにより暗黙的に定義された変動分布と後続分布とのばらつきを最小限に抑えるために条件付き流れモデルを訓練する。 既存の手法とは異なり、我々のアプローチは教師なしであり、ペア化されたトレーニングデータを必要としておらず、ユークリッドと非ユークリッドの両方のドメインに適用できる。
  論文  参考訳（メタデータ） (2024-07-25T09:53:12Z)
• Mitigate the Gap: Investigating Approaches for Improving Cross-Modal Alignment in CLIP [22.076206386214565]
  コントラスト言語-画像事前学習は、ゼロショット分類とクロスモーダル視覚言語タスクにおいて顕著に改善されている。 幾何学的な観点から、CLIP埋め込み空間は明らかにモダリティギャップを持つ。 本稿では,AlignCLIPが組込みのクロスモーダルアライメントにおいて顕著な拡張を実現していることを示す。
  論文  参考訳（メタデータ） (2024-06-25T15:24:02Z)
• Representation Surgery: Theory and Practice of Affine Steering [72.61363182652853]
  言語モデルは、しばしば好ましくない振る舞いを示す。 モデルが望ましくない振る舞いを示すのを防ぐための自然な(そして一般的な)アプローチの1つは、モデルの表現を操ることである。 本稿では, ステアリング機能の形式的および経験的特性について検討する。
  論文  参考訳（メタデータ） (2024-02-15T00:20:30Z)
• Rethink Maximum Mean Discrepancy for Domain Adaptation [77.2560592127872]
  本論文は,(1)最大平均距離の最小化は,それぞれソースとクラス内距離の最大化に等しいが,その差を暗黙の重みと共同で最小化し,特徴判別性は低下する,という2つの本質的な事実を理論的に証明する。 いくつかのベンチマークデータセットの実験は、理論的な結果の有効性を証明しただけでなく、我々のアプローチが比較した最先端手法よりも大幅に向上できることを実証した。
  論文  参考訳（メタデータ） (2020-07-01T18:25:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。