論文の概要: Information-Theoretic Design of Sparse Autoencoder-Based Steering

• arxiv url: http://arxiv.org/abs/2611.01378v1
• Date: Sun, 01 Nov 2026 00:33:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.470459
• Title: Information-Theoretic Design of Sparse Autoencoder-Based Steering
• Title（参考訳）: スパースオートエンコーダを用いたステアリングの情報理論設計
• Abstract要約: スパースオートエンコーダ(SAE)ベースのアクティベーションステアリングは、大規模言語モデルの振る舞いを変更するための軽量なアプローチである。 本研究では,経験的特徴量分布を用いたSAE活性化分析のための情報理論フレームワークを開発した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sparse autoencoder (SAE)-based activation steering is a lightweight approach for modifying the behavior of large language models (LLMs) by adding small vectors to hidden states during inference. However, designing effective steering interventions remains challenging. In this work, we develop an information-theoretic framework for analyzing SAE activations through empirical feature-firing distributions. The central object of the framework is the Jensen--Shannon divergence (JSD) between such firing distributions, which quantifies how far a generated or intervened state deviates from a dataset-induced target distribution. Based on an analytic divergence response for virtually shifted states, we construct steering vectors toward the target firing distribution. The same divergence can also be used to monitor deviation from another empirical distribution, such as a general valid-language distribution. We demonstrate the effectiveness of the steering in a question-mode generation task study. We further use teacher-forced pulse experiments to show that local interventions induce structured downstream JSD responses in later layers, and apply the framework to a safety-related target--contrast response setting for feature analysis.
• Abstract（参考訳）: スパースオートエンコーダ(SAE)ベースのアクティベーションステアリングは、推論中に隠れ状態に小さなベクトルを追加することで、大きな言語モデル(LLM)の振る舞いを変更するための軽量なアプローチである。 しかし、効果的なステアリングの介入を設計することは依然として困難である。 本研究では,経験的特徴フィリング分布を用いてSAE活性化を解析するための情報理論フレームワークを開発する。 フレームワークの中心的な対象は、これらの焼成分布間のJensen-Shannon分散(JSD)である。 仮想的にシフトした状態に対する解析的発散応答に基づいて, 目標発火分布に対する操舵ベクトルを構築した。 同じ発散は、一般的な有効な言語分布など、他の経験的分布からの逸脱を監視するためにも用いられる。 質問モード生成タスクスタディにおいて、ステアリングの有効性を実証する。 さらに, 教師によるパルス実験により, 局所的介入が後層における構造的下流JSD応答を誘導することを示すとともに, 特徴解析のための安全関連ターゲット-コントラスト応答設定にフレームワークを適用した。

関連論文リスト

• Benchmarking Generative Trajectory Models for Active-Inference Control [8.861374813557214]
  軌道上のデモンストレーションから学ぶことは、複雑なシステムの能動的推論制御への経路を提供する。 本稿では,1つの生成軌道モデルが実演から学習し,行動介入を測定するジェネラティブアクティブ推論制御(GenAIF)を紹介する。
  論文  参考訳（メタデータ） (2026-10-05T02:09:37Z)
• Look But Don't Touch with Sparse Autoencoders for Unlearning in Diffusion Models [11.366541829206199]
  概念レベルの操作のための解釈可能なツールとしてスパースオートエンコーダ(SAE)が提案されている。 SAEは拡散モデル活性化のセマンティック概念を確実に検出・ローカライズするが、その潜在空間への直接的介入はしばしば分布外活性化を誘導する。 我々は、SAEアクティベーションを純粋にセマンティック検出器として使用し、ターゲットオブジェクトを含むイメージ領域を特定し、それらのパッチ埋め込みを、それを含まない領域に置き換える。
  論文  参考訳（メタデータ） (2026-06-30T14:09:28Z)
• Faithful Bi-Directional Model Steering via Distribution Matching and Distributed Interchange Interventions [37.08071497197165]
  インターベンションベースのモデルステアリングは、プロンプトと微調整のための軽量で解釈可能な代替手段を提供する。 本研究では,分散アライメント探索の原理に基づいて,新しいステアリング手法である概念DASを提案する。 概念DASは必ずしも選好最適化法より優れるわけではないが、モデルスケールの増大により恩恵を受ける可能性があることを示す。
  論文  参考訳（メタデータ） (2026-02-05T02:51:00Z)
• Model Specific Task Similarity for Vision Language Model Selection via Layer Conductance [92.72779885657373]
  本稿では,視覚エンコーダの内部関数力学におけるモデル選択の基盤となるフレームワークを提案する。 提案手法は,各タスクをレイヤワイドコンダクタンスにより表現し,エントロピー正規化アライメントによる目標条件付きブロック重要度分布を導出する。 そこで本研究では,DCD(Directional Conductance Divergence)という,ソースタスクが対象の機能ブロックをいかに効果的にカバーするかを定量化する非対称な指標を提案する。
  論文  参考訳（メタデータ） (2026-02-01T17:29:43Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Interactive Autonomous Navigation with Internal State Inference and Interactivity Estimation [58.21683603243387]
  本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。 これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。 提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-27T18:57:42Z)
• Control-Aware Prediction Objectives for Autonomous Driving [78.19515972466063]
  本研究では,制御に対する予測の下流効果を評価するための制御認識予測目標(CAPOs)を提案する。 本稿では,エージェント間の注意モデルを用いた重み付けと,予測軌跡を接地真実軌跡に交換する際の制御変動に基づく重み付けの2つの方法を提案する。
  論文  参考訳（メタデータ） (2022-04-28T07:37:21Z)
• Unsupervised Controllable Generation with Self-Training [90.04287577605723]
  GANによる制御可能な世代は依然として困難な研究課題である。 本稿では,自己学習を通じてジェネレータを制御する潜伏符号の分布を学習するための教師なしフレームワークを提案する。 我々のフレームワークは、変分オートエンコーダのような他の変種と比較して、より良い絡み合いを示す。
  論文  参考訳（メタデータ） (2020-07-17T21:50:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。