論文の概要: Activation Flow: Manufacturing Activations for Steering
- arxiv url: http://arxiv.org/abs/2609.32530v2
- Date: Fri, 02 Oct 2026 20:23:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 05:58:41.928169
- Title: Activation Flow: Manufacturing Activations for Steering
- Title（参考訳）: アクティベーションフロー:ステアリングのための製造アクティベーション
- Abstract要約: Activation Flow (ActFlow)は、微調整なしで$k$の正確なラベルから差分ステアリングアクティベーションを製造している。
我々は、サンドバッグングプロンプトとパスワードロックされたLoRAによってロックされた3つの命令調整モデル上でActFlowをテストする。
- 参考スコア（独自算出の注目度）: 2.3185929089334594
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Difference-in-means steering requires activations recorded while a model shows the desired behavior, which a sandbagging model withholds by deliberately underperforming. We introduce Activation Flow (ActFlow), which manufactures these activations from $k$ correct labels without fine-tuning. ActFlow sets target logits that rank each labeled item's correct answer first, and moves the logits toward them by adding one vector $x$ to all $k$ residual streams at one layer. ActFlow is a family of ordinary differential equations for $x$, one for each rule that maps the required logit change to the velocity of $x$. The smallest-norm rule lands exactly on the targets, while the others keep only the top singular directions of the Jacobian. We test ActFlow on three instruction-tuned models, each locked by a sandbagging prompt and by a password-locked LoRA. At $k=40$, ActFlow keeping five singular directions raises the mean held-out ARC-Easy accuracy over the six locked models from $0.05$ to $0.85$, against $0.88$ for rank-$16$ LoRA fine-tuning, which trains about $3{,}000$ times as many parameters, and $0.92$ for the honest models. Furthermore, it scores higher than the smallest-norm rule in 16 of the 18 combinations of locked model and $k$, and its steering direction is nearly orthogonal to the honest difference-in-means direction. It also unlocks two LoRA locks where the honest direction fails. Surprisingly, with one labeled item, the single-step smallest-norm rule raises the Qwen2.5-7B prompt lock from $0.04$ to $0.59$.
- Abstract（参考訳）: 差分ステアリングは、モデルが望ましい振る舞いを示しながらアクティベーションを記録する必要があり、サンドバッグモデルは故意に過小評価することで保持する。
アクティベーションフロー(ActFlow)を導入し、微調整なしで$k$の正確なラベルからこれらのアクティベーションを製造する。
ActFlowは、ラベル付きアイテムの正しい回答を最初にランク付けするターゲットロジットを設定し、そのロジットを1つの層に1つのベクトル$x$をすべての$k$残ストリームに追加することで、それらに向かって移動させる。
ActFlow は x$ の通常の微分方程式の族であり、必要なロジット変化を $x$ の速度にマッピングする各規則に対して 1 である。
最小のノルム法則はターゲットに正確に着地するが、他の法則はヤコビアンの最高特異方向のみを保持する。
ActFlowを3つの命令調整モデルでテストし、それぞれがサンドバッグのプロンプトでロックされ、パスワードでロックされたLoRAによってロックされる。
6つのロックされたモデルの平均値が$0.05$から$0.85$、ランクが$0.88$、ランクが$16$のLoRAファインチューニングが$3{,}000$、正直なモデルが$0.92$である。
さらに、ロックされたモデルと$k$の組み合わせのうち16の最小ノルム法則よりも高く、その操舵方向は正直な差分方向とほぼ直交する。
また、2つのLoRAロックをアンロックする。
驚いたことに、ラベル付きアイテムが1つあれば、Qwen2.5-7Bプロンプトロックは0.04ドルから0.59ドルになる。
関連論文リスト
- REFACTOR-VLA: Unsupervised Library Learning of Typed Motor Programs [0.0]
ほとんどの視覚言語アクション(VLA)モデルはモノリシックである。
本稿では、再利用可能なスキルを学習するためのウェイク/スリープモデルシステムであるREFACTOR-VLAを紹介する。
論文 参考訳（メタデータ） (2026-09-01T13:19:05Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳（メタデータ） (2026-08-01T13:49:46Z) - The Automaton Underneath: The Additive Input Pathway Is a Parasitic Attractor for State Tracking in Householder Linear RNN [0.0]
入力依存型Housester-product transitions(DeltaNet/DeltaProduct-class)を持つ線形RNNは、ハードステートトラッキングオートマトンを確実に表現できる。
1つの項が削除された同じモデル -- 付加的なインジェクション$b_t = W_b e_t$。
b_t$の場合、モデルは長さ32に収まり、パリティ、$S_4$、$A_5$、および非解決可能な$S_5$のワード問題で分配される。
論文 参考訳（メタデータ） (2026-07-16T02:52:00Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳（メタデータ） (2026-05-09T22:27:31Z) - TACT: Mitigating Overthinking and Overacting in Coding Agents via Activation Steering [70.99933391739154]
我々は、エージェントが既に持っている情報に対して繰り返し理由付けを行う2つの障害モードと、最近の観察を統合したり、新たな証拠を取得することなくツールコールを発行する2つの障害モードに焦点を当てる。
本稿では,活性化ステアリングによるTACT (Think-Act via activation Steering) を導入し,動作不良として現れる前に残留流中のエージェントの漂流を検知・緩和する。
具体的には、軌道のステップを過度に考え、過剰に実行し、あるいは校正し、隠れた状態が2つの *drift 軸* に沿って線形に分離できることを発見し、それぞれの障害モードに向かって校正された振る舞いを指示する。
論文 参考訳（メタデータ） (2026-05-07T10:24:27Z) - Predicting Where Steering Vectors Succeed [1.5567685129899713]
リニアプロファイル(LAP)は,ロジットレンズを予測ベクトルの有効性として再利用した,層ごとの診断である。
主要な測度である$A_mathrmlin$は、モデルのアン埋め込み行列を中間隠れ状態に適用し、トレーニングを必要としない。
3つの登録フレームワークは、平均的なステアリングの違いがいつ機能するか、非線形メソッドが必要か、メソッドが動作しないのかを説明している。
論文 参考訳（メタデータ） (2026-04-16T22:18:59Z) - Self-Improving World Modelling with Latent Actions [53.93276450137471]
世界の内部モデリングは推論と計画に不可欠である。
状態のみのシーケンスから学習する自己改善フレームワークSWIRLを提案する。
論文 参考訳（メタデータ） (2026-02-05T19:04:41Z) - AlphaFlow: Understanding and Improving MeanFlow Models [74.64465762009475]
その結果,MeanFlowの目的は,トラジェクティブフローマッチングとトラジェクトリ一貫性という2つの部分に分けられることがわかった。
これらの知見に触発されて、軌跡フローマッチング、ショートカットモデル、MeanFlowを統一する目的の広いファミリーである$alpha$-Flowを紹介した。
クラス条件のImageNet-1K 256x256をバニラのDiTバックボーンでスクラッチからトレーニングすると、$alpha$-Flowはスケールと設定でMeanFlowを一貫して上回る。
論文 参考訳（メタデータ） (2025-10-23T17:45:06Z) - Towards Understanding and Improving GFlowNet Training [71.85707593318297]
本稿では,学習したサンプリング分布と目標報酬分布を比較するための効率的な評価手法を提案する。
本稿では,高解像度のx$,相対的エッジフローポリシーのパラメータ化,新しい軌道バランス目標を提案する。
論文 参考訳（メタデータ） (2023-05-11T22:50:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。