論文の概要: Controlling Refusal Behavior of LLMs via Stiefel-Constrained Rotation Steering

• arxiv url: http://arxiv.org/abs/2608.30986v1
• Date: Mon, 31 Aug 2026 15:43:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.488258
• Title: Controlling Refusal Behavior of LLMs via Stiefel-Constrained Rotation Steering
• Title（参考訳）: Stiefel-Constrained Rotation SteeringによるLCMの拒絶挙動の制御
• Abstract要約: パラメータ効率のよい回転変換を学習するための自己完結型手法を開発した。 提案手法を実証的に検証し,介入効率の優位性を実証した。 提案手法は, LLMの挙動をより信頼性の高い制御を行う上で, 提案手法を有望な方向とみなす。
• 参考スコア（独自算出の注目度）: 41.986377298239525
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Activation steering has emerged as a lightweight approach for controlling model refusal at inference time. A growing line of research explores trainable rotations of activations to develop geometrically principled intervention mechanisms. However, existing techniques rely on auxiliary constructs, such as refusal vectors, to define these rotations. In our work, we develop a self-contained methodology for learning parameter-efficient rotational transformations based on Riemannian optimization. We empirically validate the proposed scheme, demonstrating its superiority in intervention efficiency. An extensive ablation study highlights the importance of key design choices in our method. Our results identify the proposed rotation-based steering scheme as a promising direction for more reliable control over the behavior of LLMs.
• Abstract（参考訳）: アクティベーションステアリングは、推論時にモデル拒絶を制御するための軽量なアプローチとして登場した。 増加する研究のラインは、幾何学的に原理化された介入メカニズムを開発するために、アクティベーションのトレーニング可能な回転を探索する。 しかし、既存の手法はこれらの回転を定義するために、リファレルベクトルのような補助的な構成に依存している。 本研究では,リーマン最適化に基づくパラメータ効率な回転変換を学習するための自己完結型手法を開発した。 提案手法を実証的に検証し,介入効率の優位性を実証した。 広範囲にわたるアブレーション研究は、我々の方法における重要な設計選択の重要性を強調している。 提案手法は, LLMの挙動をより信頼性の高い制御を行う上で, 提案手法を有望な方向とみなす。

関連論文リスト

• Retraction-Free Optimization over the Stiefel Manifold for the LoRA Fine-Tuning [17.71677083154088]
  Stiefel上のデータセットは、さまざまな機械学習タスクで重要な役割を果たす。 既存の方法は多様体作用素を使い、大規模行列に対してコストのかかる正則化を必要とするか、あるいは多様体のチューニング法を用いる。
  論文  参考訳（メタデータ） (2026-07-28T05:22:39Z)
• Activation Steering Induces Emergent Misalignment: A More Comprehensive Evaluation [74.17379276939599]
  近年のQwen-3.5シリーズにおいても,アクティベーションステアリングが広範囲のアライメントを引き起こすことが示されている。 ステアリングサイズ, ステアリングサブスペースの低ランク構造, ステアリングベクター構築時のエポック数など, キーステアリング固有の因子を解析することにより, AS誘起EMの特性を特徴づける。
  論文  参考訳（メタデータ） (2026-06-07T15:34:59Z)
• Learning Structured Reasoning via Tractable Trajectory Control [99.75278337895024]
  Ctrl-Rは、トラクタブルな軌道制御を通じて構造化推論を学ぶためのフレームワークである。 Ctrl-Rは,従来達成できなかった推論パターンを効果的に探索し,内部化することができることを示す。
  論文  参考訳（メタデータ） (2026-03-02T09:18:19Z)
• ODESteer: A Unified ODE-Based Steering Framework for LLM Alignment [49.68063561145927]
  活性化ステアリングのための統一常微分方程式(ODE)に基づく理論的枠組みを提案する。 本稿では,バリア関数によって誘導されるODEベースのステアリングの一種であるODESteerを紹介する。 最先端のアクティベーションステアリング手法と比較すると、ODESteerは一貫した経験的改善を実現している。
  論文  参考訳（メタデータ） (2026-02-19T17:13:44Z)
• ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
  低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。 常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。 ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
  論文  参考訳（メタデータ） (2026-02-07T10:19:36Z)
• Equivariant Goal Conditioned Contrastive Reinforcement Learning [5.019456977535218]
  Contrastive Reinforcement Learning (CRL)は、ラベルのない相互作用から有用な構造化表現を抽出するための有望なフレームワークを提供する。 等変制約を用いた潜在空間をさらに構造化する等変CRLを提案する。 我々のアプローチは、状態ベースと画像ベースの両方の設定において、さまざまなシミュレーションタスクにおいて、強いベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2025-07-22T01:13:45Z)
• Householder Pseudo-Rotation: A Novel Approach to Activation Editing in LLMs with Direction-Magnitude Perspective [32.12158544745983]
  本稿では,アクティベーションをその方向や大きさで見る新しい編集手法を提案する。 提案手法は,HPR (Houseer Pseudo-Rotation) と呼ばれ,回転変換を模倣し,アクティベーション基準を保ち,様々な安全ベンチマークの性能を向上させる。
  論文  参考訳（メタデータ） (2024-09-16T07:29:40Z)
• ASR: Attention-alike Structural Re-parameterization [53.019657810468026]
  本稿では,アテンション機構の有効性を享受しながら,与えられたネットワークに対してSRPを実現するための,シンプルなアテンション型構造的再パラメータ化(ASR)を提案する。 本稿では,統計的観点から広範囲にわたる実験を行い,Stripe Observationという興味深い現象を発見し,チャネル注意値が訓練中に一定のベクトルに素早く接近することを明らかにする。
  論文  参考訳（メタデータ） (2023-04-13T08:52:34Z)
• A Data-Driven Model-Reference Adaptive Control Approach Based on Reinforcement Learning [4.817429789586126]
  ここではモデル参照適応解が自律系に対して開発され、ハミルトン・ヤコビ・ベルマン方程式の誤差に基づく構造を解く。 これは、制御戦略におけるプロセスまたは参照モデルのダイナミクスを知らずにリアルタイムに行われる。
  論文  参考訳（メタデータ） (2023-03-17T14:10:52Z)
• Reinforcement Learning for Low-Thrust Trajectory Design of Interplanetary Missions [77.34726150561087]
  本稿では, 惑星間軌道のロバスト設計における強化学習の適用について検討する。 最先端アルゴリズムのオープンソース実装が採用されている。 その結果得られた誘導制御ネットワークは、堅牢な名目的軌道と関連する閉ループ誘導法の両方を提供する。
  論文  参考訳（メタデータ） (2020-08-19T15:22:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。