論文の概要: Steering Geometry: Validating Human Value Geometry in LLM Steering Space

• arxiv url: http://arxiv.org/abs/2609.06289v1
• Date: Sat, 05 Sep 2026 22:55:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.225455
• Title: Steering Geometry: Validating Human Value Geometry in LLM Steering Space
• Title（参考訳）: ステアリング幾何学: LLMステアリング空間における人的価値幾何学の検証
• Abstract要約: 大規模言語モデル(LLM)は、アライメントに敏感なコンテキストに徐々にデプロイされている。 本研究では, LLM ステアリングベクトルの潜時幾何学が, 人的価値と道徳性の理論的構造を反映しているかどうかを考察する。 分布駆動手法は, 理論的予測と一致した人的価値トポロジを復元する。
• 参考スコア（独自算出の注目度）: 14.117484627215804
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are increasingly deployed in alignment-sensitive contexts, activation steering has emerged as a lightweight, inference-time alternative to fine-tuning methods (e.g., RLHF, DPO) for behavioral control. However, existing work typically validates steering on isolated behaviors, leaving it unclear whether steering vectors encode coherent semantic structure or merely exploit behavior-specific shortcuts. We investigate whether the latent geometry of LLM steering vectors reflects theory-specified structure in human values and morality. Using Schwartz's Theory of Basic Human Values as our primary fine-grained framework, we introduce a 26K-sample benchmark covering 20 human values and analyze distribution-driven methods (e.g., CAA, SphericalSteer, ODESteer) and behavior-centric approaches (e.g., COLD-Steer, BiPO) across diverse model families and sizes. We find that distribution-driven methods recover human value topologies aligned with theoretical predictions (Spearman $ρ$ up to 0.51, $p < 10^{-13}$). In contrast, behavior-centric methods achieve comparable steering performance but show little correlation with the expected value geometry. Geometric fidelity improves with model scale but drops after instruction tuning. Finally, better geometric alignment also leads to more human-consistent transfer across values: steering one value correctly lifts compatible values and suppresses opposing ones. Code and data are available at: https://github.com/DeepRCL/Steering_Geometry.
• Abstract（参考訳）: 大規模言語モデル(LLM)がアライメントに敏感な状況に展開されるにつれて、アクティベーションステアリングは、振る舞い制御のための微調整法(例えば、RLHF、DPO)に代わる軽量な推論時間として登場した。 しかし、既存の研究は通常、孤立した振る舞いのステアリングを検証しており、ステアリングベクトルがコヒーレントな意味構造をコード化しているか、単に振る舞い固有のショートカットを利用するのかははっきりしない。 本研究では, LLM ステアリングベクトルの潜時幾何学が, 人的価値と道徳性の理論的構造を反映しているかどうかを考察する。 シュワルツのベーシック・ヒューマン・バリューの理論を主要なフレームワークとして用い、20人の人的価値をカバーし、分布駆動の手法(例:CAA、SphericalSteer、ODESteer)と行動中心のアプローチ(例:COLD-Steer、BiPO)を多種多様なモデルファミリとサイズで分析する26Kサンプル・ベンチマークを紹介した。 分布駆動法は, 理論的予測と一致した人的価値トポロジを復元する(Spearman $ρ$ 最大 0.51, $p < 10^{-13}$)。 対照的に、行動中心の手法は、同等な操舵性能を達成するが、期待値幾何とはほとんど相関がない。 幾何学的忠実度はモデルスケールで向上するが、指導調律後に低下する。 最後に、より優れた幾何学的アライメントは、1つの値のステアリングによって、互換性のある値が正しく持ち上げられ、対立する値が抑制される。 コードとデータは、https://github.com/DeepRCL/Steering_Geometry.comで入手できる。

関連論文リスト

• Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
  大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。 LLMは、マイナーな単語変更で予測不能に変動する。 この双対性を解決することは 信頼できるAIアライメントに 不可欠です
  論文  参考訳（メタデータ） (2026-09-15T03:35:04Z)
• When is Your LLM Steerable? [56.656180566692946]
  アクティベーションステアリングは、推論時に言語モデルの振る舞いを制御するための軽量なアプローチを提供する。 ステアリングを成功させる体制と境界を見つけるには、通常、高価なグリッドサーチが必要である。 生成プロセスの開始時にモデルの内部状態からステアビリティを予測できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-06-10T02:55:34Z)
• FishBack: Pullback Fisher Geometry for Optimal Activation Steering in Transformers [7.108048394322025]
  アクティベーションステアリング法は、出力の振る舞いを制御するために言語モデルの中間表現を変更するが、アクティベーション空間がユークリッドであることを普遍的に仮定する。 モデル自身の出力挙動によって誘導される局所幾何学は、GPT-2上の相対スペクトルノルムにおいて、ユークリッド計量から97%以上逸脱する。
  論文  参考訳（メタデータ） (2026-05-17T03:00:16Z)
• When Is Rank-1 Steering Cheap? Geometry, Granularity, and Budgeted Search [61.73232505100331]
  アクティベーションステアリングは、再トレーニングせずにLSMを制御する軽量な方法を提供するが、その効果は概念によって大きく異なる。 我々は介入層と係数に対する予算制約付き最適化としてランク1ステアリングを定式化する。 操作困難の原因の診断にアクティベーション幾何を利用するグラニュラリティおよび表現認識概念工学フレームワークである textitGRACE を提案する。
  論文  参考訳（メタデータ） (2026-05-09T14:26:49Z)
• Understanding Unreliability of Steering Vectors in Language Models: Geometric Predictors and the Limits of Linear Approximations [0.0]
  ステアリング信頼性が行動によって異なる理由と,ベクタートレーニングデータによる影響について検討する。 トレーニングアクティベーションの違いのコサイン類似度が高いと、より信頼性の高いステアリングが予測される。 操舵方向に沿って正負のアクティベーションがより分離された行動データセットは、より確実に操舵可能であることを観察する。
  論文  参考訳（メタデータ） (2026-02-19T22:37:05Z)
• Every Question Has Its Own Value: Reinforcement Learning with Explicit Human Values [53.72318444646282]
  RLEV(Reinforcement Learning with Explicit Human Values)を提案する。 RLEVは、Large Language Model (LLM) 最適化を直接、定量化された人間の値信号と整合させる。 RLEVは、複数のRLアルゴリズムとモデルスケールで、精度のみのベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2025-10-23T04:15:22Z)
• Aligning Distributionally Robust Optimization with Practical Deep Learning Needs [70.87757502315293]
  従来のLearning (DL)メソッドはすべてのサンプルを平等に扱うが、DROと現在のDLプラクティスの間には大きなギャップがある。 本稿では,重み付けグループを扱える改良DRO目標に対する適応アルゴリズムを導入することにより,このギャップを埋めることを目的とする。
  論文  参考訳（メタデータ） (2025-08-22T18:17:44Z)
• PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation [70.98107766265636]
  本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。 両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
  論文  参考訳（メタデータ） (2025-06-03T05:18:15Z)
• Bridging The Gap between Low-rank and Orthogonal Adaptation via Householder Reflection Adaptation [32.371755315509574]
  家庭内リフレクション適応法 (HRA) は, 家庭内リフレクションに基づく簡易かつ効果的な適応法である。 HRAは、大きな言語モデルと条件付き画像生成装置を適用する際に、学習可能なパラメータが少なくて優れた性能を実現する。
  論文  参考訳（メタデータ） (2024-05-24T16:18:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。