論文の概要: Riemannian-Manifold Steering: Geometry-Aware Generative Autoencoders for Label-Free Steering

• arxiv url: http://arxiv.org/abs/2605.24942v1
• Date: Sun, 24 May 2026 08:41:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.529613
• Title: Riemannian-Manifold Steering: Geometry-Aware Generative Autoencoders for Label-Free Steering
• Title（参考訳）: Riemannian-Manifold Steering: ラベルフリーステアリングのための幾何型生成オートエンコーダ
• Authors: Narmeen Oozeer, Shivam Raval, Philip Quirke, Manikandan Ravikiran, Jeff Phillips, Shriyash Upadhyay, Amirali Abdullah,
• Abstract要約: 我々は、活性化空間上のtextbfRiemann 測地線計算として多様体のステアリングをリキャストする。 我々はこれを、小さな概念整合スキーマ上で出力距離を訓練した学習エンコーダと近似する。
• 参考スコア（独自算出の注目度）: 3.854000879223449
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Steering a language model - intervening on its internal activations to change downstream behaviour - has recently expanded beyond linear interpolation to nonlinear methods such as angular and kernelized steering, which define intervention transformations without learning an explicit geometry over paths in activation space. Freshly introduced geometry-aware manifold methods do learn such a geometry, but require labelled class centroids together with prescribed cyclic or sequential structure. These assumptions restrict where manifold steering can be applied, since existing constructions require labelled centroids and compatible boundary conditions. We recast manifold steering more broadly as \textbf{Riemannian geodesic computation} on activation space, recovering linear and labelled-spline steering as geodesics under particular choices of metric. A principled metric within this framework is the output-space Hellinger distance pulled back to activations; we approximate this with a learned encoder trained on output distances over a small concept-token schema - no per-prompt labels, no topology prior, and no per-task curve fitting. Empirically, the method reliably drives the model onto the target class across all tasks in a standard four-task language-model arithmetic benchmark, while following more behaviourally natural trajectories than baselines on smaller output spaces. We thereby provide a unified Riemannian framework for manifold steering together with a schema-supervised, label-free instantiation that operates without labelled centroids or prescribed boundary conditions.
• Abstract（参考訳）: 言語モデルのステアリング - 下流の振る舞いを変えるための内部のアクティベーションに介入する - は、最近、線形補間を超えて、角やカーネル化ステアリングのような非線形メソッドへと拡張された。 新しく導入された幾何対応多様体法はそのような幾何学を学習するが、所定の巡回構造やシーケンシャル構造とともにラベル付きクラスセントロイドを必要とする。 これらの仮定は、既存の構成ではラベル付きセントロイドと互換性のある境界条件を必要とするため、多様体のステアリングが適用できる場所を制限する。 活性化空間上では、より広い範囲で多様体ステアリングを「textbf{Riemannian geodesic calculation}」として再キャストし、計量の特定の選択の下で線型およびラベル付きスプラインステアリングを測地学として回収する。 このフレームワークの基本的な測定基準は、出力空間のHellinger距離をアクティベーションに引き戻すことであり、これを小さなコンセプトトーケンスキーマよりも出力距離で訓練された学習エンコーダと近似する。 実験的に、この手法は標準の4タスク言語モデル計算ベンチマークにおいて、全てのタスクでターゲットクラスにモデルを確実に駆動する一方で、より小さな出力空間のベースラインよりも自然な振る舞いを追従する。 そこで我々は、ラベル付きセントロイドや所定の境界条件を使わずに動作するスキーマ制御されたラベルなしインスタンス化とともに、多様体ステアリングのための統一リーマン的フレームワークを提供する。

関連論文リスト

• A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
  本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。 MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。 合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-05-05T20:19:09Z)
• Directional Mollification for Controlled Smooth Path Generation [2.6381163133447836]
  モーフィフィケーションは近年,経路生成のための計算効率が高く,解析的に抽出可能なツールとして提案されている。 我々は,古典的な軟化の分析的トラクタ性を保ちながら,この制限を解消する新しい演算子である指向性軟化を導入する。
  論文  参考訳（メタデータ） (2026-03-23T11:18:43Z)
• Curveball Steering: The Right Direction To Steer Isn't Always Linear [7.264147948470562]
  アクティベーションステアリング(Activation steering)は、内部表現に介入して大きな言語モデル(LLM)の振る舞いを制御するために広く用いられるアプローチである。 本稿では,PCAカーネルをベースとした非線形ステアリング手法であるCurveball steeringを提案する。
  論文  参考訳（メタデータ） (2026-03-10T07:45:35Z)
• Riemannian Flow Matching for Disentangled Graph Domain Adaptation [51.98961391065951]
  グラフドメイン適応(GDA)は典型的には、ユークリッド空間におけるグラフ埋め込みの整列に逆学習を使用する。 DisRFMは、埋め込みとフローベースのトランスポートを統一する幾何学的なGDAフレームワークである。
  論文  参考訳（メタデータ） (2026-01-31T11:05:35Z)
• Enforcing Latent Euclidean Geometry in Single-Cell VAEs for Manifold Interpolation [79.27003481818413]
  離散的様相変分オートエンコーダの潜在多様体をユークリッド幾何学へ正規化する訓練フレームワークであるFlatVIを紹介する。 遅延空間の直線を復号化された単セル多様体上の測地線に近似させることで、FlatVIは下流アプローチとの整合性を高める。
  論文  参考訳（メタデータ） (2025-07-15T23:08:14Z)
• Thinner Latent Spaces: Detecting Dimension and Imposing Invariance with Conformal Autoencoders [8.743941823307967]
  ネットワークの潜在層内の直交関係を利用して、非線形多様体データセットの内在次元性を推定できることを示す。 微分幾何学に依拠する関係理論を概説し、対応する勾配偏光最適化アルゴリズムについて述べる。
  論文  参考訳（メタデータ） (2024-08-28T20:56:35Z)
• Curve Your Attention: Mixed-Curvature Transformers for Graph Representation Learning [77.1421343649344]
  本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。 また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
  論文  参考訳（メタデータ） (2023-09-08T02:44:37Z)
• Semi-Supervised Manifold Learning with Complexity Decoupled Chart Autoencoders [45.29194877564103]
  本研究は、クラスラベルなどの半教師付き情報を付加できる非対称符号化復号プロセスを備えたチャートオートエンコーダを導入する。 このようなネットワークの近似力を議論し、周囲空間の次元ではなく、本質的にデータ多様体の内在次元に依存する境界を導出する。
  論文  参考訳（メタデータ） (2022-08-22T19:58:03Z)
• Learning Flat Latent Manifolds with VAEs [16.725880610265378]
  本稿では、ユークリッド計量がデータポイント間の類似性のプロキシとなる変分自動エンコーダのフレームワークの拡張を提案する。 我々は、変分オートエンコーダで一般的に使用されるコンパクトな以前のものを、最近発表されたより表現力のある階層型に置き換える。 提案手法は,ビデオ追跡ベンチマークを含む,さまざまなデータセットを用いて評価する。
  論文  参考訳（メタデータ） (2020-02-12T09:54:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。