論文の概要: From Direction to Magnitude: How Multimodal Instruction-Tuning Reorganizes the Geometric Encoding of Identity-Specifying Prompts in Transformer Hidden States
- arxiv url: http://arxiv.org/abs/2607.09842v1
- Date: Fri, 10 Jul 2026 17:22:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.228017
- Title: From Direction to Magnitude: How Multimodal Instruction-Tuning Reorganizes the Geometric Encoding of Identity-Specifying Prompts in Transformer Hidden States
- Title（参考訳）: 方向からマグニチュード:マルチモーダルインストラクション・チューニングが変圧器隠蔽状態におけるアイデンティティ特定プロンプトの幾何学的エンコーディングをいかに再構成するか
- Abstract要約: 本研究では、4つのオープンウェイトトランスフォーマー言語モデルの隠れ状態軌跡において、アイデンティティ特定システムが統計的に識別可能な幾何学的指紋を生成するか否かを検討する。
kNN軌跡グラフ上のOllivier-Ricci曲率のエッジワイド間の1-ワッサーシュタイン距離の5つの指標によって、3つの急条件が比較される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We investigate whether identity-specifying system prompts produce statistically distinguishable geometric fingerprints in the hidden-state trajectories of four open-weight transformer language models spanning four post-training regimes: no training (Gemma-4-E4B base), multimodal RLHF (Gemma-4-E4B-it), RL distillation (DeepSeek-R1-Distill-Qwen-7B), and SFT (Qwen2.5-7B-Instruct). Three prompt conditions (an identity-specifying axis prompt, a length-matched generic-assistant prompt, and a 26-token vanilla baseline) are compared via five geometric metrics, principally the 1-Wasserstein distance between edge-wise distributions of Ollivier-Ricci curvature on k-NN trajectory graphs. Claims rest on trajectory-level permutation tests with multiple geometric controls (teacher-forced content controls, temporal-chain vs k-NN topology, ABT-projected k-NN, angular vs Euclidean graph construction, B=5000 permutations on borderline statistics). The central finding is a qualitative reorganization of identity encoding across the instruction-tuning boundary: in the base model the fingerprint is direction-coded (separation 0.034, p=0.002 under angular k-NN); in the multimodal instruction-tuned model it migrates into the magnitude (angular separation collapses to p=0.439 while Euclidean survives at p=0.042, and the mean norm of the first generated state inverts its length-ordering, being lowest for the identity prompt). This direction-to-magnitude reorganization is specific to the multimodal instruction-tuning regime, absent under RL distillation and SFT. A teacher-forced control attributes ~30% of the free-running cosine signal to prompt-driven effects. We position W_1 on edge-wise Ollivier-Ricci distributions on k-NN trajectory graphs as a methodological contribution of independent interest.
- Abstract（参考訳）: 個人識別システムは,訓練後の4つの規則(Gemma-4-E4Bベース),マルチモーダルRLHF(Gemma-4-E4B-it),RL蒸留(DeepSeek-R1-Distill-Qwen-7B),SFT(Qwen2.5-7B-Instruct))にまたがる4つのオープンウェイトトランスフォーマー言語モデルの隠れ状態軌跡において,統計的に識別可能な幾何学的指紋を生成するか否かを検討する。
k-NN軌跡グラフ上のOllivier-Ricci曲率の辺方向分布間の1-ワッサーシュタイン距離という,3つのプロンプト条件(アイデンティティ特定軸プロンプト,長さマッチングされたジェネリックアシスタントプロンプト,26-トケンバニラベースライン)を比較した。
複数の幾何学的制御を持つ軌跡レベルの置換試験(教師強化コンテンツ制御、時間鎖対k-NNトポロジー、ABTプロジェクションk-NN、角対ユークリッドグラフ構築、境界線統計上のB=5000置換)に依拠する。
基本モデルでは指紋は方向コード化され(角k-NNの下では0.034, p=0.002)、多モードの命令調整モデルでは大きさに移行する(角分離はp=0.439に崩壊し、ユークリッドはp=0.042で生存し、第1生成状態の平均ノルムはその長さ順序を逆転し、アイデンティティプロンプトで最低となる)。
この方向から方向への再構成は、RL蒸留およびSFTの下で欠如しているマルチモーダル命令チューニング体制に特有である。
教師が強制する制御は、フリーランのコサイン信号の30%を、即発的な効果に割り当てる。
我々は、k-NNトラジェクトリグラフ上のエッジワイドOllivier-Ricci分布にW_1を、独立利害の方法論的寄与として位置づける。
関連論文リスト
- Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳（メタデータ） (2026-08-17T09:53:27Z) - A matched-integrator evaluation of Hamiltonian neural networks on pendulum and Kepler dynamics [0.0]
ハミルトニアンニューラルネットワーク(HNN)は、学習されたスカラーハミルトニアンを通して保守的な力学をパラメータ化する。
我々は、HNNとパラメータマッチングされたフィードフォワードベースラインをトレーニングする制御プロトコルの下で、この事前評価を行う。
結果は5種以上の独立した訓練種が報告されている。
論文 参考訳（メタデータ） (2026-08-10T21:12:52Z) - Eikonal Regularisation in Physics-Informed Neural Networks for Three-Dimensional Level-Set Advection: Transferability of Two-Dimensional Design Principles [0.0]
我々は、単体から$|nabla|$の偏差を計算するために、偶数正規化器を実装している。
我々は、同一のグリッドとエラー対策について、5階のWENOソルバに対してベンチマークを行った。
相対的な$L$誤差は薄い特徴の保存を証明できないことを示す。
論文 参考訳（メタデータ） (2026-08-08T20:20:13Z) - The Complexity Ceiling Benchmark: A Multi-Domain Evaluation of Sequential Reasoning Under Depth Scaling [8.616356693448987]
本稿では,言語モデル推論の減衰の制御された評価法である複雑性シーリングベンチマーク(CCB)を紹介する。
CCBはタスクのセマンティックな内容を修正し、その深さ N は3つの構造的に異なる状態に対して 5,...,50 でしか変化しない。
広く区切られた領域天井で幾何毎の崩壊のパターンが一貫することがわかった。
論文 参考訳（メタデータ） (2026-06-28T08:56:34Z) - GeoRouteNet: Geometry-Enhanced Non-Autoregressive Neural Solver for the Traveling Salesman Problem [5.202950948929751]
GeoRouteNetはユークリッド旅行セールスマン問題(TSP)のための幾何学強化ニューラルネットワークである
モデル側では、GeoRouteNetには、中心ノード機能、学習可能なラジアル距離基底関数、距離対応グラフアテンション、LayerNorm-SwiGLUフィードフォワードブロック、層間減衰残エンコーダミキシングが組み込まれている。
トレーニング側では,インスタンス毎に複数の候補ツアーを抽出するマルチ候補自己比較強化学習(MCS-RL)を設計する。
論文 参考訳（メタデータ） (2026-06-22T02:31:22Z) - Trajectory Geometry of Transformer Representations Across Layers [0.5599792629509229]
我々は、トランスフォワードパスを高次元表現多様体を通して離散的な集団軌道として再キャストする。
周辺空間で直接計算された5つの測度を用いて軌道幾何学を特徴付ける。
論文 参考訳（メタデータ） (2026-06-08T09:54:07Z) - Dead Directions: Geometric Singular Learning [0.0]
特異学習理論と情報幾何学は、主に別々の語彙で同じパラメータ空間を研究してきた。
我々はそれらを1つのプリミティブ、デッド方向、すなわちフィッシャー計量が退化する単位ベクトルを通してブリッジする。
滑らかな繊維上の選択規則は、この速度を実対数正準しきい値に対する渡辺の単一方向寄与に変換する。
多層K-FAC分解は、各フィッシャーブロックをアクティベーションと勾配側率の積として記述する。
論文 参考訳（メタデータ） (2026-06-04T09:54:08Z) - Structure-Informed Estimation for Pilot-Limited MIMO Channels via Tensor Decomposition [51.56484100374058]
本稿では、スパース観測から低ランクテンソル完備化としてパイロットリミテッドチャネル推定を定式化する。
合成チャネル実験による最小二乗平均二乗誤差(NMSE)の最小二乗平均誤差(LS)に対する改善
DeepMIMO線トレーシングチャネルの評価では、純粋なテンソル法よりも24-44%NMSEが減少している。
論文 参考訳（メタデータ） (2026-02-03T23:38:05Z) - Variational Bayesian Flow Network for Graph Generation [54.94088904387278]
グラフ生成のための変分ベイズフローネットワーク(VBFN)を提案する。
VBFNは、構造化精度で支配されるトラクタブルジョイントガウス変分信念ファミリーに対して変分リフトを行う。
合成グラフと分子グラフのデータセットでは、VBFNは忠実度と多様性を改善し、ベースライン法を超えている。
論文 参考訳（メタデータ） (2026-01-30T03:59:38Z) - Scalable Graph Compressed Convolutions [68.85227170390864]
ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。
グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
論文 参考訳（メタデータ） (2024-07-26T03:14:13Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Relative Pose from SIFT Features [50.81749304115036]
基本行列の未知元と向きとスケールに関する新しい線形制約を導出する。
提案した制約は、合成環境における多くの問題と、80000以上の画像ペア上で公開されている実世界のデータセットでテストされる。
論文 参考訳（メタデータ） (2022-03-15T14:16:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。