論文の概要: SFT Leaves a Reproducible Signature in Activation Geometry: Calibrating Post-Training Interpretability Against Run-to-Run Noise
- arxiv url: http://arxiv.org/abs/2610.17093v2
- Date: Wed, 21 Oct 2026 16:29:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 09:50:43.127423
- Title: SFT Leaves a Reproducible Signature in Activation Geometry: Calibrating Post-Training Interpretability Against Run-to-Run Noise
- Title（参考訳）: SFTはアクティベーション幾何学における再現可能なシグナチャを残している: ラン・トゥ・ランノイズに対する訓練後の解釈可能性の校正
- Abstract要約: 基本$to$SFTは、4つの独立したLoRA-SFTラン間の平均距離を超える17.8対距離のSDをグラフに置き換えることを示す。
4つのSFTと4つのDPOランは、バンドを使わずに2本の腕を広げる5.0タイムと5.6タイムのギャップを占有している。
- 参考スコア（独自算出の注目度）: 1.1100644183117303
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A model diff credits post-training with whatever separates a base checkpoint from one post-trained descendant, presuming a rerun would land close by. On the sparse co-activation graph of Qwen3-1.7B it does not: two LoRA-SFT reruns sit over half as far apart as either sits from the base. We score each base-to-post contrast against the run-to-run band of its own recipe, and show that $k$ runs certify no better than $p=1/(k+1)$ under run exchangeability, however large the effect, so the band $z$-score is a descriptive scale. SFT leaves a large, reproducible signature: base $\to$ SFT displaces the graph by 17.8 pairwise-distance SDs beyond the mean distance between four independent LoRA-SFT runs, and the pre-registered estimator replicates on Llama-3.1-8B with Llama-Scope. At 29 steps each, four SFT and four DPO runs occupy disjoint displacement ranges, a gap $5.0\times$ and $5.6\times$ the spreads of the two arms, without any band. All bands use graphs built on one GPU architecture. Three other readings stop short of a verdict: DPO band counts (3/4, 1/4, 3/4 contrasts outside at 12, 29, 60 steps) show no consistent dose ordering while its displacement stays flat; light GRPO is a secondary non-detection, not an absence, and we run no equivalence test; and the graph concentration read as an RL signature is already in the zero-RL base. A pre-registered causal sweep at three edge budgets on 4,816 held-out prompts found the displaced sources load-bearing ($12\times$ a matched random control in mean, $3.5\times$ in median at 10,000 edges), but their stage-specificity interaction reversed at two budgets and the third failed its faithfulness gate, so we claim calibrated structural displacement, not a changed mechanism. Scope: one backbone, one SFT recipe and general-text probe states for the full protocol.
- Abstract（参考訳）: モデルdiffは、ベースチェックポイントを1つのポストトレーニング後の子孫から切り離すことで、再実行が近いと仮定して、ポストトレーニング後のディフを信用する。
Qwen3-1.7B のスパースコアクティベーショングラフではそうではない: 2つの LoRA-SFT 再実行は、ベースから座るにつれて、半分以上離れている。
それぞれのベース・ツー・ポストのコントラストを、独自のレシピのラン・ツー・ラン・バンドと比較し、$k$ runが$p=1/(k+1)$以下であることを示すが、その効果が大きいため、バンド$z$-scoreは記述的な尺度である。
SFTは大きな再現可能な署名を残している:base $\to$ SFTはグラフを4つの独立したLoRA-SFTラン間の平均距離を超える17.8対距離のSDに置き換え、Llama-3.1-8B上でLlama-Scopeで事前登録された推定器は複製する。
それぞれの29ステップで、4つのSFTと4つのDPOランが、バンドのない2つのアームの拡幅で5.0\times$と5.6\times$を占有している。
すべてのバンドは1つのGPUアーキテクチャ上に構築されたグラフを使用する。
DPOバンド数 (3/4, 1/4, 3/4 コントラスト) は、その変位が平坦なまま、一貫した線量順序を示さず、光GRPO は二次的非検出であり、不在であり、同値試験は行わず、RLシグネチャとして読み込まれたグラフ濃度は、既にゼロRLベースにある。
4,816件のホールトアウトプロンプトで3つのエッジ予算で事前登録された因果関係は、配置されたソースのロードベアリング(平均で12\times$一致ランダムコントロール、平均で3.5\times$中央値10,000エッジ)が見つかったが、ステージ固有性相互作用は2つの予算で逆転し、3つ目はその忠実度ゲートが失敗したため、調整された構造的変位は変更されたメカニズムではないと我々は主張する。
スコープ: 1つのバックボーン、1つのSFTレシピと、全プロトコルの汎用的なプローブ状態。
関連論文リスト
- Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts [45.31502436468577]
本稿では, 分散分布の局所化から, アクティブなエキスパート予算を$k$とするElastic Expert Routingを提案する。
サンプリング近傍は対称のままであるため、この手法は決定論的トレーニングの予測計算コストと一致する。
オフスクラッチ事前トレーニングでは、検証LM損失を0.04ドルまで減らし、静的のトップ$k$ベースラインを平均16ドルポイント上回る。
論文 参考訳（メタデータ） (2026-10-08T09:31:19Z) - TileSkipper: Region-Adaptive Tile Pruning for 3D Gaussian Splatting [60.48772713715659]
TileSkipperは凍結チェックポイントに対して、ガウス単位の静的カットオフポリシーを選択する。
Mip-NeRF 360、Tants & Temples、Deep Blendingの13のシーンで、固定政治のAccuTileスイープは、標準解像度で1.088times$、幅で1.238times$3840Pixelsというデータセットとマクロのスピードアップを提供する。
論文 参考訳（メタデータ） (2026-10-07T03:01:51Z) - Where Quantum Fourier Sampling Stops Short: A Three-Gate Audit Protocol for Delay-PUF Security Models [0.19116784879310023]
量子フーリエサンプリングは遅延に基づく物理的拘束不能関数のスペクトル学習性を評価するのに役立つ。
3つのゲートは、アクセスマッチング、強力な古典コンパレータ、およびオラクル合成という評価を構成している。
理想的なサンプリングでは、閾値付きタスクに対するコヒーレントな呼び出しが少ないが、評価されたシステムではエンドツーエンドのアドバンテージは見つからない。
論文 参考訳（メタデータ） (2026-10-02T00:53:09Z) - Does the VGGT Family Need All Its Layers? [55.81487806596663]
VGGT,3ドル,VGGT-$:3,018プルーニング構成における層冗長性について検討した。
取り外し可能な層が2つの冗長領域に集結しているのに対して、層間をまたがる削除は、常に破壊的である。
CKAは、間隔分解のためのより安価な表現ベースのプロキシを提供し、プルーニング品質とキャリブレーションコストのトレードオフを提供する。
論文 参考訳（メタデータ） (2026-09-29T06:52:07Z) - Dependency-Aware Trajectory Refinement for Efficient Multi-Turn Agent Fine-Tuning [46.007931431049194]
そこで本研究では,各軌跡を球面依存性DAGとみなし,どのラウンドがグローバルにロード・ベアリングされているかを明らかにする。
これらの編集は決定論的で解釈可能である。
これらの洗練された軌道で訓練されたモデルは、推論コストの低いオリジナルの軌道で訓練されたモデルよりも一貫して優れていた。
論文 参考訳（メタデータ） (2026-09-16T10:11:58Z) - Everything in Moderation: Per-Domain Coverage Optima and Alignment-Resistant Domain Gaps in Multi-Domain Mid-Training [2.5954303305216095]
5つのドメインにまたがる30のアロケーションをトレーニングし、24のスイープ構成と6つのアロケーションをフィットから保持します。
どのドメインも内部カバレッジが最適である。
訓練中のみの精度でカバーが崩壊することはない。
論文 参考訳（メタデータ） (2026-09-08T17:31:38Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳（メタデータ） (2026-08-01T13:49:46Z) - Dead-Direction Signatures: A Cheap Spectral Reading of Singular Complexity [5.67642958049511]
特異学習理論は、損失特異点の幾何学を通して深いネットワークの複雑さを特徴づける。
単体構造をもつ安価でクローズドなスペクトル読影器であるDeadDirection Signatures (DDS)を紹介する。
それぞれが選択された層でネットワークの活性化行列またはサンプル単位のフィッシャーグラムを読み、後鎖スペクトル線型代数を置き換える。
論文 参考訳（メタデータ） (2026-06-19T06:49:09Z) - Stage-1 Controls the Entropy Regime, Not the Outcome [3.595796837069228]
2段階のポストトレーニングは、視覚言語モデルにますます使われている。
OPD用72B VLM教師を用いたQwen2.5-VL-7Bを用いた小規模データ研究において,Stage-1が実際にどのような制御を行うのかを問う。
論文 参考訳（メタデータ） (2026-06-08T05:49:09Z) - Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。
本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。
8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文 参考訳（メタデータ） (2026-06-02T06:51:15Z) - Block-Wise Differentiable Sinkhorn Attention: Tail-Refinement Gradients with a Gap-Aware Dustbin Bridge [0.0]
本稿では,TPUハードウェア上での長期的コンテキストバランスによる最適輸送注意度を,停止ベース,固定深部テールリファインメントサロゲートを用いて検討する。
本稿では, 局所的代理バイアスバウンド, 後部バイアス証明書, および, 厳密な正の能動ブロックに対する射影収縮証明書を提供する。
合成マスク問題では、最適化された置換基の正確なオートディフは10〜5ドル-10〜10ドルである。
論文 参考訳（メタデータ） (2026-04-28T19:01:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。