論文の概要: Corrected Block Sparse Spectral Optimization: Exact Models, Finite Identification, and Local Dynamics
- arxiv url: http://arxiv.org/abs/2610.25721v1
- Date: Mon, 19 Oct 2026 03:20:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 12:02:50.662241
- Title: Corrected Block Sparse Spectral Optimization: Exact Models, Finite Identification, and Local Dynamics
- Title(参考訳): 補正ブロックスパーススペクトル最適化:エクササイズモデル、有限同定、局所ダイナミクス
- Abstract要約: A-SQは、クラスタ回復AMI上の密度PCAを+0.023から+0.044の間隔で打ち負かす。
現代のAIパネルでは、しきい値のブロックスパース成分はPCAの高密度化に適合し、モノセマンティリティやクラス特殊化において改善されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The block generalized-power method pairs threshold-based support selection with inexpensive Stiefel updates, but the standard block formulation conflates two nonequivalent objectives and leaves inactive components, threshold ties, and post-selection refitting ill-specified. We rebuild the model from the primal. Eliminating each loading column from the normalized loading-ball problem gives a sum of soft-thresholded Euclidean norms (A-SUM); the squared-threshold objective in common use arises from a quadratic lift (A-SQ). We prove both identities, exhibit a two-component instance whose maximizers disagree, and specify explicit conventions for zero-response columns, ties, rank deficiency, and mask-before-refit. For A-SQ we separate the historical full-polar iteration from a safeguarded Riemannian ascent and prove, for the latter, whole-sequence convergence via a sufficient-ascent lemma, a relative-error lemma, and the Kurdyka-Lojasiewicz property, which applies because the soft-threshold objective and the Stiefel constraint are semi-algebraic. A strict threshold margin then forces finite identification of the support and sign pattern. The post-identification map is ordinary power iteration on the active covariance for a rank-one hard threshold, and the Frechet derivative of a coupled polar map for component-specific supports; a radius-based safe-screening rule follows from the same local analysis. Planted-spike experiments match the predicted identification time and local rates. On modern-AI panels (GPT-2 residual stream, ViT CLS stream, Pitprops) the thresholded block-sparse components match dense PCA on reconstruction and improve on it in monosemanticity and class specialisation. On three native-label scRNA datasets (Zheng17 FACS-sorted PBMCs, 68k donor-A with FACS-correlated labels, Tabula Muris) A-SQ beats dense PCA on cluster-recovery AMI by +0.023 to +0.044 at matched sparsity.
- Abstract(参考訳): ブロック一般化パワー法は、閾値ベースのサポート選択と安価なStiefel更新とをペアリングするが、標準ブロック定式化は2つの非等価な目的を混同し、不活性なコンポーネント、しきい値の結びつき、選択後修正が不適当である。
私たちはそのモデルを予備選挙から再建する。
通常のローディングボール問題から各ローディングコラムを除去すると、ソフトスレッショルドなユークリッドノルム(A-SUM)の和が得られ、共通用途における平方スレッショルドの目的は二次リフト(A-SQ)から生じる。
我々は両者の同一性を証明し、最大値が一致しない2成分のインスタンスを示し、ゼロ応答列、タイ、ランク不足、マスク前適合に関する明示的な規約を規定する。
A-SQ に対して、歴史的完全極性反復は、保護されたリーマンの昇華から分離し、後者については、十分高次補題、相対誤差補題、およびクルディカ・ロジャシエヴィチの性質による全列収束を証明し、これはソフトスレッショルド目的とスティーフェル制約が半代数的であるからである。
厳密なしきい値辺は、サポートパターンとサインパターンの有限な識別を強制する。
ポスト同定写像は、ランク1のハードしきい値に対する活性共分散に対する通常のパワー反復であり、成分特異的なサポートに対する結合極写像のフレシェ微分は、同じ局所解析から従う半径ベースの安全なスクリーニング規則である。
プラントスパイク実験は、予測された識別時間と局所的な速度に一致する。
In modern-AI panels (GPT-2 residual stream, ViT CLS stream, Pitprops) the thresholded block-sparse components match dense PCA on reconstruction and improve on it in monosemanticity and class specialisation。
3つのネイティブラベルの scRNA データセット (Zheng17 FACS-sorted PBMCs, 68k donor-A with FACS-correlated labels, Tabula Muris) では、A-SQ がクラスタリカバリ AMI 上で密度の高い PCA を+0.023 から +0.044 で打ち負かしている。
関連論文リスト
- Scaffold-Constrained Subset Dynamic Programming for Exact SSE Clustering [1.76179873429447]
我々は、データ由来の幾何グラフを用いて、正確なサブセットの動的プログラムをプリコンディションする。
残集合の反復最小化は固定(K) またはペナル化 SSE であり、各残集合の連結成分に対する正確な分解である。
本稿では,スキャフォールドプレコンディショニングを用いて,分割マージ提案の効率を向上させる方法について述べる。
論文 参考訳(メタデータ) (2026-09-24T19:16:51Z) - Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。
WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。
安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
論文 参考訳(メタデータ) (2026-08-18T09:32:03Z) - Convex-Hull-Neighborhood Smooth Dual Generalization: Controlling Local Correction Propagation in Offline RL [7.803284875836737]
ブートストラップは オフライン強化学習における 推定誤差を増幅する
本稿では,ベルマンのバックアップをサンプル値のターゲットとして表現し,CHN局所補正を行うConvex Hull Neborhood Smooth Dual Generalizationを提案する。
Gym-MuJoCoとAntMazeの実験は、強力な集約性能と安定した値推定を示す。
論文 参考訳(メタデータ) (2026-08-04T04:30:02Z) - The Matching Principle: A Geometric Theory of Loss Functions for Nuisance-Robust Representation Learning [0.5854803320592717]
線形ガウスモデル (Thm.A) における最適性を証明し, 展開のドリフトをゼロにする2次ペナルティに対する範囲被覆の必要性 (Thm.G) を示す。
13ブロック(MLからQwen2.5-7Bまで)のテストは、幾何と展開のドリフトに対する等方性対間違った方向の罰則と一致した。
Sigma_taskを推定し、Sigmaにマッチし、コントロールを実行し、タスクとジオメトリを別々にレポートする。
論文 参考訳(メタデータ) (2026-05-21T17:53:28Z) - GeoFlowVLM: Geometry-Aware Joint Uncertainty for Frozen Vision-Language Embedding [3.0708725114491293]
ペア化された$ell$-normalized dual-encoder VLM の結合分布を学習するポストホックアダプタとして textbfGeoFlowVLM を提案する。
整合性の結果, 人口制限下では, トレーニングされたネットワークは, 接合流と両モード条件流を露呈することがわかった。
この単一モデルから2つの量を得る:Fano型境界による決定論的解釈でアレター的曖昧さを定量化する条件付き検索エントロピーと、関節NLLの正確な連鎖ルール分解によって正当化される限界特異性スコアである。
論文 参考訳(メタデータ) (2026-05-13T11:12:18Z) - The Extrapolation Cliff in On-Policy Distillation of Near-Deterministic Structured Outputs [52.709361620508595]
ListOPDは、パラメータの5分の1で8B-SFTベースラインで、学生をドメイン内に持ち込む。
Amazon Fashionでは、3つの事前登録テスト — 細粒度崖間隔テスト、小さなクリップのクロス予測 — がロックされた予測ウィンドウ内に落下し、グリッド解像度以下のクローズドフォーム予測に一致する小さなクリップ値が設定されている。
論文 参考訳(メタデータ) (2026-05-09T06:48:00Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳(メタデータ) (2026-02-26T15:27:53Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - Exact Recovery in the General Hypergraph Stochastic Block Model [92.28929858529679]
本稿では,d-uniform hypergraph block model(d-HSBM)の正確な回復の基本的な限界について検討する。
精度の高いしきい値が存在し、正確な回復がしきい値の上に達成でき、その下には不可能であることを示す。
論文 参考訳(メタデータ) (2021-05-11T03:39:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。