論文の概要: The Functional Structure of Post-Compression Recovery in Low-Rank LLMs

• arxiv url: http://arxiv.org/abs/2610.05504v1
• Date: Sun, 04 Oct 2026 20:18:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 13:22:17.55817
• Title: The Functional Structure of Post-Compression Recovery in Low-Rank LLMs
• Title（参考訳）: 低域LDMにおける圧縮後回収機能構造
• Abstract要約: 異なる低ランク圧縮法は、同じ圧縮後回復手順に異なる応答の圧縮LDMを生成することができる。 異種低ランク法に適用可能な標準化された機能特性を各バックボーン内に開発する。 この構造の変化を追跡することで、スカラーロスと並行して回復の進行を補完する機能的ビューが得られることが判明した。
• 参考スコア（独自算出の注目度）: 17.262517760051413
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Different low-rank compression methods can produce compressed LLMs that respond differently to the same post-compression recovery procedure, and relative advantages observed between methods at the compression endpoint may shrink, grow, or even reverse after recovery. We ask whether this recovery heterogeneity reflects functional structure beyond scalar loss evolution, and how that structure evolves throughout recovery. Our results establish that this heterogeneity reflects a reproducible compression-induced functional structure, which we formalize as recovery pressure. To characterize this structure consistently throughout recovery, we develop a standardized functional characterization within each backbone that is applicable across heterogeneous low-rank methods. The primary backward characterization reveals reproducible module-wise structure across independent probes, while a complementary forward-only characterization recovers related structure without loss or backpropagation. We further find that recovery pressure measured at the endpoint is associated with subsequent recovery response; during recovery, its module-wise structure is reorganized non-uniformly, and localized updates induce distributed responses beyond directly updated modules. Further evidence indicates that tracking this evolving structure provides a complementary functional view of recovery progress alongside scalar loss.
• Abstract（参考訳）: 異なる低ランク圧縮法は、同じ圧縮後回復手順に異なる応答の圧縮LDMを生成することができ、圧縮終端で観察されるメソッド間の相対的な優位性は、回復後に縮小、成長、あるいは反転する可能性がある。 この回復の不均一性は、スカラー損失の進化を超えて機能的構造を反映し、その構造が回復を通してどのように進化するかを問う。 その結果, この不均一性は再現可能な圧縮誘起機能構造を反映し, 回復圧力として定式化することがわかった。 回復過程を通じてこの構造を一貫した特徴付けを行うため,不均一な低ランク法に適用可能な,各バックボーン内の機能的特徴付けを標準化した。 第一の後方特性は、独立したプローブ間で再現可能なモジュールワイズ構造を示し、相補的な前方特性は、損失や後方伝播を伴わずに関連構造を復元する。 さらに,終点で測定されたリカバリ圧力はその後のリカバリ応答に関連付けられており,リカバリ時にはモジュール単位の構造が一様ではなく再編成され,局所的な更新によって直接更新されたモジュールを超えて分散応答が誘導される。 さらなる証拠は、この進化する構造を追跡することは、スカラーロスと並行して回復の進行を補完する機能的なビューを提供することを示している。

関連論文リスト

• Structural Inference under Hidden Agents [9.734309279937236]
  軌道に基づく構造推論は有望な結果を得たが、従来の定式化では、すべてのモデル化されたエージェントの軌道が利用可能であると仮定されている。 既存の研究では、未確認ノードの推定、部分的な観測による構造的推測、および欠落値の計算が検討されている。 我々はこの問題を隠蔽剤による構造推論として定式化する。
  論文  参考訳（メタデータ） (2026-09-16T02:45:20Z)
• CLUIE: Clustering-Aware Recurrent Propagation with Local Structural Compensation for Underwater Image Enhancement [92.78545064386485]
  水中画像の強調は、波長依存性の光吸収、散乱、後方散乱により依然として困難である。 本稿では,従来のRWKVの一定繰り返し伝搬経路をコンテント適応トークン軌道に変換するクラスタリング対応RWKVフレームワークを提案する。 複数の水中画像強調ベンチマークの実験は、CRWKVが最先端の定量的性能と優れた視覚的品質を達成することを示した。
  論文  参考訳（メタデータ） (2026-07-23T16:09:36Z)
• Structured Fluctuations and the Information Dynamics of Self-Maintenance in Growing Neural Cellular Automata [0.7498027847107155]
  成長するニューラルセルオートマタ(GNCA)は、堅牢な自己維持と自己修復を可能にする。 内部のゆらぎは情報の流れ、調整、そして誘引的リカレント状態への回帰を支援する機能成分として機能することを示す。
  論文  参考訳（メタデータ） (2026-07-14T06:23:20Z)
• CURE: Controllable Unified Image Restoration for Complex Degradations [11.660815850318114]
  CUREは複雑な劣化設定で制御可能な復元を可能にする統一されたフレームワークである。 CUREは、複合劣化ベンチマークで最先端のパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2026-07-03T07:34:11Z)
• Pretreatment MRI reveals a latent, molecular-subtype-independent structural phenotype that organizes treatment trajectories and recurrence risk [0.2578242050187029]
  前処理MRIは、エンドポイントベースの言語が見えない構造的応答表現型を公開する。 完全な反応器の中では、構造的に乱れた腫瘍はより早期に縮小するが、構造的に乱れたままである。
  論文  参考訳（メタデータ） (2026-07-02T21:04:19Z)
• Next-Acceleration-Scale Prediction for Autoregressive MRI Reconstruction [52.32112533846212]
  MRI再建は本質的に不完全な逆問題である。 この制限は、再構成を離散的なマルチスケールの潜在空間に移動させ、自己回帰的次加速スケールの予測として機能させることによって解決する。 提案手法は,過度のアンサンプ下での多種多様なサンプリングパターンの再構成性能の向上を図っている。
  論文  参考訳（メタデータ） (2026-05-19T04:40:50Z)
• Analytic Continuation Between Real- and Imaginary-Time Quantum Dynamics and the Fundamental Instability of Inverse Reconstruction [9.430934455887158]
  実時間および仮想時間量子力学を接続する統合スペクトル半群フレームワークを開発した。 スペクトル構造は, 再構成の忠実度を統一的に制御することを示す。 特に、非エルミート的および開系的設定は、可逆性がスペクトルの幾何学的およびスケール依存的な特徴として現れることを示した。
  論文  参考訳（メタデータ） (2026-05-11T13:23:55Z)
• DegBins: Degradation-Driven Binning for Depth Super-Resolution [57.61783461543096]
  DegBinsは、劣化駆動のビンニングを利用して残留モデリングを適応的に強化する新しいDSRフレームワークである。 DegBinsは、精度、堅牢性、一般化の観点から、既存の最先端メソッドを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-10T16:17:11Z)
• UniRes: Universal Image Restoration for Complex Degradations [53.74404005987783]
  実世界のイメージ復元は、様々なキャプチャ条件、キャプチャデバイス、後処理パイプラインから生じるさまざまな劣化によって妨げられている。 UniResという名前の、シンプルで柔軟な拡散ベースのフレームワークは、このような劣化をエンドツーエンドで解決するために提案されている。 提案手法は, 複合劣化画像復元データセットと単分解画像復元データセットの両方を用いて評価する。
  論文  参考訳（メタデータ） (2025-06-05T21:25:39Z)
• Temporally-Coherent Surface Reconstruction via Metric-Consistent Atlases [131.50372468579067]
  再建された表面をニューラルネットワークを用いてアトラスとして表現する。 本手法は,教師なし対応の精度と表面再構成の精度において,その性能を超える結果が得られることを実証的に示す。
  論文  参考訳（メタデータ） (2021-04-14T16:21:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。