論文の概要: Quantizing Time-Series Models As Dynamical Systems: Trajectory-Based Quantization Sensitivity Score
- arxiv url: http://arxiv.org/abs/2606.13300v2
- Date: Fri, 12 Jun 2026 13:19:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 13:53:03.696605
- Title: Quantizing Time-Series Models As Dynamical Systems: Trajectory-Based Quantization Sensitivity Score
- Title(参考訳): 動的システムとしての時系列モデルの量子化:軌道に基づく量子化感度スコア
- Authors: Mariya Pavlova, Harrison Bo Hua Zhu, Elizsveta Semenova, Yingzhen Li,
- Abstract要約: トラジェクトリベースの量子化感度スコア(TQS)は、動的システムの安定性のレンズを通して、後トレーニング量子化(PTQ)を再編成する計量である。
キャリブレーションデータや高価な2階近似を必要としないフレキシブルな混合精度フレームワークであるTQS-PTQを提案する。
実験の結果,動的システムの観点からは,資源制約条件下での低精度展開に対して,堅牢かつ高性能な経路が提供されることがわかった。
- 参考スコア(独自算出の注目度): 12.43987266225678
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We introduce the Trajectory-based Quantization Sensitivity Score (TQS), a metric that reframes post-training quantization (PTQ) through the lens of dynamical-systems stability. By modeling the network's rollout as a discrete-time dynamical system, TQS characterizes how quantization-induced errors propagate and amplify over the rollout horizon. Unlike conventional PTQ methods, where sensitivity analysis is often coupled to the quantization procedure, TQS enables a priori sensitivity estimation decoupled from quantizer selection and bit-width assignment. This separation allows for quantization budget planning even for black-box or compiled networks with fused operators. Building on this, we present TQS-PTQ, a flexible mixed-precision framework that requires no calibration data or costly second-order approximations. Our experiments show that a dynamical-systems perspective provides a robust, high-performing pathway for low-precision deployment in resource-constrained settings.
- Abstract(参考訳): 本稿では、動的システムの安定性のレンズを通して、後トレーニング量子化(PTQ)を再構成するメトリックであるトラジェクトリベースの量子化感度スコア(TQS)を紹介する。
ネットワークのロールアウトを離散時間力学系としてモデル化することにより、TQSは量子化によるエラーがロールアウト水平線上でどのように伝播し増幅するかを特徴付ける。
従来のPTQ法とは異なり、感度解析はしばしば量子化処理に結合されるが、TQSは量子化器選択とビット幅割り当てから分離された優先度推定を可能にする。
この分離により、ブラックボックスや融合演算子を持つコンパイルネットワークであっても、量子化の予算計画が可能になる。
これに基づいて、キャリブレーションデータやコストのかかる2次近似を必要としないフレキシブルな混合精度フレームワークTQS-PTQを提案する。
実験の結果,動的システムの観点からは,資源制約条件下での低精度展開に対して,堅牢かつ高性能な経路が提供されることがわかった。
関連論文リスト
- FIMA-Q: Post-Training Quantization for Vision Transformers by Fisher Information Matrix Approximation [55.12070409045766]
ポストトレーニング量子化(PTQ)は近年,費用対効果と有望なモデル圧縮パラダイムとして注目されている。
ビジョン変換器(ViT)の現在のPTQ法は、特に低ビット量子化において、精度が著しく低下している。
論文 参考訳(メタデータ) (2025-06-13T07:57:38Z) - Deep Unfolding with Kernel-based Quantization in MIMO Detection [26.033613526407226]
本稿では,深層展開ネットワークのためのカーネルベースの適応量子化(KAQ)フレームワークを提案する。
提案するKAQフレームワークの精度は従来の手法よりも優れており、モデルによる推論遅延の低減に成功している。
論文 参考訳(メタデータ) (2025-05-19T05:50:24Z) - Universal Approximation Theorem of Deep Q-Networks [2.1756081703276]
我々は制御とFBSDE(Forward-Backward Differential Equations)を通してDeep Q-Networks(DQN)の分析を行う。
DQN は任意の精度と高い確率でコンパクト集合上の最適Q-函数を近似できることを示す。
この作業は、深い強化学習とコントロールをブリッジし、継続的設定でDQNに関する洞察を提供する。
論文 参考訳(メタデータ) (2025-05-04T22:57:33Z) - Pointer Networks with Q-Learning for Combinatorial Optimization [55.2480439325792]
我々は、モデルフリーQ値ポリシー近似をPointer Networks(Ptr-Nets)と統合したハイブリッドニューラルネットワークであるPointer Q-Network(PQN)を紹介する。
実験により,本手法の有効性を実証し,不安定な環境でモデルをテストする。
論文 参考訳(メタデータ) (2023-11-05T12:03:58Z) - A Study of Quantisation-aware Training on Time Series Transformer Models
for Resource-constrained FPGAs [19.835810073852244]
本研究では,時系列トランスフォーマーモデルにおける量子化対応トレーニング(QAT)について検討する。
そこで本研究では,QAT相における対称スキームと非対称スキームを動的に選択する適応量子化手法を提案する。
論文 参考訳(メタデータ) (2023-10-04T08:25:03Z) - Machine Learning Aided Dimensionality Reduction towards a Resource
Efficient Projective Quantum Eigensolver [0.0]
近年,分子系の基底状態エネルギーを計算するためのエレガントな手法として,PQE (Projective Quantum Eigensolver) が提案されている。
我々は、この2つのパラメータの集合的相互作用を機械学習技術を用いて利用し、相乗的相互関係を導出した。
論文 参考訳(メタデータ) (2023-03-20T16:49:56Z) - CSQ: Growing Mixed-Precision Quantization Scheme with Bi-level
Continuous Sparsification [51.81850995661478]
混合精度量子化はディープニューラルネットワーク(DNN)に広く応用されている
トレーニング中のビットレベル正規化とプルーニングに基づく動的精度調整の試みは、ノイズ勾配と不安定収束に悩まされている。
安定度を向上した混合精度量子化スキームを探索するビットレベル学習法である連続スカラー化量子化(CSQ)を提案する。
論文 参考訳(メタデータ) (2022-12-06T05:44:21Z) - Green, Quantized Federated Learning over Wireless Networks: An
Energy-Efficient Design [68.86220939532373]
有限精度レベルは、固定精度フォーマットで重みとアクティベーションを定量化する量子ニューラルネットワーク(QNN)を使用して取得される。
提案するFLフレームワークは,ベースラインFLアルゴリズムと比較して,収束までのエネルギー消費量を最大70%削減することができる。
論文 参考訳(メタデータ) (2022-07-19T16:37:24Z) - NIPQ: Noise proxy-based Integrated Pseudo-Quantization [9.207644534257543]
量子化対応トレーニング(QAT)におけるストレートスルー推定器(STE)の不安定収束
アクティベーションと重みの両面において擬似量子化を統一的にサポートする新しいノイズプロキシベース統合擬似量子化(NIPQ)を提案する。
NIPQは、様々なビジョンや言語アプリケーションにおける既存の量子化アルゴリズムよりも大きなマージンで優れている。
論文 参考訳(メタデータ) (2022-06-02T01:17:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。