論文の概要: Your PID Is Already a Neural Network: Learning Its Gains with Only Three Weights and No Teacher
- arxiv url: http://arxiv.org/abs/2611.16050v1
- Date: Wed, 11 Nov 2026 22:02:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.279169
- Title: Your PID Is Already a Neural Network: Learning Its Gains with Only Three Weights and No Teacher
- Title(参考訳): ニューラルネットワークで学習できるPIDは3つの重みと教師なし
- Abstract要約: 離散PIDコントローラは、まさにリカレントニューラルネットワークである。
任意の幅のLSTMのような有界な隠れ状態を持つネットワークは、それを近似するのみである。
- 参考スコア(独自算出の注目度): 39.146761527401424
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A discrete PID controller is exactly a recurrent neural network, a classical state-space fact: a fixed linear memory of the running integral and the last error, read out by three trainable weights that map one-to-one to the PID gains. Networks with bounded hidden states, such as LSTMs of any width, only approximate it. Trained only on a one-step physical cost (the expected cost of one transition from a fixed state distribution), with no demonstrations, teacher controller, or known gains, the network solves a strongly convex least-squares problem, so gradient descent converges from any initialization to the unique one-step optimal PID gains; the limit network is that PID, with the same action on every error sequence. Partitioned regression then shows what extra capacity buys. Orthogonal residual features keep these gains and improve on the PID if and only if they correlate with the part of the optimal action outside the PID span. On a nonlinear second-order example the gap is 5.88% of the optimal PID cost, and 4.00% against PID with a bias; no controller can improve on PID by more on this objective. A residual started at a tuned PID begins exactly at that PID; at the one-step optimal PID, a fixed-feature residual's first gradient step lowers the cost if and only if its features can improve on the PID. Experiments confirm the realization, recovery, and gap results to numerical precision. On held-out plants of three families, under a protocol frozen before the test data existed, a residual warm-started at a heavily tuned PID and trained with it lowers the long-horizon cost by 3.5%, 3.5%, and 1.9%, with family-wise 95% bounds excluding zero, also under distribution shift; a post hoc comparison with the PID tuned alone suggests that most of it comes from the recurrent part in two families. The primary endpoint, a gain of at least 5% from a generic PID start, is not met in any family.
- Abstract(参考訳): 離散的なPIDコントローラは、まさにリカレントニューラルネットワークであり、古典的な状態空間の事実である。ランニング積分の固定線形メモリと最後のエラーは、3つのトレーニング可能な重みで読み出され、PIDゲインに1対1でマッピングされる。
任意の幅のLSTMのような有界な隠れ状態を持つネットワークは、それを近似するのみである。
1段階の物理コスト(固定状態分布からの1遷移の期待コスト)だけで訓練され、デモンストレーションや教師のコントローラ、既知のゲインが存在しないため、ネットワークは最短二乗問題の解法を強く含むため、勾配勾配は初期化から一段階の最適PIDゲインへと収束する。
分割されたレグレッションは、追加のキャパシティが何を買うかを示す。
直交残差は、PIDスパンの外側の最適な作用の一部と相関している場合に限り、これらの利得を保ち、PIDを改善する。
非線形二階目の例では、ギャップは最適PIDコストの5.88%、バイアスのあるPIDに対して4.00%である。
1ステップの最適PIDでは、固定機能残差の第1勾配ステップは、PIDでその特徴が改善できる場合に限りコストを下げる。
実験は、数値的な精度で実現、回復、ギャップを確かめる。
試験データが存在する前に凍結されたプロトコルの下では、残留したPIDを厳密に調整したまま温暖化処理し、長いホリゾンコストを3.5%、3.5%、および1.9%減らす。
プライマリエンドポイント(ジェネリックPID開始から少なくとも5%のゲイン)は、どのファミリーでも満たされない。
関連論文リスト
- A Functional Preservation Score for Auditing Connectome Operations: Compression, Alignment, Transport, and Local-Rule Writing [0.0]
関数保存スコア(英: Functional Preservation Score、FPS)は、ニューラルネットワークの入力出力関数のどれだけが構造的操作を生き残るかの尺度である。
FPSを使用して、ひとつのラップトップ上で動作する公開データ上で、投機的“ミンドマイグレーション”パイプラインの運用を監査します。
論文 参考訳(メタデータ) (2026-11-10T07:30:42Z) - Variational Filtering for Bayesian Last Layers with an Independent Binary Probit Surrogate [41.81526577151929]
深層分類器の最終層に対する変分フィルタリングアルゴリズムを提案する。
各ミニバッチは正確な予測ステップで同化され、その後クローズドフォームの変分更新が行われる。
DINOv3のバックボーンを同一のプロトコルで調整した2つのベースラインに対して評価した。
論文 参考訳(メタデータ) (2026-10-12T11:00:05Z) - Bug or Feature$^2$: Weight Drift, Activation Sparsity and Spikes [53.726365933748134]
標準損失と正に偏りのある活性化関数の相互作用によって引き起こされる負の重みのドリフトを解析する。
79の構成にまたがるスパシティ・精度のトレードオフを特徴付けるとともに、$sim$70%のアクティベーション・スパシティよりも高い精度の崖を識別する。
論文 参考訳(メタデータ) (2026-05-17T21:29:20Z) - Auxiliary Finite-Difference Residual-Gradient Regularization for PINNs [0.0]
本研究では,PDE残差が保たれるハイブリッド設計について検討するが,有限差分は弱い補助項にのみ現れる。
FD項は、PDE残基自体を置き換えることなく残留体を正則化する。
種子0-5と100kのエポック全体で、最も信頼性の高い試験はクルコウタス・ベタ政権下での固定殻重量5e-4である。
論文 参考訳(メタデータ) (2026-04-15T23:09:19Z) - DP-FedAdamW: An Efficient Optimizer for Differentially Private Federated Large Models [14.755143405057929]
我々は,AdamWをベースとした差分プライバシ適合方式DPFedAdamWを提案する。
DP下でのAdamWの回復は、第2モーメントの分散を安定化し、DP誘起バイアスを除去し、クライアントのドリフトを抑えるためにグローバルな降下を局所的に更新する。
実験の結果,DPFedAdamWが言語と視覚にまたがるトランスフォーマーとResNet-18の有効性を示した。
論文 参考訳(メタデータ) (2026-02-23T15:15:47Z) - Adaptive Split-MMD Training for Small-Sample Cross-Dataset P300 EEG Classification [12.103074826558531]
データセット間のシフトは、大きなソースデータセットで小さなターゲットセットを増やそうとするときに発生する。
適応分割最大値離散化学習(AS-MMD)を紹介する。
AS-MMDは、ターゲット重み付き損失とソース/ターゲットサイズ比の平方根に結びついたウォームアップを組み合わせる。
目標のみのトレーニングやプールトレーニングよりも優れています。
論文 参考訳(メタデータ) (2025-10-24T18:48:21Z) - Uncertainty-Aware Camera Pose Estimation from Points and Lines [101.03675842534415]
Perspective-n-Point-and-Line (Pn$PL) は、2D-3D特徴座標の3Dモデルに関して、高速で正確で堅牢なカメラローカライゼーションを目指している。
論文 参考訳(メタデータ) (2021-07-08T15:19:36Z) - Beta-CROWN: Efficient Bound Propagation with Per-neuron Split
Constraints for Complete and Incomplete Neural Network Verification [151.62491805851107]
私たちは、ニューロン毎の分割を完全にエンコードできるバウンド伝搬ベースの検証器である$beta$-crownを開発した。
Beta$-CROWNはLPベースのBaB法よりも3桁近い速さで堅牢性検証が可能です。
BaBを早期に終了することにより、不完全な検証にも使用できます。
論文 参考訳(メタデータ) (2021-03-11T11:56:54Z) - On the Practicality of Differential Privacy in Federated Learning by
Tuning Iteration Times [51.61278695776151]
フェデレートラーニング(FL)は、分散クライアント間で機械学習モデルを協調的にトレーニングする際のプライバシ保護でよく知られている。
最近の研究では、naive flは勾配リーク攻撃の影響を受けやすいことが指摘されている。
ディファレンシャルプライバシ(dp)は、勾配漏洩攻撃を防御するための有望な対策として現れる。
論文 参考訳(メタデータ) (2021-01-11T19:43:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。