論文の概要: Exact ReLU realization of binary affine refinement iterates via reflection folding and cone switching
- arxiv url: http://arxiv.org/abs/2609.11962v1
- Date: Wed, 12 Aug 2026 01:08:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.508423
- Title: Exact ReLU realization of binary affine refinement iterates via reflection folding and cone switching
- Title(参考訳): リフレクションフォールディングとコーンスイッチングによる二元アフィン精製イテレートの厳密なReLU実現
- Abstract要約: 有限支持行列マスクを用いたベクトル値二元アフィン精製作用素について検討した。
すべての有限精製イテレートが、反復数における固定幅と深さ線型の正確なReLU実現を許すことを証明している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study vector-valued binary affine refinement operators with finitely supported matrix masks and compactly supported continuous piecewise linear input and forcing data. We prove that every finite refinement iterate admits an exact ReLU realization of fixed width and depth linear in the number of iterations. No separation of the forcing profile from the binary cell seams is required. The main mechanism is universal reflection doubling. Pairing each residual profile with its reflection replaces the two binary transition matrices by one fixed block matrix together with a fixed swap involution. The cell-seam identity makes the two branch candidates agree at the tent fold, while their swap-odd component is bounded linearly by the distance to the fold. This permits exact branch selection by a fixed continuous piecewise linear cone switch, without multiplication by a variable selector. The resulting primal recursion requires the residual orbit in reverse order. We obtain exact backward replay from the residual memory controller developed previously for affine refinement, interpreted here through the reflection quotient of circle doubling. The construction propagates the full vectorized profiles rather than decomposing the input and forcing into reference atoms. We also treat stage-dependent forcing from a fixed finite-dimensional family and show that genuine reflection equivariance reduces the doubled cascade to a single parity sector.
- Abstract(参考訳): 有限支持行列マスクとコンパクト支持連続片方向線形入力および強制データを用いたベクトル値二元アフィン精製作用素について検討した。
すべての有限精製イテレートが、反復数における固定幅と深さ線型の正確なReLU実現を許すことを証明している。
二元細胞シームからの強制プロファイルの分離は不要である。
主なメカニズムは、普遍的な反射二重化である。
残差プロファイルをリフレクションでペアリングすると、2つの二項遷移行列が1つの固定ブロック行列と固定スワップのインボリューションで置き換えられる。
セル・シームの同一性により、2つの分岐候補はテントの折り目で一致し、スワップ・オード成分は折り目までの距離で直線的に束縛される。
これにより、可変セレクタによる乗算なしに、固定された連続片方向線形コーンスイッチによる正確な分岐選択が可能である。
結果として生じる原始再帰は、逆順に残留軌道を必要とする。
本研究では, 従来アフィン改良のために開発された残メモリコントローラから, 円2倍の反射商を用いて, 正確な逆方向のリプレイを得る。
構成は入力を分解して参照原子に強制するのではなく、完全なベクトル化プロファイルを伝搬する。
また、固定有限次元族からのステージ依存的な強制を扱い、真の反射同値が二重カスケードを1つのパリティセクターに還元することを示す。
関連論文リスト
- GPTQ-2D: Cubic-Time Two-Sided Adaptive Rounding [54.10836630612739]
GPTQ(またはババイの最も近い平面アルゴリズム)は、2次計量の下で実行列を整数に丸めている。
GPTQ-2Dは,同一の丸み行列を立方体時間で生成する。
論文 参考訳(メタデータ) (2026-07-29T15:34:00Z) - Exact ReLU realization of affine one-dimensional refinement iterates via residual memory and offset frames [0.0]
有限支持行列マスクを用いたベクトル値アフィン精製作用素 [ (W)(t)=sum_jinmathbbZ A_j(Mt-j)+B(t), ] について検討する。
Mge 3) に対し、すべての有限アフィンイテレートは、深さが (O(n)) である正確な固定幅 ReLU を実現する。
また、固定有限次元連続片方向線型スパンにおける項を強制する段階依存拡張も証明する。
論文 参考訳(メタデータ) (2026-07-22T13:51:38Z) - Neural network realization of binary refinement iterates via a two-chart atlas selector [0.0]
コンパクトに支持された全ての連続分級線形種は、固定幅と深さの正確なReLU実現を線形に認める有限の精製繰り返しを持つことを示す。
この構成はまた、自然の終点整合条件を満たす全ての連続片方向線型円関数の正確な読み出しを与える。
論文 参考訳(メタデータ) (2026-07-21T14:11:16Z) - Tracking Through Decoupling Singularities: A Singularity-Robust Homotopy-Continuation Extension of Feedback Linearization [0.0]
本稿では,正方形非線形制御アフィン系のための軌道追従制御器を開発する。
この方法は、トラッキングをリアルタイムの弧長ホモトピー継続として再キャストする。
結果の流れは、特異集合から離れたフィードバック線形化に一致する。
論文 参考訳(メタデータ) (2026-07-11T18:41:04Z) - Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。
LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
論文 参考訳(メタデータ) (2026-05-26T10:10:26Z) - Exact ReLU realization of tensor-product refinement iterates [0.0]
コンパクトに支持されたすべての連続的部分的線形シード g:R2->R に対して、反復 Vn g は固定幅と深さ O(n) の正確な ReLU を実現することを証明している。
これにより、精製カスケードに対する正確な実現理論の最初の真の2次元拡張が得られる。
論文 参考訳(メタデータ) (2026-05-05T16:12:32Z) - Deep Delta Learning [91.75868893250662]
本稿では,標準残差接続を一般化した新しいアーキテクチャであるDeep Delta Learning(DDL)を紹介する。
我々はこの演算子のスペクトル解析を行い、ゲート$(mathbfX)$がアイデンティティマッピング、投影、幾何反射のダイナミックな相互作用を可能にすることを示した。
この統合により、ネットワークは階層的な遷移作用素のスペクトルを明示的に制御することができ、複雑な非単調力学のモデリングを可能にする。
論文 参考訳(メタデータ) (2026-01-01T18:11:38Z) - Memory-Efficient Backpropagation through Large Linear Layers [107.20037639738433]
Transformersのような現代のニューラルネットワークでは、線形層は後方通過時にアクティベーションを保持するために大きなメモリを必要とする。
本研究では,線形層によるバックプロパゲーションを実現するためのメモリ削減手法を提案する。
論文 参考訳(メタデータ) (2022-01-31T13:02:41Z) - Competitive Mirror Descent [67.31015611281225]
制約のある競合最適化には、制約の対象となる競合する目的を最小化しようとする複数のエージェントが含まれる。
本稿では, 競合ミラー降下法(CMD)を提案する。
特別の場合として、正の円錐上の問題に対する新しい競合乗法重みアルゴリズムを得る。
論文 参考訳(メタデータ) (2020-06-17T22:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。