Fugu-MT 論文翻訳(概要): Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction

論文の概要: Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction

arxiv url: http://arxiv.org/abs/2307.09672v1
Date: Tue, 18 Jul 2023 22:54:51 GMT
ステータス: 処理完了
システム内更新日: 2023-07-20 15:56:37.879160
Title: Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction
Title（参考訳）: ReLU層の凸形状, ボールへの注入率, 局所再構成
Authors: Daniel Haider, Martin Ehler, Peter Balazs
Abstract要約: 本稿では、$mathbbRn$の閉球上のReLU層とその非負部分に対する射影率について検討する。フレーム理論の双対性の概念に触発されて、明示的な再構成公式が提供される。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The paper uses a frame-theoretic setting to study the injectivity of a ReLU-layer on the closed ball of $\mathbb{R}^n$ and its non-negative part. In particular, the interplay between the radius of the ball and the bias vector is emphasized. Together with a perspective from convex geometry, this leads to a computationally feasible method of verifying the injectivity of a ReLU-layer under reasonable restrictions in terms of an upper bound of the bias vector. Explicit reconstruction formulas are provided, inspired by the duality concept from frame theory. All this gives rise to the possibility of quantifying the invertibility of a ReLU-layer and a concrete reconstruction algorithm for any input vector on the ball.
Abstract（参考訳）: この論文はフレーム理論を用いて、$\mathbb{R}^n$の閉球上のReLU層の射影率とその非負の部分を研究する。特に、ボールの半径とバイアスベクトルとの相互作用が強調される。凸幾何学からの視点とともに、このことは、バイアスベクトルの上界における合理的な制限の下でReLU層の射影性を検証する計算可能な方法をもたらす。明示的な再構成公式は、フレーム理論からの双対性の概念にインスパイアされたものである。これらにより、ボール上の任意の入力ベクトルに対するReLU層と具体的な再構成アルゴリズムの可逆性を定量化することができる。

関連論文リスト

Optimal lower Lipschitz bounds for ReLU layers, saturation, and phase retrieval [1.2337680901241983]
本稿では,3つの問題を統一的な視点で再検討する。リプシッツ境界をReLU層とクリッピングに導出し、これは相検索の既知結果と類似している。
論文参考訳（メタデータ） (2025-02-14T04:10:28Z)
Solving Inverse Problems via Diffusion Optimal Control [3.0079490585515343]
反復線形擬似レギュレータ (iLQR) アルゴリズムにインスパイアされた拡散型最適制御器を導出する。アルゴリズムの特別な場合として, 理想化後サンプリング方程式を復元できることが示される。次に,ニューラル逆問題解法の選択に対して提案手法を評価し,逆問題を用いた画像再構成における新たなベースラインを確立する。
論文参考訳（メタデータ） (2024-12-21T19:47:06Z)
Injectivity of ReLU-layers: Tools from Frame Theory [0.0]
インジェクティビティ(英: Injectivity)とは、情報を失うことなく、その出力から任意の入力を再構成できるマッピングの定義特性である。本稿では,この問題にアプローチするためのフレーム理論的視点を確立する。本稿では,ReLU層中の3つの成分を総合的に解析し,そのインジェクティビティ特性について考察する。
論文参考訳（メタデータ） (2024-06-22T14:07:41Z)
Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文参考訳（メタデータ） (2023-10-20T12:45:12Z)
Neural Vector Fields: Generalizing Distance Vector Fields by Codebooks and Zero-Curl Regularization [73.3605319281966]
メッシュと暗黙的符号なし距離関数(UDF)を演算する明示的な学習プロセスを採用した新しい3D表現であるNeural Vector Fields (NVF)を提案する。両NVFを水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・クロスドメイン化の4つのシナリオで評価した。
論文参考訳（メタデータ） (2023-09-04T10:42:56Z)
Provable Phase Retrieval with Mirror Descent [1.1662472705038338]
我々は,その挙動の程度から$n$-mの実ベクトルを復元する位相探索の問題を考察する。 2つの測定値について、n$の値が十分であれば、ほとんどすべての初期化子に対して高い確率で元のベクトルが符号まで回復することを示す。
論文参考訳（メタデータ） (2022-10-17T16:40:02Z)
Parabolic Relaxation for Quadratically-constrained Quadratic Programming -- Part I: Definitions & Basic Properties [6.355764634492975]
一般の二次制約計算に対して, 2次制約で記述した緩和法を提案する。緩和は半確定緩和(SDP)と同じくらい強くすることができる。これは、一連のサロゲートを必要とするアルゴリズムの加速に有効である。
論文参考訳（メタデータ） (2022-08-07T02:44:23Z)
A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文参考訳（メタデータ） (2021-05-06T17:36:55Z)
Reconstruction of Voxels with Position- and Angle-Dependent Weightings [66.25540976151842]
まず、システム行列と重み付け部分の観点から、この再構成問題を定式化する。擬似逆数を計算し、解が階数不足であり、従って非常に不適切であることを示す。
論文参考訳（メタデータ） (2020-10-27T11:29:47Z)
Competitive Mirror Descent [67.31015611281225]
制約のある競合最適化には、制約の対象となる競合する目的を最小化しようとする複数のエージェントが含まれる。本稿では, 競合ミラー降下法(CMD)を提案する。特別の場合として、正の円錐上の問題に対する新しい競合乗法重みアルゴリズムを得る。
論文参考訳（メタデータ） (2020-06-17T22:11:35Z)
A refinement of Reznick's Positivstellensatz with applications to quantum information theory [72.8349503901712]
ヒルベルトの17番目の問題において、アルティンはいくつかの変数の任意の正定値が2つの平方和の商として書けることを示した。レズニックはアルティンの結果の分母は常に変数の平方ノルムの$N$-次パワーとして選択できることを示した。
論文参考訳（メタデータ） (2019-09-04T11:46:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。