Fugu-MT 論文翻訳(概要): Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction

論文の概要: Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction

arxiv url: http://arxiv.org/abs/2307.09672v1
Date: Tue, 18 Jul 2023 22:54:51 GMT
ステータス: 処理完了
システム内更新日: 2023-07-20 15:56:37.879160
Title: Convex Geometry of ReLU-layers, Injectivity on the Ball and Local Reconstruction
Title（参考訳）: ReLU層の凸形状, ボールへの注入率, 局所再構成
Authors: Daniel Haider, Martin Ehler, Peter Balazs
Abstract要約: 本稿では、$mathbbRn$の閉球上のReLU層とその非負部分に対する射影率について検討する。フレーム理論の双対性の概念に触発されて、明示的な再構成公式が提供される。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The paper uses a frame-theoretic setting to study the injectivity of a ReLU-layer on the closed ball of $\mathbb{R}^n$ and its non-negative part. In particular, the interplay between the radius of the ball and the bias vector is emphasized. Together with a perspective from convex geometry, this leads to a computationally feasible method of verifying the injectivity of a ReLU-layer under reasonable restrictions in terms of an upper bound of the bias vector. Explicit reconstruction formulas are provided, inspired by the duality concept from frame theory. All this gives rise to the possibility of quantifying the invertibility of a ReLU-layer and a concrete reconstruction algorithm for any input vector on the ball.
Abstract（参考訳）: この論文はフレーム理論を用いて、$\mathbb{R}^n$の閉球上のReLU層の射影率とその非負の部分を研究する。特に、ボールの半径とバイアスベクトルとの相互作用が強調される。凸幾何学からの視点とともに、このことは、バイアスベクトルの上界における合理的な制限の下でReLU層の射影性を検証する計算可能な方法をもたらす。明示的な再構成公式は、フレーム理論からの双対性の概念にインスパイアされたものである。これらにより、ボール上の任意の入力ベクトルに対するReLU層と具体的な再構成アルゴリズムの可逆性を定量化することができる。

関連論文リスト

Injectivity of ReLU-layers: Perspectives from Frame Theory [0.0]
インジェクティビティ(英: Injectivity)とは、情報を失うことなく、その出力から任意の入力を再構成できるマッピングの定義特性である。本稿では,この問題にアプローチするためのフレーム理論的視点を確立する。
論文参考訳（メタデータ） (2024-06-22T14:07:41Z)
Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文参考訳（メタデータ） (2023-10-20T12:45:12Z)
The Geometric Structure of Fully-Connected ReLU Layers [0.0]
ニューラルネットワークにおいて,$d$次元の完全連結ReLU層の幾何学構造を定式化し,解釈する。このようなネットワークによって生成される決定境界の幾何学的複雑さに関する結果を提供するとともに、アフィン変換を変調することで、そのようなネットワークは$d$の異なる決定境界しか生成できないことを示す。
論文参考訳（メタデータ） (2023-10-05T11:54:07Z)
Neural Vector Fields: Generalizing Distance Vector Fields by Codebooks and Zero-Curl Regularization [73.3605319281966]
メッシュと暗黙的符号なし距離関数(UDF)を演算する明示的な学習プロセスを採用した新しい3D表現であるNeural Vector Fields (NVF)を提案する。両NVFを水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・クロスドメイン化の4つのシナリオで評価した。
論文参考訳（メタデータ） (2023-09-04T10:42:56Z)
Provable Phase Retrieval with Mirror Descent [1.1662472705038338]
我々は,その挙動の程度から$n$-mの実ベクトルを復元する位相探索の問題を考察する。 2つの測定値について、n$の値が十分であれば、ほとんどすべての初期化子に対して高い確率で元のベクトルが符号まで回復することを示す。
論文参考訳（メタデータ） (2022-10-17T16:40:02Z)
Parabolic Relaxation for Quadratically-constrained Quadratic Programming -- Part I: Definitions & Basic Properties [6.355764634492975]
一般の二次制約計算に対して, 2次制約で記述した緩和法を提案する。緩和は半確定緩和(SDP)と同じくらい強くすることができる。これは、一連のサロゲートを必要とするアルゴリズムの加速に有効である。
論文参考訳（メタデータ） (2022-08-07T02:44:23Z)
Nonperturbative gravity corrections to bulk reconstruction [0.0]
有限次元あるいは無限次元のヒルベルト空間を用いてバルク再構成の非摂動重力的側面を理解するための新しい枠組みを導入する。任意の境界領域の復元ウェッジにおける局所演算子は、任意に大きいコード部分空間に対して、状態に依存しない方法で復元できることを実証する。
論文参考訳（メタデータ） (2021-12-23T18:59:59Z)
A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文参考訳（メタデータ） (2021-05-06T17:36:55Z)
Reconstruction of Voxels with Position- and Angle-Dependent Weightings [66.25540976151842]
まず、システム行列と重み付け部分の観点から、この再構成問題を定式化する。擬似逆数を計算し、解が階数不足であり、従って非常に不適切であることを示す。
論文参考訳（メタデータ） (2020-10-27T11:29:47Z)
Competitive Mirror Descent [67.31015611281225]
制約のある競合最適化には、制約の対象となる競合する目的を最小化しようとする複数のエージェントが含まれる。本稿では, 競合ミラー降下法(CMD)を提案する。特別の場合として、正の円錐上の問題に対する新しい競合乗法重みアルゴリズムを得る。
論文参考訳（メタデータ） (2020-06-17T22:11:35Z)
A refinement of Reznick's Positivstellensatz with applications to quantum information theory [72.8349503901712]
ヒルベルトの17番目の問題において、アルティンはいくつかの変数の任意の正定値が2つの平方和の商として書けることを示した。レズニックはアルティンの結果の分母は常に変数の平方ノルムの$N$-次パワーとして選択できることを示した。
論文参考訳（メタデータ） (2019-09-04T11:46:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。