論文の概要: SplineCam: Exact Visualization and Characterization of Deep Network Geometry and Decision Boundaries

• arxiv url: http://arxiv.org/abs/2302.12828v2
• Date: Thu, 6 Jun 2024 18:40:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-10 23:04:47.977871
• Title: SplineCam: Exact Visualization and Characterization of Deep Network Geometry and Decision Boundaries
• Title（参考訳）: SplineCam: ディープネットワーク形状と決定境界の正確な可視化とキャラクタリゼーション
• Authors: Ahmed Imtiaz Humayun, Randall Balestriero, Guha Balakrishnan, Richard Baraniuk,
• Abstract要約: SplineCamはサンプリングやアーキテクチャの単純化といった近似を使わずにDNs幾何を計算する。 SplineCamは、アーキテクチャを比較し、一般化可能性を測定し、多様体上の決定境界からサンプルを抽出することを可能にする。
• 参考スコア（独自算出の注目度）: 18.794775309117252
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Current Deep Network (DN) visualization and interpretability methods rely heavily on data space visualizations such as scoring which dimensions of the data are responsible for their associated prediction or generating new data features or samples that best match a given DN unit or representation. In this paper, we go one step further by developing the first provably exact method for computing the geometry of a DN's mapping - including its decision boundary - over a specified region of the data space. By leveraging the theory of Continuous Piece-Wise Linear (CPWL) spline DNs, SplineCam exactly computes a DNs geometry without resorting to approximations such as sampling or architecture simplification. SplineCam applies to any DN architecture based on CPWL nonlinearities, including (leaky-)ReLU, absolute value, maxout, and max-pooling and can also be applied to regression DNs such as implicit neural representations. Beyond decision boundary visualization and characterization, SplineCam enables one to compare architectures, measure generalizability and sample from the decision boundary on or off the manifold. Project Website: bit.ly/splinecam.
• Abstract（参考訳）: 現在のディープ・ネットワーク(DN)の可視化と解釈可能性の手法は、データのどの次元が関連する予測に責任があるかを評価することや、特定のDN単位や表現に最もよく一致する新しいデータ特徴やサンプルを生成することなど、データ空間の可視化に大きく依存している。 本稿では、データ空間の特定領域上でDNマッピングの幾何(決定境界を含む)を計算するための、初めて証明可能な正確な手法を開発することにより、さらに一歩進める。 連続ピアース・ワイズ・リニア(CPWL)スプラインDNの理論を活用することで、サンプリングやアーキテクチャの単純化といった近似に頼ることなく、正確にDNs幾何を計算する。 SplineCamは、(leaky-)ReLU、絶対値、最大値、最大プーリングを含むCPWL非線形性に基づく任意のDNアーキテクチャに適用でき、暗黙の神経表現のような回帰DNにも適用できる。 SplineCamは、決定境界の可視化とキャラクタリゼーションの他に、アーキテクチャの比較、一般化可能性の測定、多様体の内外における決定境界からのサンプルも可能にする。 プロジェクトウェブサイト: bit.ly/splinecam

関連論文リスト

• Deep Learning as Ricci Flow [38.27936710747996]
  ディープニューラルネットワーク(DNN)は、複雑なデータの分布を近似する強力なツールである。 分類タスク中のDNNによる変換は、ハミルトンのリッチ流下で期待されるものと類似していることを示す。 本研究の成果は, 微分幾何学や離散幾何学から, 深層学習における説明可能性の問題まで, ツールの利用を動機づけるものである。
  論文  参考訳（メタデータ） (2024-04-22T15:12:47Z)
• Bayesian Interpolation with Deep Linear Networks [92.1721532941863]
  ニューラルネットワークの深さ、幅、データセットサイズがモデル品質にどう影響するかを特徴付けることは、ディープラーニング理論における中心的な問題である。 線形ネットワークが無限深度で証明可能な最適予測を行うことを示す。 また、データに依存しない先行法により、広い線形ネットワークにおけるベイズ模型の証拠は無限の深さで最大化されることを示す。
  論文  参考訳（メタデータ） (2022-12-29T20:57:46Z)
• GraphCSPN: Geometry-Aware Depth Completion via Dynamic GCNs [49.55919802779889]
  本稿では,グラフ畳み込みに基づく空間伝搬ネットワーク(GraphCSPN)を提案する。 本研究では、幾何学的表現学習において、畳み込みニューラルネットワークとグラフニューラルネットワークを相補的に活用する。 提案手法は,数段の伝搬ステップのみを使用する場合と比較して,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2022-10-19T17:56:03Z)
• Towards General-Purpose Representation Learning of Polygonal Geometries [62.34832826705641]
  我々は,多角形形状を埋め込み空間に符号化できる汎用多角形符号化モデルを開発した。 1)MNISTに基づく形状分類,2)DBSR-46KとDBSR-cplx46Kという2つの新しいデータセットに基づく空間関係予測を行う。 以上の結果から,NUFTspec と ResNet1D は,既存のベースラインよりも有意なマージンで優れていた。
  論文  参考訳（メタデータ） (2022-09-29T15:59:23Z)
• Variational Inference for Infinitely Deep Neural Networks [0.4061135251278187]
  非有界深度ニューラルネットワーク(UDN) 我々は、無限に深い確率モデルである非有界深度ニューラルネットワーク(UDN)を導入し、その複雑さをトレーニングデータに適用する。 我々はUDNを実データと合成データに基づいて研究する。
  論文  参考訳（メタデータ） (2022-09-21T03:54:34Z)
• Spelunking the Deep: Guaranteed Queries for General Neural Implicit Surfaces [35.438964954948574]
  この研究は、広範囲の既存アーキテクチャに対して、一般的なニューラル暗黙関数でクエリを直接実行するための新しいアプローチを示す。 私たちのキーとなるツールは、ニューラルネットワークへのレンジ分析の適用であり、ネットワークの出力を領域を越えてバウンドするために自動演算ルールを使用します。 得られた境界を用いて、レイキャスト、交差試験、空間階層の構築、高速メッシュ抽出、最近点評価などのクエリを開発する。
  論文  参考訳（メタデータ） (2022-02-05T00:37:08Z)
• Non-linear Independent Dual System (NIDS) for Discretization-independent Surrogate Modeling over Complex Geometries [0.0]
  非線形独立双対系(Non-linear independent dual system、NIDS)は、PDEソリューションの離散化独立で連続的な表現のための深層学習サロゲートモデルである。 NIDSは複雑な可変ジオメトリとメッシュトポロジを持つドメインの予測に使用できる。 テストケースには、複雑な幾何学とデータ不足を伴う車両の問題が含まれており、訓練方法によって実現されている。
  論文  参考訳（メタデータ） (2021-09-14T23:38:41Z)
• Deep Implicit Surface Point Prediction Networks [49.286550880464866]
  暗黙の関数としての3次元形状の深い神経表現は、高忠実度モデルを生成することが示されている。 本稿では,CSP(Nest Surface-point)表現と呼ばれる新しい種類の暗黙の表現を用いて,そのような曲面をモデル化する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-10T14:31:54Z)
• A Point-Cloud Deep Learning Framework for Prediction of Fluid Flow Fields on Irregular Geometries [62.28265459308354]
  ネットワークは空間位置とCFD量のエンドツーエンドマッピングを学習する。 断面形状の異なるシリンダーを過ぎる非圧縮層状定常流を考察する。 ネットワークは従来のCFDの数百倍の速さで流れ場を予測する。
  論文  参考訳（メタデータ） (2020-10-15T12:15:02Z)
• Dual-constrained Deep Semi-Supervised Coupled Factorization Network with Enriched Prior [80.5637175255349]
  本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。 隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。 我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
  論文  参考訳（メタデータ） (2020-09-08T13:10:21Z)
• Deep neural networks for inverse problems with pseudodifferential operators: an application to limited-angle tomography [0.4110409960377149]
  線形逆問題において擬微分演算子(Psi$DOs)を学習するための新しい畳み込みニューラルネットワーク(CNN)を提案する。 フォワード演算子のより一般的な仮定の下では、ISTAの展開された反復はCNNの逐次的な層として解釈できることを示す。 特に、LA-CTの場合、アップスケーリング、ダウンスケーリング、畳み込みの操作は、制限角X線変換の畳み込み特性とウェーブレット系を定義する基本特性を組み合わせることで正確に決定できることを示す。
  論文  参考訳（メタデータ） (2020-06-02T14:03:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。