論文の概要: HOSC: A Periodic Activation Function for Preserving Sharp Features in
Implicit Neural Representations
- arxiv url: http://arxiv.org/abs/2401.10967v1
- Date: Sat, 20 Jan 2024 09:56:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-23 18:42:35.483613
- Title: HOSC: A Periodic Activation Function for Preserving Sharp Features in
Implicit Neural Representations
- Title(参考訳): HOSC: 意図しない神経表現におけるシャープ特徴保存のための周期的活性化機能
- Authors: Danzel Serrano, Jakub Szymkowiak, Przemyslaw Musialski
- Abstract要約: 制御可能なシャープネスパラメータを持つ新しいアクティベーション関数であるHyperbolic Oscillation Function (HOSC)を導入する。
その単純さとモジュラリティのため、HOSCは、信号の暗黙的な表現方法としてニューラルネットワークを使用する既存のメソッドに容易に組み込むことのできる、プラグアンドプレイ機能を提供している。
我々はHOSCを一般的なタスクの配列における他の一般的なアクティベーションに対してベンチマークし、得られた表現の質の向上を実証的に示す。
- 参考スコア(独自算出の注目度): 2.1638817206926855
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently proposed methods for implicitly representing signals such as images,
scenes, or geometries using coordinate-based neural network architectures often
do not leverage the choice of activation functions, or do so only to a limited
extent. In this paper, we introduce the Hyperbolic Oscillation function (HOSC),
a novel activation function with a controllable sharpness parameter. Unlike any
previous activations, HOSC has been specifically designed to better capture
sudden changes in the input signal, and hence sharp or acute features of the
underlying data, as well as smooth low-frequency transitions. Due to its
simplicity and modularity, HOSC offers a plug-and-play functionality that can
be easily incorporated into any existing method employing a neural network as a
way of implicitly representing a signal. We benchmark HOSC against other
popular activations in an array of general tasks, empirically showing an
improvement in the quality of obtained representations, provide the
mathematical motivation behind the efficacy of HOSC, and discuss its
limitations.
- Abstract(参考訳): 近年,座標型ニューラルネットワークアーキテクチャを用いた画像やシーン,あるいはジオメトリなどの信号を暗黙的に表現する手法では,アクティベーション関数の選択を利用できない場合が多い。
本稿では,制御可能なシャープネスパラメータを持つ新しい活性化関数であるHyperbolic Oscillation Function (HOSC)を紹介する。
以前のどのアクティベーションとは異なり、hoscは入力信号の突然の変化をより正確に捉えるように特別に設計されており、それゆえ基礎となるデータの鋭く鋭い特徴や鋭い特徴、そしてスムーズな低周波遷移を捉えている。
その単純さとモジュラリティのため、HOSCは、信号の暗黙的な表現方法としてニューラルネットワークを使用する既存のメソッドに容易に組み込むことのできる、プラグアンドプレイ機能を提供している。
我々はHOSCを一般的なタスク群における他の一般的なアクティベーションに対してベンチマークし、得られた表現の質の向上を実証的に示すとともに、HOSCの有効性の背後にある数学的モチベーションを提供し、その限界について議論する。
関連論文リスト
- INCODE: Implicit Neural Conditioning with Prior Knowledge Embeddings [4.639495398851869]
Inlicit Neural Representation (INR)は、複雑なデータの連続的かつ滑らかな表現を提供するためにニューラルネットワークを活用することで、信号表現に革命をもたらした。
InCODEは、深い事前知識を用いて、INRにおける正弦波ベースの活性化関数の制御を強化する新しいアプローチである。
提案手法は表現力に優れるだけでなく,音声,画像,3次元形状復元などの複雑な課題に対処する能力も拡張している。
論文 参考訳(メタデータ) (2023-10-28T23:16:49Z) - TSSR: A Truncated and Signed Square Root Activation Function for Neural
Networks [5.9622541907827875]
我々は、Trncated and Signed Square Root (TSSR) 関数と呼ばれる新しいアクティベーション関数を導入する。
この関数は奇数、非線形、単調、微分可能であるため特異である。
ニューラルネットワークの数値安定性を改善する可能性がある。
論文 参考訳(メタデータ) (2023-08-09T09:40:34Z) - TOPIQ: A Top-down Approach from Semantics to Distortions for Image
Quality Assessment [53.72721476803585]
画像品質評価(IQA)は、ディープニューラルネットワークによる顕著な進歩を目の当たりにしたコンピュータビジョンの基本課題である。
本稿では,高レベルの意味論を用いてIQAネットワークを誘導し,意味的に重要な局所歪み領域に注目するトップダウンアプローチを提案する。
提案手法の重要な要素は,低レベル特徴に対するアテンションマップを算出した,クロススケールアテンション機構である。
論文 参考訳(メタデータ) (2023-08-06T09:08:37Z) - ENN: A Neural Network with DCT Adaptive Activation Functions [2.2713084727838115]
離散コサイン変換(DCT)を用いて非線形活性化関数をモデル化する新しいモデルであるExpressive Neural Network(ENN)を提案する。
このパラメータ化は、トレーニング可能なパラメータの数を低く保ち、勾配ベースのスキームに適合し、異なる学習タスクに適応する。
ENNのパフォーマンスは、いくつかのシナリオにおいて40%以上の精度のギャップを提供する、アートベンチマークの状態を上回ります。
論文 参考訳(メタデータ) (2023-07-02T21:46:30Z) - Hierarchical Spherical CNNs with Lifting-based Adaptive Wavelets for
Pooling and Unpooling [101.72318949104627]
本稿では, 階層型畳み込みニューラルネットワーク(HS-CNN)の新たな枠組みを提案し, プールやアンプールのための適応球面ウェーブレットを学習する。
LiftHS-CNNは、画像レベルのタスクとピクセルレベルのタスクの両方において、より効率的な階層的特徴学習を実現する。
論文 参考訳(メタデータ) (2022-05-31T07:23:42Z) - Beyond Periodicity: Towards a Unifying Framework for Activations in
Coordinate-MLPs [37.56813817513575]
信号の符号化に適した幅広い種類のアクティベーションが存在することを示す。
我々は、これらの非伝統的なアクティベーション機能を利用する座標MLPへのシフトを提唱する。
論文 参考訳(メタデータ) (2021-11-30T05:30:38Z) - Rate Distortion Characteristic Modeling for Neural Image Compression [59.25700168404325]
エンドツーエンドの最適化機能は、ニューラルイメージ圧縮(NIC)の優れた損失圧縮性能を提供する。
異なるモデルは、R-D空間の異なる点に到達するために訓練される必要がある。
深層ネットワークと統計モデルを用いてNICのR-D挙動を記述するために,本質的な数学的関数の定式化に努めている。
論文 参考訳(メタデータ) (2021-06-24T12:23:05Z) - Asymmetric CNN for image super-resolution [102.96131810686231]
深層畳み込みニューラルネットワーク(CNN)は、過去5年間で低レベルビジョンに広く適用されています。
画像超解像のための非対称ブロック(AB)、mem?ory拡張ブロック(MEB)、高周波数特徴強調ブロック(HFFEB)からなる非対称CNN(ACNet)を提案する。
我々のACNetは、ブラインドノイズの単一画像超解像(SISR)、ブラインドSISR、ブラインドSISRを効果的に処理できる。
論文 参考訳(メタデータ) (2021-03-25T07:10:46Z) - Fine-Grained Dynamic Head for Object Detection [68.70628757217939]
本稿では,各インスタンスの異なるスケールからfpn特徴の画素レベルの組み合わせを条件付きで選択する,きめ細かい動的ヘッドを提案する。
実験は,いくつかの最先端検出ベンチマークにおける提案手法の有効性と有効性を示す。
論文 参考訳(メタデータ) (2020-12-07T08:16:32Z) - Learn to cycle: Time-consistent feature discovery for action recognition [83.43682368129072]
時間的変動を一般化することは、ビデオにおける効果的な行動認識の前提条件である。
Squeeze Re Temporal Gates (SRTG) を導入する。
SRTPGブロックを使用する場合,GFLOの数は最小限に抑えられ,一貫した改善が見られた。
論文 参考訳(メタデータ) (2020-06-15T09:36:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。