論文の概要: Exploration of Lightweight Single Image Denoising with Transformers and Truly Fair Training

• arxiv url: http://arxiv.org/abs/2304.01805v1
• Date: Tue, 4 Apr 2023 14:02:42 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-05 13:39:11.114476
• Title: Exploration of Lightweight Single Image Denoising with Transformers and Truly Fair Training
• Title（参考訳）: 変圧器を用いた軽量単一ノイズ像の探索と真公正トレーニング
• Authors: Haram Choi, Cheolwoong Na, Jinseop Kim, Jihoon Yang
• Abstract要約: この作業は、軽量デノシング(LWDN)とトランスフォーマーの7つの比較ベースライントランスフォーマーを提供する。 また,ランダムに刈り取られたパッチの一部が,トレーニング中のデノイング性能に顕著に影響を及ぼすことを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As multimedia content often contains noise from intrinsic defects of digital devices, image denoising is an important step for high-level vision recognition tasks. Although several studies have developed the denoising field employing advanced Transformers, these networks are too momory-intensive for real-world applications. Additionally, there is a lack of research on lightweight denosing (LWDN) with Transformers. To handle this, this work provides seven comparative baseline Transformers for LWDN, serving as a foundation for future research. We also demonstrate the parts of randomly cropped patches significantly affect the denoising performances during training. While previous studies have overlooked this aspect, we aim to train our baseline Transformers in a truly fair manner. Furthermore, we conduct empirical analyses of various components to determine the key considerations for constructing LWDN Transformers. Codes are available at https://github.com/rami0205/LWDN.
• Abstract（参考訳）: マルチメディアコンテンツは、デジタルデバイスの本質的な欠陥からのノイズをしばしば含んでいるため、画像のデノナイズは高レベルの視覚認識タスクにとって重要なステップである。 いくつかの研究で高度なトランスフォーマーを用いたデノベーション分野が開発されているが、これらのネットワークは現実世界の応用には多すぎる。 さらに、トランスフォーマーを用いた軽量デノシング(LWDN)の研究も不足している。 これに対応するために、この研究はLWDNの7つの比較ベースライントランスフォーマーを提供し、将来の研究の基盤となる。 また,ランダムに切り取られたパッチの部分は,トレーニング中のノイズ除去性能に大きく影響することを示した。 これまでの研究ではこの点を見落としていましたが、私たちはベースライントランスフォーマーを真に公平にトレーニングすることを目指しています。 さらに,LWDN変換器を構成する上で重要な考慮事項を決定するために,各種成分の実験的分析を行う。 コードはhttps://github.com/rami0205/LWDNで入手できる。

関連論文リスト

• Hiera: A Hierarchical Vision Transformer without the Bells-and-Whistles [65.54857068975068]
  本稿では、この追加のバルクは不要であると論じる。 強いビジュアル・プレテキスト・タスク(MAE)で事前トレーニングを行うことで、最先端の多段階視覚変換器から全てのベル・アンド・ウィストルを除去することができる。 Hieraは、非常に単純な階層型視覚変換器で、従来のモデルよりも正確です。
  論文  参考訳（メタデータ） (2023-06-01T17:59:58Z)
• Dynamic Grained Encoder for Vision Transformers [150.02797954201424]
  本稿では,自然画像の空間的冗長性を生かした視覚変換器のスパースクエリを提案する。 本研究では,各空間領域に適切なクエリ数を適応的に割り当てる動的変換器を提案する。 我々のエンコーダにより、最先端のビジョン変換器は、画像分類において同等の性能を維持しながら、計算複雑性を40%から60%削減できる。
  論文  参考訳（メタデータ） (2023-01-10T07:55:29Z)
• Pix4Point: Image Pretrained Standard Transformers for 3D Point Cloud Understanding [62.502694656615496]
  本稿では、プログレッシブ・ポイント・パッチ・エンベディングと、PViTと呼ばれる新しいポイント・クラウド・トランスフォーマーモデルを提案する。 PViTはTransformerと同じバックボーンを共有しているが、データに対して空腹が少ないことが示されており、Transformerは最先端技術に匹敵するパフォーマンスを実現することができる。 我々は、イメージ領域で事前訓練されたトランスフォーマーを活用して、下流のクラウド理解を強化する、シンプルで効果的なパイプライン「Pix4Point」を定式化します。
  論文  参考訳（メタデータ） (2022-08-25T17:59:29Z)
• Exploring Adversarial Robustness of Vision Transformers in the Spectral Perspective [17.944601540945175]
  Vision Transformerは画像分類タスクの強力なツールとして登場し、畳み込みニューラルネットワーク(CNN)の性能を上回っている。 本稿では,スペクトル領域における周波数選択摂動に対する変換器の対角的堅牢性について検討する。 実験の結果、Transformerは位相情報や低周波情報に依存しており、CNNよりも周波数選択攻撃に弱いことが判明した。
  論文  参考訳（メタデータ） (2022-08-20T04:14:27Z)
• Deep Laparoscopic Stereo Matching with Transformers [46.18206008056612]
  トランス構造をうまく利用した自己保持機構は、多くのコンピュータビジョンタスクにおいて有望であることが示されている。 本稿では,CNNの長所と変圧器を統一設計で組み合わせたハイブリッドなディープステレオマッチングフレームワーク(HybridStereoNet)を提案する。
  論文  参考訳（メタデータ） (2022-07-25T12:54:32Z)
• Semi-Supervised Vision Transformers [76.83020291497895]
  半教師付き画像分類のための視覚変換器の訓練について検討する。 半教師付き ImageNet 設定では,ビジョントランスフォーマーの性能が良くない。 CNNは小さなラベル付きデータ構造において優れた結果を得る。
  論文  参考訳（メタデータ） (2021-11-22T09:28:13Z)
• Improve Vision Transformers Training by Suppressing Over-smoothing [28.171262066145612]
  トランス構造をコンピュータビジョンのタスクに導入することで、従来の畳み込みネットワークよりも優れたスピード精度のトレードオフが得られます。 しかし、視覚タスクでバニラ変圧器を直接訓練すると、不安定で準最適結果が得られることが示されている。 近年の研究では,視覚タスクの性能向上のために,畳み込み層を導入してトランスフォーマー構造を改良することを提案する。
  論文  参考訳（メタデータ） (2021-04-26T17:43:04Z)
• Spatiotemporal Transformer for Video-based Person Re-identification [102.58619642363958]
  我々は、強い学習能力にもかかわらず、バニラトランスフォーマーは過剰フィットのリスクの増加に苦しむことを示しています。 そこで本研究では,合成ビデオデータからモデルを事前学習し,下流領域に伝達する新しいパイプラインを提案する。 提案アルゴリズムは,3つの人気ビデオベース人物識別ベンチマークにおいて,精度向上を実現する。
  論文  参考訳（メタデータ） (2021-03-30T16:19:27Z)
• Training Vision Transformers for Image Retrieval [32.09708181236154]
  我々は、画像記述子を生成するために視覚変換器を採用し、結果のモデルをメートル法学習目標で訓練する。 コンボリューションに基づくアプローチよりも,トランスフォーマーの一貫性と顕著な改善が示された。
  論文  参考訳（メタデータ） (2021-02-10T18:56:41Z)
• Toward Transformer-Based Object Detection [12.704056181392415]
  ビジョントランスフォーマーは、共通の検出タスクヘッドによってバックボーンとして使用することができ、競合するCOCO結果を生成する。 vit-frcnnは、大きな事前訓練能力と高速微調整性能を含むトランスフォーマーに関連するいくつかの既知の特性を示す。 ViT-FRCNNは、オブジェクト検出などの複雑な視覚タスクの純粋なトランスフォーマーソリューションへの重要なステップストーンであると考えています。
  論文  参考訳（メタデータ） (2020-12-17T22:33:14Z)
• AutoTrans: Automating Transformer Design via Reinforced Architecture Search [52.48985245743108]
  本稿では,手作業に適したトランスフォーマーアーキテクチャを実現するために,レイヤノルムの設定方法,スケール,レイヤ数,ヘッド数,アクティベーション関数などを実証的に検討する。 CoNLL03、Multi-30k、IWSLT14、WMT-14の実験は、探索されたトランスモデルが標準トランスモデルより優れていることを示している。
  論文  参考訳（メタデータ） (2020-09-04T08:46:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。