論文の概要: Kaggle Kinship Recognition Challenge: Introduction of Convolution-Free
Model to boost conventional
- arxiv url: http://arxiv.org/abs/2206.05488v1
- Date: Sat, 11 Jun 2022 10:22:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-14 13:33:26.713073
- Title: Kaggle Kinship Recognition Challenge: Introduction of Convolution-Free
Model to boost conventional
- Title(参考訳): Kaggle Kinship Recognition Challenge: 従来の改良のための畳み込みフリーモデルの導入
- Authors: Mingchuan Tian, Guangway Teng, Yipeng Bao
- Abstract要約: そこで我々は,CNNと組み合わせたベース分類器として視覚変換器を提案する。
我々は既存のCNNモデルの上にビジョントランスフォーマーモデルの変種を実装・最適化することで提案したアイデアを検証する。
我々は,高度に最適化されたCNNアンサンブルが,ビジョントランスフォーマーモデルの変種と簡単に組み合わさることで,ROCスコアの大幅な向上を達成できることを実証した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work aims to explore a convolution-free base classifier that can be used
to widen the variations of the conventional ensemble classifier. Specifically,
we propose Vision Transformers as base classifiers to combine with CNNs for a
unique ensemble solution in Kaggle kinship recognition. In this paper, we
verify our proposed idea by implementing and optimizing variants of the Vision
Transformer model on top of the existing CNN models. The combined models
achieve better scores than conventional ensemble classifiers based solely on
CNN variants. We demonstrate that highly optimized CNN ensembles publicly
available on the Kaggle Discussion board can easily achieve a significant boost
in ROC score by simply ensemble with variants of the Vision Transformer model
due to low correlation.
- Abstract(参考訳): 本研究の目的は、従来のアンサンブル分類器のバリエーションを広げるために使用できる畳み込みフリーな基本分類器を探索することである。
具体的には,カグル・キンシップ認識における一意なアンサンブル解のために,cnnと組み合わせた基本分類器として視覚トランスフォーマーを提案する。
本稿では,既存のCNNモデル上でのビジョントランスフォーマーモデルの変種の実装と最適化により,提案したアイデアを検証する。
組み合わせモデルは、CNN変種のみに基づく従来のアンサンブル分類器よりも優れたスコアを得る。
そこで我々は,Kaggle discussion Boardで公開されている高度に最適化されたCNNアンサンブルが,相関の低いVision Transformerモデルの変種と簡単に組み合わさることで,ROCスコアの大幅な向上を達成できることを実証した。
関連論文リスト
- B-cosification: Transforming Deep Neural Networks to be Inherently Interpretable [53.848005910548565]
B-コシフィケーション(B-cosification)は、既存の訓練済みモデルを本質的に解釈可能なものにするための新しいアプローチである。
B-コシフィケーションは、解釈可能性の観点から、スクラッチから訓練されたB-コシフィケーションモデルに匹敵するモデルが得られる。
論文 参考訳(メタデータ) (2024-11-01T16:28:11Z) - DuoFormer: Leveraging Hierarchical Visual Representations by Local and Global Attention [1.5624421399300303]
本稿では、畳み込みニューラルネットワーク(CNN)の特徴抽出機能と視覚変換器(ViT)の高度な表現可能性とを包括的に統合した新しい階層型トランスフォーマーモデルを提案する。
インダクティブバイアスの欠如と、ViTの広範囲なトレーニングデータセットへの依存に対処するため、我々のモデルはCNNバックボーンを使用して階層的な視覚表現を生成する。
これらの表現は、革新的なパッチトークン化を通じてトランスフォーマー入力に適合する。
論文 参考訳(メタデータ) (2024-07-18T22:15:35Z) - Learning CNN on ViT: A Hybrid Model to Explicitly Class-specific Boundaries for Domain Adaptation [13.753795233064695]
ほとんどのドメイン適応(DA)法は、畳み込みニューラルネットワーク(CNN)または視覚変換器(ViT)に基づいている。
ECB(Explicitly Class-specific boundaries)と呼ばれる,ViTとCNNの両方をフル活用するためのハイブリッド手法を設計する。
ECBは独自の強みを組み合わせるために、ViTでCNNを学びます。
論文 参考訳(メタデータ) (2024-03-27T08:52:44Z) - Probabilistic Topic Modelling with Transformer Representations [0.9999629695552195]
トランスフォーマー表現型ニューラルトピックモデル(TNTM)を提案する。
このアプローチは、完全に確率論的モデリングを伴うトランスフォーマー埋め込みに基づくトピックの強力で汎用的な概念を統一する。
実験の結果,提案手法は組込みコヒーレンスの観点から,様々な最先端手法に匹敵する結果が得られることがわかった。
論文 参考訳(メタデータ) (2024-03-06T14:27:29Z) - Learning Target-aware Representation for Visual Tracking via Informative
Interactions [49.552877881662475]
トラッキングのための特徴表現のターゲット認識能力を改善するために,新しいバックボーンアーキテクチャを提案する。
提案したGIMモジュールとInBN機構は、CNNやTransformerなど、さまざまなバックボーンタイプに適用可能である。
論文 参考訳(メタデータ) (2022-01-07T16:22:27Z) - Optimising for Interpretability: Convolutional Dynamic Alignment
Networks [108.83345790813445]
我々は、畳み込み動的アライメントネットワーク(CoDA Nets)と呼ばれる新しいニューラルネットワークモデルを紹介する。
彼らの中核となるビルディングブロックは動的アライメントユニット(DAU)であり、タスク関連パターンに合わせて動的に計算された重みベクトルで入力を変換するように最適化されている。
CoDAネットは一連の入力依存線形変換を通じて分類予測をモデル化し、出力を個々の入力コントリビューションに線形分解することができる。
論文 参考訳(メタデータ) (2021-09-27T12:39:46Z) - A Battle of Network Structures: An Empirical Study of CNN, Transformer,
and MLP [121.35904748477421]
畳み込みニューラルネットワーク(CNN)は、コンピュータビジョンのための支配的なディープニューラルネットワーク(DNN)アーキテクチャである。
トランスフォーマーとマルチ層パーセプトロン(MLP)ベースのモデル(Vision TransformerやVision-Mixer)が新しいトレンドを導い始めた。
本稿では,これらのDNN構造について実証的研究を行い,それぞれの長所と短所を理解しようとする。
論文 参考訳(メタデータ) (2021-08-30T06:09:02Z) - Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。
初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。
提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文 参考訳(メタデータ) (2021-06-04T14:39:03Z) - ACDC: Weight Sharing in Atom-Coefficient Decomposed Convolution [57.635467829558664]
我々は,CNNにおいて,畳み込みカーネル間の構造正則化を導入する。
我々はCNNがパラメータや計算量を劇的に減らして性能を維持していることを示す。
論文 参考訳(メタデータ) (2020-09-04T20:41:47Z) - A Simple Fix for Convolutional Neural Network via Coordinate Embedding [2.1320960069210484]
座標埋め込みによるCNNモデルに座標情報を組み込むための簡単な手法を提案する。
我々のアプローチは下流モデルアーキテクチャを変更せず、オブジェクト検出のようなタスクのためにトレーニング済みのモデルに容易に適用することができる。
論文 参考訳(メタデータ) (2020-03-24T00:31:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。