論文の概要: Zero-shot Classification using Hyperdimensional Computing
- arxiv url: http://arxiv.org/abs/2401.16876v1
- Date: Tue, 30 Jan 2024 10:29:31 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-31 15:32:12.374359
- Title: Zero-shot Classification using Hyperdimensional Computing
- Title(参考訳): 超次元計算によるゼロショット分類
- Authors: Samuele Ruffino, Geethan Karunaratne, Michael Hersche, Luca Benini,
Abu Sebastian and Abbas Rahimi
- Abstract要約: そこで本研究では,属性エンコーダ内における静的バイナリコードブックのシンボル型分散表現を用いて,単純なエンドツーエンドのトレーニング可能なモデルをコンパクトに表現する。
ゼロショット抽出タスクはHDC-ZSCで行うことができ、その後、最小限のアーキテクチャ変更と最小限のモデル再訓練でゼロショット分類タスクに再利用できることを示す。
- 参考スコア(独自算出の注目度): 13.844091236509314
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Classification based on Zero-shot Learning (ZSL) is the ability of a model to
classify inputs into novel classes on which the model has not previously seen
any training examples. Providing an auxiliary descriptor in the form of a set
of attributes describing the new classes involved in the ZSL-based
classification is one of the favored approaches to solving this challenging
task. In this work, inspired by Hyperdimensional Computing (HDC), we propose
the use of stationary binary codebooks of symbol-like distributed
representations inside an attribute encoder to compactly represent a
computationally simple end-to-end trainable model, which we name
Hyperdimensional Computing Zero-shot Classifier~(HDC-ZSC). It consists of a
trainable image encoder, an attribute encoder based on HDC, and a similarity
kernel. We show that HDC-ZSC can be used to first perform zero-shot attribute
extraction tasks and, can later be repurposed for Zero-shot Classification
tasks with minimal architectural changes and minimal model retraining. HDC-ZSC
achieves Pareto optimal results with a 63.8% top-1 classification accuracy on
the CUB-200 dataset by having only 26.6 million trainable parameters. Compared
to two other state-of-the-art non-generative approaches, HDC-ZSC achieves 4.3%
and 9.9% better accuracy, while they require more than 1.85x and 1.72x
parameters compared to HDC-ZSC, respectively.
- Abstract(参考訳): Zero-shot Learning (ZSL) に基づいた分類は、モデルが以前にトレーニング例を見ていない新しいクラスに入力を分類する能力である。
ZSLに基づく分類に関わる新しいクラスを記述する属性の集合の形で補助的な記述子を提供することは、この課題を解決するための好ましいアプローチの1つである。
本研究は超次元コンピューティング(HDC)に触発され,属性エンコーダ内のシンボル様分散表現の定常バイナリコードブックを用いて,超次元計算ゼロショット分類器~(HDC-ZSC)を計算的にシンプルな訓練可能モデルにコンパクトに表現することを提案する。
トレーニング可能なイメージエンコーダと、hdcに基づく属性エンコーダと、類似性カーネルで構成されている。
hdc-zscは,まずゼロショット属性抽出タスクを実行し,その後,最小限のアーキテクチャ変更と最小限のモデルリトレーニングでゼロショット分類タスクに再利用できることを示した。
HDC-ZSCは、2660万のトレーニング可能なパラメータしか持たず、CUB-200データセット上の63.8%のトップ1分類精度でパレート最適結果を達成する。
他の2つの最先端の非生成的アプローチと比較して、HDC-ZSCは4.3%と9.9%の精度で、それぞれ1.85倍と1.72倍のパラメータを必要とする。
関連論文リスト
- Transductive Zero-Shot and Few-Shot CLIP [24.592841797020203]
本稿では,トランスダクティブなゼロショットと少数ショットのCLIP分類問題に対処する。
推論は、各インスタンスを独立して扱うのではなく、ラベルのないクエリサンプルのミニバッチで共同で実行される。
提案手法は,CLIPのゼロショット性能に対して,画像ネットの精度を約20%向上させる。
論文 参考訳(メタデータ) (2024-04-08T12:44:31Z) - Rethinking Few-shot 3D Point Cloud Semantic Segmentation [62.80639841429669]
本稿では,FS-PCSによる3Dポイント・クラウドセマンティックセマンティックセグメンテーションについて再検討する。
我々は、最先端の2つの重要な問題、前景の漏洩とスパースポイントの分布に焦点をあてる。
これらの問題に対処するために、新しいベンチマークを構築するための標準化されたFS-PCS設定を導入する。
論文 参考訳(メタデータ) (2024-03-01T15:14:47Z) - Image-free Classifier Injection for Zero-Shot Classification [72.66409483088995]
ゼロショット学習モデルは、訓練中に見られなかったクラスからのサンプルのイメージ分類において顕著な結果が得られる。
我々は,画像データを用いることなく,ゼロショット分類機能を備えた事前学習モデルの装備を目指す。
提案したイメージフリーインジェクション・ウィズ・セマンティックス (ICIS) でこれを実現する。
論文 参考訳(メタデータ) (2023-08-21T09:56:48Z) - Class-Incremental Exemplar Compression for Class-Incremental Learning [90.93462714376078]
CIM(class-incremental masking)と呼ばれる適応マスク生成モデルを提案する。
我々は,Food-101, ImageNet-100, ImageNet-1000などの高分解能CILベンチマーク実験を行った。
CIMによる圧縮例を用いることで,10Phase ImageNet-1000のFOSTERよりも4.8ポイント高いCIL精度が得られることを示す。
論文 参考訳(メタデータ) (2023-03-24T14:51:20Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - EnHDC: Ensemble Learning for Brain-Inspired Hyperdimensional Computing [2.7462881838152913]
本稿では,超次元コンピューティングの文脈において,アンサンブル学習を探求する最初の試みについて述べる。
本稿では,EnHDCと呼ばれる最初のアンサンブルHDCモデルを提案する。
本研究では,1つのHDC分類器に対して平均3.2%の精度向上を達成できることを示す。
論文 参考訳(メタデータ) (2022-03-25T09:54:00Z) - Scaling Semantic Segmentation Beyond 1K Classes on a Single GPU [87.48110331544885]
既存のセマンティックセグメンテーションモデルのトレーニングとスケールアップのための新しいトレーニング手法を提案する。
我々は、LVISとCOCOアノテーションからブートストラップした1284クラスのデータセットに対するアプローチの明確な利点を示し、DeeplabV3+モデルの3倍のmIoUを実現した。
論文 参考訳(メタデータ) (2020-12-14T13:12:38Z) - Device-Robust Acoustic Scene Classification Based on Two-Stage
Categorization and Data Augmentation [63.98724740606457]
我々は,GT,USTC,Tencent,UKEの4つのグループからなる共同で,DCASE 2020 Challengeの第1タスク - 音響シーン分類(ASC)に取り組む。
タスク1aは、複数の(実とシミュレートされた)デバイスで記録されたオーディオ信号のASCを10種類の微細なクラスにフォーカスする。
Task 1bは、低複雑さのソリューションを使用して、データを3つの上位クラスに分類することに関心がある。
論文 参考訳(メタデータ) (2020-07-16T15:07:14Z) - CRL: Class Representative Learning for Image Classification [5.11566193457943]
本稿では,ZSLの影響を受けやすいクラス代表学習モデル(CRL)を提案する。
CRLモデルでは、まず、畳み込みニューラルネットワーク(CNN)から抽出された特徴を集約することにより、データセットのクラスを表現するクラス代表を構築する。
提案したCRLモデルは,ZSLおよびモバイル深層学習における最先端の研究と比較して,優れた性能を示した。
論文 参考訳(メタデータ) (2020-02-16T17:02:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。