論文の概要: ResBit: Residual Bit Vector for Categorical Values

• arxiv url: http://arxiv.org/abs/2309.17196v4
• Date: Thu, 14 Nov 2024 10:16:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-15 15:21:57.194331
• Title: ResBit: Residual Bit Vector for Categorical Values
• Title（参考訳）: ResBit: カテゴリ値のための残留ビットベクトル
• Authors: Masane Fuchi, Amar Zanashir, Hiroto Minami, Tomohiro Takagi,
• Abstract要約: 1ホットベクトルは、多くのカテゴリを含むデータセットを扱う際に、次元性の線形増加に悩まされる。 分類データを密に表現する手法であるResidual Bit Vectors (ResBit)を提案する。 以上の結果から,多くの既存手法が低次元表現の必要性を強調し,高次心的データに苦しむことが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: One-hot vectors, a common method for representing discrete/categorical data, in machine learning are widely used because of their simplicity and intuitiveness. However, one-hot vectors suffer from a linear increase in dimensionality, posing computational and memory challenges, especially when dealing with datasets containing numerous categories. In this paper, we focus on tabular data generation, and reveal the multinomial diffusion faces the mode collapse phenomenon when the cardinality is high. Moreover, due to the limitations of one-hot vectors, the training phase takes time longer in such a situation. To address these issues, we propose Residual Bit Vectors (ResBit), a technique for densely representing categorical data. ResBit is an extension of analog bits and overcomes limitations of analog bits when applied to tabular data generation. Our experiments demonstrate that ResBit not only accelerates training but also maintains performance when compared with the situations before applying ResBit. Furthermore, our results indicate that many existing methods struggle with high-cardinality data, underscoring the need for lower-dimensional representations, such as ResBit and latent vectors.
• Abstract（参考訳）: 機械学習における離散/分類データの一般的な表現法であるワンホットベクトルは、その単純さと直感性のために広く使われている。 しかし、1ホットベクトルは次元の線形増加に悩まされ、特に多くのカテゴリを含むデータセットを扱う場合、計算とメモリの課題が引き起こされる。 本稿では,表形式のデータ生成に注目し,濃度が高い場合にモード崩壊現象に直面する多項拡散を明らかにする。 さらに、ワンホットベクトルの制限により、そのような状況下ではトレーニングフェーズが長くかかる。 これらの問題に対処するために、分類データを密に表現するResidual Bit Vectors (ResBit)を提案する。 ResBitはアナログビットの拡張であり、表データ生成に適用した場合にアナログビットの制限を克服する。 実験の結果,ResBitはトレーニングを加速するだけでなく,ResBit適用前の状況と比較して性能も維持することがわかった。 さらに,本研究の結果から,ResBitや潜伏ベクトルなどの低次元表現の必要性が強調され,多くの既存手法が心電図データに苦しむことが示唆された。

関連論文リスト

• 3D Adversarial Augmentations for Robust Out-of-Domain Predictions [115.74319739738571]
  ドメイン外データへの一般化の改善に注力する。 対象を逆向きに変形させるベクトルの集合を学習する。 本研究では,学習したサンプル非依存ベクトルをモデルトレーニング時に利用可能なオブジェクトに適用することにより,対数拡大を行う。
  論文  参考訳（メタデータ） (2023-08-29T17:58:55Z)
• Class-Difficulty Based Methods for Long-Tailed Visual Recognition [6.875312133832079]
  ロングテールデータセットは、クラスやカテゴリが他のクラスよりも多くのデータサンプルを持つ実際のユースケースで頻繁に発生する。 そこで本研究では,モデルの学習段階における各クラスの瞬時難易度を動的に測定する手法を提案する。 また,各学級の難易度尺度を用いて,学級難易度ベース重み付けと呼ばれる新しい学級難易度ベース重み付け手法と,学級難易度ベースサンプリングと呼ばれる新学級データサンプリング手法を設計する。
  論文  参考訳（メタデータ） (2022-07-29T06:33:22Z)
• Large-Margin Representation Learning for Texture Classification [67.94823375350433]
  本稿では,テクスチャ分類のための小さなデータセット上で教師付きモデルをトレーニングするために,畳み込み層(CL)と大規模計量学習を組み合わせた新しいアプローチを提案する。 テクスチャと病理画像データセットの実験結果から,提案手法は同等のCNNと比較して計算コストが低く,収束が早く,競争精度が向上することが示された。
  論文  参考訳（メタデータ） (2022-06-17T04:07:45Z)
• Dimensionality Reduction for Categorical Data [0.9560980936110233]
  FSketchを用いて、スパース分類データのスケッチを作成するとともに、ペアのハミング距離を推定する推定器を提案する。 FSketchは大幅に高速であり、そのスケッチを用いて得られる精度は、RMSE、クラスタリング、類似検索の標準的な教師なしタスクの上位にある。
  論文  参考訳（メタデータ） (2021-12-01T09:20:28Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• CvS: Classification via Segmentation For Small Datasets [52.821178654631254]
  本稿では,分類ラベルをセグメントマップの予測から導出する小型データセットのコスト効率の高い分類器であるCvSを提案する。 我々は,CvSが従来の手法よりもはるかに高い分類結果が得られることを示す多種多様な問題に対して,本フレームワークの有効性を評価する。
  論文  参考訳（メタデータ） (2021-10-29T18:41:15Z)
• OCT-GAN: Neural ODE-based Conditional Tabular GANs [8.062118111791495]
  ニューラル常微分方程式(NODE)に基づくジェネレータと判別器を導入する。 我々は、保険詐欺の検出やオンラインニュース記事の予測などを含む13のデータセットを用いて実験を行う。
  論文  参考訳（メタデータ） (2021-05-31T13:58:55Z)
• Missing Value Imputation on Multidimensional Time Series [16.709162372224355]
  本稿では,多次元時系列データセットにおける深層学習手法DeepMVIを提案する。 DeepMVIは、時系列に沿った細粒度と粗粒度パターンと、カテゴリ次元にわたる関連するシリーズのトレンドを組み合わせる。 実験の結果、DeepMVIの精度は著しく向上し、半数以上のケースで50%以上のエラーが削減された。
  論文  参考訳（メタデータ） (2021-03-02T09:55:05Z)
• Category-Learning with Context-Augmented Autoencoder [63.05016513788047]
  実世界のデータの解釈可能な非冗長表現を見つけることは、機械学習の鍵となる問題の一つである。 本稿では,オートエンコーダのトレーニングにデータ拡張を利用する新しい手法を提案する。 このような方法で変分オートエンコーダを訓練し、補助ネットワークによって変換結果を予測できるようにする。
  論文  参考訳（メタデータ） (2020-10-10T14:04:44Z)
• Laplacian Denoising Autoencoder [114.21219514831343]
  本稿では,新しいタイプの自動符号化器を用いてデータ表現を学習することを提案する。 勾配領域における潜伏クリーンデータを破損させて雑音入力データを生成する。 いくつかのビジュアルベンチマークの実験では、提案されたアプローチでより良い表現が学べることが示されている。
  論文  参考訳（メタデータ） (2020-03-30T16:52:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。