論文の概要: Conformal Transformation of Kernels: A Geometric Perspective on Text Classification
- arxiv url: http://arxiv.org/abs/2406.00499v1
- Date: Sat, 1 Jun 2024 17:01:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-06 06:45:16.806944
- Title: Conformal Transformation of Kernels: A Geometric Perspective on Text Classification
- Title(参考訳): カーネルのコンフォーマル変換:テキスト分類における幾何学的視点
- Authors: Ioana Rădulescu, Alexandra Băicoianu, Adela Mihai,
- Abstract要約: サポートベクトルマシンで使用されるカーネル関数に対する共形変換の影響について検討する。
本研究では,Reutersデータセットを用いて2種類のバイナリ分類タスクについて実験を行った。
この結果から, コンフォメーション変換はカーネル性能を著しく向上させる可能性が示唆された。
- 参考スコア(独自算出の注目度): 44.99833362998488
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this article we investigate the effects of conformal transformations on kernel functions used in Support Vector Machines. Our focus lies in the task of text document categorization, which involves assigning each document to a particular category. We introduce a new Gaussian Cosine kernel alongside two conformal transformations. Building upon previous studies that demonstrated the efficacy of conformal transformations in increasing class separability on synthetic and low-dimensional datasets, we extend this analysis to the high-dimensional domain of text data. Our experiments, conducted on the Reuters dataset on two types of binary classification tasks, compare the performance of Linear, Gaussian, and Gaussian Cosine kernels against their conformally transformed counterparts. The findings indicate that conformal transformations can significantly improve kernel performance, particularly for sub-optimal kernels. Specifically, improvements were observed in 60% of the tested scenarios for the Linear kernel, 84% for the Gaussian kernel, and 80% for the Gaussian Cosine kernel. In light of these findings, it becomes clear that conformal transformations play a pivotal role in enhancing kernel performance, offering substantial benefits.
- Abstract(参考訳): 本稿では,Support Vector Machine で使用されるカーネル関数に対する共形変換の影響について検討する。
我々の焦点はテキスト文書分類のタスクであり、各文書を特定のカテゴリに割り当てることである。
2つの共形変換と共に新しいガウスコサイン核を導入する。
合成および低次元データセットにおけるクラス分離性向上における共形変換の有効性を実証する以前の研究に基づいて、本分析を高次元テキストデータ領域に拡張する。
本研究では,Linear,Gaussian,Gaussianの2種類のバイナリ分類タスクに関するReutersデータセットを用いて実験を行った。
この結果から, コンフォメーション変換はカーネル性能を著しく向上させる可能性が示唆された。
具体的には、リニアカーネルのテストシナリオの60%、ガウスカーネルの84%、ガウスコサインカーネルの80%で改善が見られた。
これらの知見を踏まえると、コンフォメーション変換がカーネルのパフォーマンス向上に重要な役割を担い、大きなメリットをもたらすことが明らかになっている。
関連論文リスト
- ShapeSplat: A Large-scale Dataset of Gaussian Splats and Their Self-Supervised Pretraining [104.34751911174196]
ShapeNetとModelNetを用いた大規模3DGSデータセットを構築した。
データセットのShapeSplatは、87のユニークなカテゴリから65Kのオブジェクトで構成されています。
textbftextitGaussian-MAEを導入し、ガウスパラメータからの表現学習の独特な利点を強調した。
論文 参考訳(メタデータ) (2024-08-20T14:49:14Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - Doubly Deformable Aggregation of Covariance Matrices for Few-shot
Segmentation [25.387090319723715]
注釈付きサンプルの少ないセマンティックセグメンテーションモデルを訓練することは、実世界の様々な応用に大きな可能性を持っている。
数ショットのセグメンテーションタスクでは、サポートとクエリサンプル間のセマンティック対応を正確に測定する方法が主な課題である。
本稿では,学習可能な共分散行列を変形可能な4次元変換器で集約し,セグメント化マップを効果的に予測する。
論文 参考訳(メタデータ) (2022-07-30T20:41:38Z) - Fully trainable Gaussian derivative convolutional layer [0.0]
異方性,向き,シフトしたガウス微分核に基づく高レベル層を提案する。
その結果,提案した層は従来よりも性能が優れていたことが示唆された。
画像分類のためのVGG16や画像分割のためのU-netなど、一般的なディープアーキテクチャにうまく組み込める。
論文 参考訳(メタデータ) (2022-07-18T08:16:04Z) - Generalized Reference Kernel for One-class Classification [100.53532594448048]
我々は、参照ベクトルの集合を用いて、元のベースカーネルを改善するために、新しい一般化された参照カーネルを定式化する。
解析および実験結果から、新しい定式化は、カーネル自体に付加的な情報を導入し、ランクを調整し、調整するためのアプローチを提供することが示された。
論文 参考訳(メタデータ) (2022-05-01T18:36:55Z) - On Learning the Transformer Kernel [13.955526058823166]
KERNELIZED TransformERは、Transformerでカーネル関数を学習するための汎用的でスケーラブルなデータ駆動フレームワークである。
本フレームワークは,スペクトル特徴写像間のドット積としてTransformerカーネルを近似し,スペクトル分布を学習してカーネルを学習する。
論文 参考訳(メタデータ) (2021-10-15T19:20:25Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Why Approximate Matrix Square Root Outperforms Accurate SVD in Global
Covariance Pooling? [59.820507600960745]
本稿では,前方通過のSVDと後方伝播のPad'e近似を用いて勾配を計算する新しいGCPメタ層を提案する。
提案するメタレイヤは,さまざまなCNNモデルに統合され,大規模および微細なデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-05-06T08:03:45Z) - On Approximation in Deep Convolutional Networks: a Kernel Perspective [12.284934135116515]
画像や音声などの高次元データを含むタスクにおける深層畳み込みネットワークの成功について検討する。
多層畳み込み核を検討し、カーネル方式のレンズを通して理論的・実証的に検討する。
入力パッチで動作する表現型カーネルは第1層では重要であるが、より単純なカーネルは高い層で十分性能を保ち得る。
論文 参考訳(メタデータ) (2021-02-19T17:03:42Z) - Advanced Stationary and Non-Stationary Kernel Designs for Domain-Aware
Gaussian Processes [0.0]
再生カーネルヒルベルト空間(RKHS)の要素である所望の特性を持つ関数のみを許容する先進カーネル設計を提案する。
いくつかの合成および2つの科学的データセットを用いて、先進的なカーネル設計がガウス過程に与える影響を示す。
論文 参考訳(メタデータ) (2021-02-05T22:07:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。