論文の概要: TRKM: Twin Restricted Kernel Machines for Classification and Regression
- arxiv url: http://arxiv.org/abs/2502.15759v1
- Date: Thu, 13 Feb 2025 05:13:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-02 02:51:32.133260
- Title: TRKM: Twin Restricted Kernel Machines for Classification and Regression
- Title（参考訳）: TRKM: Twin Restricted Kernel Machines for Classification and Regression
- Authors: A. Quadir, M. Tanveer,
- Abstract要約: TRKMは、ツインモデルの利点とRKMフレームワークの堅牢性を組み合わせて、分類と回帰タスクを強化する。
脳年齢データセットにTRKMモデルを実装し,脳年齢予測の有効性を実証した。
- 参考スコア（独自算出の注目度）: 0.0
- License:
- Abstract: Restricted kernel machines (RKMs) have considerably improved generalization in machine learning. Recent advancements explored various techniques within the RKM framework, integrating kernel functions with least squares support vector machines (LSSVM) to mirror the energy function of restricted Boltzmann machines (RBM), leading to enhanced performance. However, RKMs may face challenges in generalization when dealing with unevenly distributed or complexly clustered data. Additionally, as the dataset size increases, the computational burden of managing high-dimensional feature spaces can become substantial, potentially hindering performance in large-scale datasets. To address these challenges, we propose twin restricted kernel machine (TRKM). TRKM combines the benefits of twin models with the robustness of the RKM framework to enhance classification and regression tasks. By leveraging the Fenchel-Young inequality, we introduce a novel conjugate feature duality, allowing the formulation of classification and regression problems in terms of dual variables. This duality provides an upper bound to the objective function of the TRKM problem, resulting in a new methodology under the RKM framework. The model uses an energy function similar to that of RBM, incorporating both visible and hidden variables corresponding to both classes. Additionally, the kernel trick is employed to map data into a high-dimensional feature space, where the model identifies an optimal separating hyperplane using a regularized least squares approach. Experiments on UCI and KEEL datasets confirm TRKM's superiority over baselines, showcasing its robustness and efficiency in handling complex data. Furthermore, We implemented the TRKM model on the brain age dataset, demonstrating its efficacy in predicting brain age.
- Abstract（参考訳）: 制限されたカーネルマシン(RKM)は機械学習の一般化を著しく改善した。
近年の進歩はRKMフレームワーク内の様々な手法を探求し、最小二乗サポートベクターマシン(LSSVM)をカーネル関数に統合し、制限されたボルツマンマシン(RBM)のエネルギー関数を反映し、性能が向上した。
しかし、RKMは、不均一に分散または複雑なクラスタ化されたデータを扱う場合、一般化の課題に直面する可能性がある。
さらに、データセットのサイズが大きくなるにつれて、高次元の特徴空間を管理する際の計算負担が大きくなり、大規模データセットのパフォーマンスを阻害する可能性がある。
これらの課題に対処するために、ツインリミテッドカーネルマシン(TRKM)を提案する。
TRKMは、ツインモデルの利点とRKMフレームワークの堅牢性を組み合わせて、分類と回帰タスクを強化する。
Fenchel-Youngの不等式を活用することにより、二変数の項による分類と回帰問題の定式化を可能にする、新しい共役特徴双対性を導入する。
この双対性は TRKM 問題の目的関数に上限を与え、RKM フレームワークの下での新しい方法論をもたらす。
このモデルは RBM と同様のエネルギー関数を使用し、両方のクラスに対応する可視変数と隠れ変数の両方を組み込む。
さらに、カーネルトリックを用いてデータを高次元の特徴空間にマッピングし、モデルが正規化最小二乗アプローチを用いて最適分離超平面を特定する。
UCIデータセットとKEELデータセットの実験では、TRKMがベースラインよりも優れていることが確認され、複雑なデータを扱う際の堅牢性と効率が示された。
さらに、脳年齢データセットにTRKMモデルを実装し、脳年齢予測の有効性を実証した。
関連論文リスト
- One Class Restricted Kernel Machines [0.0]
制限されたカーネルマシン(RKM)は、機械学習の分野における一般化能力の向上に大きな影響を与えている。
RKMsの有効性は、データセット内の外れ値やその他の汚染形態の存在によって損なわれる可能性がある。
この重要な問題とモデルの堅牢性に対処するため、我々は新しい一級RKM(OCRKM)を提案する。
OCRKM の枠組みでは、可視変数と隠れ変数の両方を非確率的に統合する RBM と同様のエネルギー関数を用いる。
論文 参考訳（メタデータ） (2025-02-11T07:11:20Z) - HSLiNets: Hyperspectral Image and LiDAR Data Fusion Using Efficient Dual Non-Linear Feature Learning Networks [7.06787067270941]
新しい線形特徴空間におけるハイパースペクトルイメージング(HSI)とLiDARデータの統合は、HSIに固有の高次元性と冗長性に起因する課題に対する有望な解決策を提供する。
本研究では、双方向逆畳み込み畳み込みニューラルネットワーク(CNN)経路と特殊空間解析ブロックを併用した、二重線型融合空間フレームワークを提案する。
提案手法は,データ処理や分類精度を向上するだけでなく,トランスフォーマーなどの先進モデルに係わる計算負担を軽減する。
論文 参考訳（メタデータ） (2024-11-30T01:08:08Z) - CARE Transformer: Mobile-Friendly Linear Visual Transformer via Decoupled Dual Interaction [77.8576094863446]
本稿では,新しいdetextbfCoupled dutextbfAl-interactive lineatextbfR atttextbfEntion (CARE) 機構を提案する。
まず,非対称な特徴分離戦略を提案し,非対称的に学習プロセスを局所帰納バイアスと長距離依存に分解する。
分離学習方式を採用し,特徴間の相補性を完全に活用することにより,高い効率性と精度を両立させることができる。
論文 参考訳（メタデータ） (2024-11-25T07:56:13Z) - Low-Rank Multitask Learning based on Tensorized SVMs and LSSVMs [65.42104819071444]
マルチタスク学習(MTL)はタスク関連性を活用して性能を向上させる。
タスクインデックスに対応する各モードを持つ高次テンソルを用いて、複数のインデックスが参照するタスクを自然に表現する。
テンソル化サポートベクターマシン(SVM)と最小2乗サポートベクターマシン(LSSVM)を併用した低ランクMTL手法の汎用フレームワークを提案する。
論文 参考訳（メタデータ） (2023-08-30T14:28:26Z) - Bayesian learning of feature spaces for multitasks problems [0.11538034264098687]
本稿では,Kernel Machines (KMs) とExtreme Learning Machines (ELMs) を接続するマルチタスク回帰手法を提案する。
提案されたモデルは RFF-BLR と呼ばれ、2つの主要な設計目標に同時に対処するベイジアンフレームワークに基づいている。
実験結果から, このフレームワークは非線形回帰における最先端手法と比較して, 大幅な性能向上をもたらす可能性が示唆された。
論文 参考訳（メタデータ） (2022-09-07T09:53:53Z) - Improvements to Supervised EM Learning of Shared Kernel Models by
Feature Space Partitioning [0.0]
本稿では、EMトレーニングアルゴリズムの導出における厳密さの欠如と、その手法の計算複雑性について述べる。
まず、ガウス共有カーネルモデル PRBF 分類器に対して、EM の詳細な導出を行う。
結果のSKEMアルゴリズムの複雑さを軽減するために、特徴空間を変数の非重複部分集合の$R$に分割する。
論文 参考訳（メタデータ） (2022-05-31T09:18:58Z) - Parameter-Efficient Mixture-of-Experts Architecture for Pre-trained
Language Models [68.9288651177564]
量子多体物理学から行列積演算子(MPO)に基づく新しいMoEアーキテクチャを提案する。
分解されたMPO構造により、元のMoEアーキテクチャのパラメータを減らすことができる。
GPT2に基づく3つの有名な下流自然言語データセットの実験は、モデルキャパシティの向上における性能と効率の向上を示している。
論文 参考訳（メタデータ） (2022-03-02T13:44:49Z) - Bi-Bimodal Modality Fusion for Correlation-Controlled Multimodal
Sentiment Analysis [96.46952672172021]
Bi-Bimodal Fusion Network (BBFN) は、2対のモダリティ表現で融合を行う新しいエンドツーエンドネットワークである。
モデルは、モダリティ間の既知の情報不均衡により、2つのバイモーダルペアを入力として取る。
論文 参考訳（メタデータ） (2021-07-28T23:33:42Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳（メタデータ） (2021-01-06T17:36:26Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳（メタデータ） (2020-10-12T03:27:07Z) - Robust Generative Restricted Kernel Machines using Weighted Conjugate
Feature Duality [11.68800227521015]
制限カーネルマシン(RKM)のフレームワークにおける重み付き共役特徴双対性を導入する。
RKMの定式化により、古典的なロバスト統計からメソッドを簡単に統合できる。
実験により、トレーニングデータに汚染が存在する場合、重み付けされたRKMはクリーンな画像を生成することができることが示された。
論文 参考訳（メタデータ） (2020-02-04T09:23:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。