論文の概要: Advancing Supervised Learning with the Wave Loss Function: A Robust and Smooth Approach
- arxiv url: http://arxiv.org/abs/2404.18101v2
- Date: Sun, 13 Oct 2024 16:57:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-15 15:01:41.634377
- Title: Advancing Supervised Learning with the Wave Loss Function: A Robust and Smooth Approach
- Title(参考訳): ウェーブロス関数による教師付き学習の促進:ロバストでスムースなアプローチ
- Authors: Mushir Akhtar, M. Tanveer, Mohd. Arshad,
- Abstract要約: 本稿では,非対称な損失関数であるウェーブロスという,教師あり機械学習の領域への新たな貢献について述べる。
提案したウェーブロス関数を,サポートベクトルマシン (SVM) とツインサポートベクトルマシン (TSVM) の最小2乗設定に組み込む。
提案する Wave-SVM と Wave-TSVM の有効性を実証的に示すため,UCI と KEEL のベンチマークを用いて評価を行った。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Loss function plays a vital role in supervised learning frameworks. The selection of the appropriate loss function holds the potential to have a substantial impact on the proficiency attained by the acquired model. The training of supervised learning algorithms inherently adheres to predetermined loss functions during the optimization process. In this paper, we present a novel contribution to the realm of supervised machine learning: an asymmetric loss function named wave loss. It exhibits robustness against outliers, insensitivity to noise, boundedness, and a crucial smoothness property. Theoretically, we establish that the proposed wave loss function manifests the essential characteristic of being classification-calibrated. Leveraging this breakthrough, we incorporate the proposed wave loss function into the least squares setting of support vector machines (SVM) and twin support vector machines (TSVM), resulting in two robust and smooth models termed Wave-SVM and Wave-TSVM, respectively. To address the optimization problem inherent in Wave-SVM, we utilize the adaptive moment estimation (Adam) algorithm. It is noteworthy that this paper marks the first instance of the Adam algorithm application to solve an SVM model. Further, we devise an iterative algorithm to solve the optimization problems of Wave-TSVM. To empirically showcase the effectiveness of the proposed Wave-SVM and Wave-TSVM, we evaluate them on benchmark UCI and KEEL datasets (with and without feature noise) from diverse domains. Moreover, to exemplify the applicability of Wave-SVM in the biomedical domain, we evaluate it on the Alzheimer Disease Neuroimaging Initiative (ADNI) dataset. The experimental outcomes unequivocally reveal the prowess of Wave-SVM and Wave-TSVM in achieving superior prediction accuracy against the baseline models.
- Abstract(参考訳): 損失関数は教師付き学習フレームワークにおいて重要な役割を果たす。
適切な損失関数の選択は、取得したモデルによって達成された熟練度に大きな影響を与える可能性がある。
教師付き学習アルゴリズムの訓練は、最適化過程において、本質的に所定の損失関数に固執する。
本稿では,非対称な損失関数であるウェーブロス(ウェーブロス)について,教師あり機械学習の領域への新たな貢献について述べる。
外れ値に対する堅牢性、騒音に対する感受性、有界性、および重要な滑らか性を示す。
理論的には,提案する波動損失関数は分類校正に欠かせない性質を示す。
このブレークスルーを活用して、提案したウェーブロス関数を、サポートベクトルマシン(SVM)とツインサポートベクトルマシン(TSVM)の最小2乗設定に組み込む。
Wave-SVMに固有の最適化問題に対処するために,適応モーメント推定(Adam)アルゴリズムを用いる。
本稿では,SVMモデルを解くAdamアルゴリズムアプリケーションの最初の例を示す。
さらに、Wave-TSVMの最適化問題を解決するための反復アルゴリズムを考案する。
提案する Wave-SVM と Wave-TSVM の有効性を実証的に示すため,様々な領域の UCI と KEEL のデータセットをベンチマークで評価した。
さらに,生体領域におけるWave-SVMの適用性を実証するために,アルツハイマー病神経画像イニシアチブ(ADNI)データセットを用いて評価を行った。
実験結果から,Wave-SVM と Wave-TSVM がベースラインモデルに対して精度良く予測できることが明らかとなった。
関連論文リスト
- A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。
これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。
我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
論文 参考訳(メタデータ) (2024-10-14T12:10:06Z) - GL-TSVM: A robust and smooth twin support vector machine with guardian loss function [0.0]
非対称,有界,スムーズな特徴を特徴とする新規な損失関数であるガーディアンロス(G-loss)を導入する。
構造リスク最小化(SRM)の原則に従うため,正規化項をGL-TSVMの目的関数に組み込む。
UCIデータセットとKEELデータセットの実験的解析は,提案したGL-TSVMの有効性を裏付けるものである。
論文 参考訳(メタデータ) (2024-08-29T08:14:20Z) - Enhancing Multiview Synergy: Robust Learning by Exploiting the Wave Loss Function with Consensus and Complementarity Principles [0.0]
本稿では、ウェーブロス(W-loss)関数を利用した新しいマルチビューサポートベクターマシンであるWave-MvSVMを紹介する。
Wave-MvSVMは、コンセンサスと相補性の両方の原則を統合することで、より包括的でレジリエントな学習プロセスを保証する。
多様なデータセットにわたる大規模な経験的評価は、Wave-MvSVMの優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-08-13T11:25:22Z) - Wave-RVFL: A Randomized Neural Network Based on Wave Loss Function [0.0]
本稿では,ウェーブロス関数を組み込んだ RVFL モデル Wave-RVFL を提案する。
Wave-RVFLは、偏差の過料金化を防ぎ、ノイズや外れ値に対する堅牢性を示す。
実験結果から,Wave-RVFLの性能とロバスト性は,ベースラインモデルよりも優れていたことが確認された。
論文 参考訳(メタデータ) (2024-08-05T20:46:54Z) - Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。
カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。
我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-10-09T03:55:09Z) - RoBoSS: A Robust, Bounded, Sparse, and Smooth Loss Function for
Supervised Learning [0.0]
そこで本研究では,教師あり学習のための,頑健で,有界で,スパースで,スムーズなロス関数(RoBoSS)を提案する。
未確認データの一般化のために,$mathcalL_rbss$-SVMという新しいロバストアルゴリズムを導入する。
提案した$mathcalL_rbss$-SVM を実世界の UCI と KEEL のデータセットで18ドルで評価した。
論文 参考訳(メタデータ) (2023-09-05T13:59:50Z) - PINQI: An End-to-End Physics-Informed Approach to Learned Quantitative MRI Reconstruction [0.7199733380797579]
定量的磁気共鳴イメージング(qMRI)は、生体物理パラメータの再現可能な測定を可能にする。
この課題は、取得した生データから所望の組織パラメーターマップを得るために、非線形で不適切な逆問題を解決することである。
我々は、信号、取得モデルに関する知識を統合した新しいqMRI再構成手法であるPINQIを提案し、単一エンドツーエンドのトレーニング可能なニューラルネットワークへの正規化を学習した。
論文 参考訳(メタデータ) (2023-06-19T15:37:53Z) - Optimization of a Hydrodynamic Computational Reservoir through Evolution [58.720142291102135]
我々は,スタートアップが開発中の流体力学系のモデルと,計算貯水池としてインターフェースする。
我々は、進化探索アルゴリズムを用いて、読み出し時間と入力を波の振幅や周波数にどのようにマッピングするかを最適化した。
この貯水池システムに進化的手法を適用することで、手作業パラメータを用いた実装と比較して、XNORタスクの分離性が大幅に向上した。
論文 参考訳(メタデータ) (2023-04-20T19:15:02Z) - MotionHint: Self-Supervised Monocular Visual Odometry with Motion
Constraints [70.76761166614511]
モノクローナルビジュアル・オドメトリー(VO)のための新しい自己教師型アルゴリズムMotionHintを提案する。
我々のMotionHintアルゴリズムは、既存のオープンソースSSM-VOシステムに容易に適用できる。
論文 参考訳(メタデータ) (2021-09-14T15:35:08Z) - Fast Distributionally Robust Learning with Variance Reduced Min-Max
Optimization [85.84019017587477]
分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。
Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。
我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-04-27T16:56:09Z) - Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。
我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。
このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
論文 参考訳(メタデータ) (2021-02-23T20:22:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。