論文の概要: Gradient-Boosted Based Structured and Unstructured Learning
- arxiv url: http://arxiv.org/abs/2302.14299v1
- Date: Tue, 28 Feb 2023 04:16:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-01 18:15:50.157192
- Title: Gradient-Boosted Based Structured and Unstructured Learning
- Title(参考訳): 勾配ブーストに基づく構造化と非構造化学習
- Authors: Andrea Trevi\~no Gavito, Diego Klabjan, Jean Utke
- Abstract要約: 構造化データと非構造化データの両方が利用できる問題設定を扱うための2つのフレームワークを提案する。
提案するフレームワークは,モデルとディープニューラルネットワークのパラダイムを統合することで,両データに対する共同学習を可能にする。
- 参考スコア(独自算出の注目度): 18.76745359031975
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose two frameworks to deal with problem settings in which both
structured and unstructured data are available. Structured data problems are
best solved by traditional machine learning models such as boosting and
tree-based algorithms, whereas deep learning has been widely applied to
problems dealing with images, text, audio, and other unstructured data sources.
However, for the setting in which both structured and unstructured data are
accessible, it is not obvious what the best modeling approach is to enhance
performance on both data sources simultaneously. Our proposed frameworks allow
joint learning on both kinds of data by integrating the paradigms of boosting
models and deep neural networks. The first framework, the
boosted-feature-vector deep learning network, learns features from the
structured data using gradient boosting and combines them with embeddings from
unstructured data via a two-branch deep neural network. Secondly, the
two-weak-learner boosting framework extends the boosting paradigm to the
setting with two input data sources. We present and compare first- and
second-order methods of this framework. Our experimental results on both public
and real-world datasets show performance gains achieved by the frameworks over
selected baselines by magnitudes of 0.1% - 4.7%.
- Abstract(参考訳): 構造化データと非構造化データの両方が利用できる問題設定を扱うための2つのフレームワークを提案する。
構造化データ問題はブースティングやツリーベースのアルゴリズムといった従来の機械学習モデルによって最もよく解決されるが、ディープラーニングは画像、テキスト、オーディオ、その他の非構造化データソースを扱う問題に広く適用されている。
しかし、構造化データと非構造化データの両方にアクセス可能な設定では、両方のデータソースの性能を同時に向上させる最善のモデリング手法が何かは明らかではない。
提案するフレームワークは,モデルとディープニューラルネットワークのパラダイムを統合することで,両データの共同学習を可能にする。
最初のフレームワークであるboosted-feature-vector deep learning networkは、勾配ブースティングを使用して構造化データから特徴を学習し、非構造化データから2つの分岐型ディープニューラルネットワークを介して埋め込みと組み合わせる。
2つ目は、2つの入力データソースでブースティングパラダイムを設定に拡張することである。
このフレームワークの1階法と2階法を比較した。
公開データセットと実世界のデータセットの両方における実験結果は、選択されたベースラインに対するフレームワークによるパフォーマンス向上を0.1%から4.7%の範囲で示しています。
関連論文リスト
- Optimizing Federated Graph Learning with Inherent Structural Knowledge and Dual-Densely Connected GNNs [6.185201353691423]
Federated Graph Learning (FGL)は、クライアントがプライベートデータを公開することなく、強力なグラフニューラルネットワーク(GNN)を分散的にトレーニングすることを可能にする。
既存の手法は、グラフデータに固有の構造的知識を見落としているか、リソース要求を大幅に増加させるコストでそれをキャプチャする。
構造的知識の利用効率を最適化する新しいFGLフレームワークであるFedDenseを提案する。
論文 参考訳(メタデータ) (2024-08-21T14:37:50Z) - Homological Convolutional Neural Networks [4.615338063719135]
本稿では,トポロジ的に制約されたネットワーク表現を通じて,データ構造構造を利用した新しいディープラーニングアーキテクチャを提案する。
5つの古典的な機械学習モデルと3つのディープラーニングモデルに対して、18のベンチマークデータセットでモデルをテストします。
論文 参考訳(メタデータ) (2023-08-26T08:48:51Z) - Bilevel Fast Scene Adaptation for Low-Light Image Enhancement [50.639332885989255]
低照度シーンにおける画像の強調は、コンピュータビジョンにおいて難しいが、広く懸念されている課題である。
主な障害は、異なるシーンにまたがる分散の相違によるモデリングの混乱にある。
上述の潜在対応をモデル化するための双レベルパラダイムを導入する。
エンコーダのシーン非関連な一般化を多様なシーンにもたらすために、双方向学習フレームワークを構築した。
論文 参考訳(メタデータ) (2023-06-02T08:16:21Z) - Principled and Efficient Motif Finding for Structure Learning of Lifted
Graphical Models [5.317624228510748]
構造学習は、ニューロシンボリックAIと統計リレーショナル学習の分野の中心となるAIの中核的な問題である。
昇降型グラフィカルモデルにおける構造モチーフのマイニングのための第一原理的アプローチを提案する。
我々は,最先端構造学習の手法を,精度で最大6%,実行時の最大80%で上回ることを示す。
論文 参考訳(メタデータ) (2023-02-09T12:21:55Z) - Neural Attentive Circuits [93.95502541529115]
我々は、NAC(Neural Attentive Circuits)と呼ばれる汎用的でモジュラーなニューラルアーキテクチャを導入する。
NACは、ドメイン知識を使わずに、ニューラルネットワークモジュールのパラメータ化と疎結合を学習する。
NACは推論時に8倍のスピードアップを達成するが、性能は3%以下である。
論文 参考訳(メタデータ) (2022-10-14T18:00:07Z) - Texture Aware Autoencoder Pre-training And Pairwise Learning Refinement
For Improved Iris Recognition [16.383084641568693]
本稿では,訓練データに制限のあるデータセットに対して,エンドツーエンドでトレーニング可能な虹彩認識システムを提案する。
私たちは、いくつかの重要な最適化とアーキテクチャの革新によって、以前の段階的な学習フレームワークを構築しました。
利用可能な3つのアイリスデータセットにまたがってモデルを検証し、提案したモデルは従来の学習ベースラインとディープラーニングベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2022-02-15T15:12:31Z) - Optimization-Based Separations for Neural Networks [57.875347246373956]
本研究では,2層のシグモダルアクティベーションを持つディープ2ニューラルネットワークを用いて,ボールインジケータ関数を効率よく学習できることを示す。
これは最適化に基づく最初の分離結果であり、より強力なアーキテクチャの近似の利点は、実際に確実に現れる。
論文 参考訳(メタデータ) (2021-12-04T18:07:47Z) - AdaXpert: Adapting Neural Architecture for Growing Data [63.30393509048505]
実世界のアプリケーションでは、データボリュームとクラス数が動的に増加する可能性があるため、データが増大することが多い。
データボリュームの増加やクラスの数を考えると、期待できるパフォーマンスを得るためには、ニューラルネットワークのキャパシティを瞬時に調整する必要がある。
既存のメソッドは、データの増大する性質を無視したり、特定のデータセットの最適なアーキテクチャを独立して検索しようとする。
論文 参考訳(メタデータ) (2021-07-01T07:22:05Z) - Dual-constrained Deep Semi-Supervised Coupled Factorization Network with
Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。
隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。
我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文 参考訳(メタデータ) (2020-09-08T13:10:21Z) - Unsupervised Deep Cross-modality Spectral Hashing [65.3842441716661]
このフレームワークは、最適化をバイナリ最適化とハッシュ関数学習に分離する2段階のハッシュアプローチである。
本稿では,単一モダリティと二項相互モダリティを同時に学習するスペクトル埋め込みに基づく新しいアルゴリズムを提案する。
我々は、画像に強力なCNNを活用し、テキストモダリティを学ぶためのCNNベースのディープアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-08-01T09:20:11Z) - Improving Learning Effectiveness For Object Detection and Classification
in Cluttered Backgrounds [6.729108277517129]
本稿では,異種乱雑な背景の学習データセットを自律的に生成するフレームワークを開発する。
提案するフレームワークの学習効率は,複雑で異種な環境で改善されるべきである。
提案フレームワークの性能を実証実験により検討し,COCOデータセットを用いてトレーニングしたモデルと比較した。
論文 参考訳(メタデータ) (2020-02-27T22:28:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。