論文の概要: Local Model Feature Transformations
- arxiv url: http://arxiv.org/abs/2004.06149v1
- Date: Mon, 13 Apr 2020 18:41:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-13 23:26:11.822577
- Title: Local Model Feature Transformations
- Title（参考訳）: 局所モデル特徴変換
- Authors: CScott Brown
- Abstract要約: 局所学習法は機械学習アルゴリズムの一般的なクラスである。
局所学習モデルの研究は、主に単純なモデルファミリーに限られている。
局所モデリングパラダイムをガウス過程、二次モデル、単語埋め込みモデルに拡張する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Local learning methods are a popular class of machine learning algorithms.
The basic idea for the entire cadre is to choose some non-local model family,
to train many of them on small sections of neighboring data, and then to
`stitch' the resulting models together in some way. Due to the limits of
constraining a training dataset to a small neighborhood, research on
locally-learned models has largely been restricted to simple model families.
Also, since simple model families have no complex structure by design, this has
limited use of the individual local models to predictive tasks. We hypothesize
that, using a sufficiently complex local model family, various properties of
the individual local models, such as their learned parameters, can be used as
features for further learning. This dissertation improves upon the current
state of research and works toward establishing this hypothesis by
investigating algorithms for localization of more complex model families and by
studying their applications beyond predictions as a feature extraction
mechanism. We summarize this generic technique of using local models as a
feature extraction step with the term ``local model feature transformations.''
In this document, we extend the local modeling paradigm to Gaussian processes,
orthogonal quadric models and word embedding models, and extend the existing
theory for localized linear classifiers. We then demonstrate applications of
local model feature transformations to epileptic event classification from EEG
readings, activity monitoring via chest accelerometry, 3D surface
reconstruction, 3D point cloud segmentation, handwritten digit classification
and event detection from Twitter feeds.
- Abstract（参考訳）: 局所学習法は機械学習アルゴリズムの一般的なクラスである。
キャドレ全体の基本的な考え方は、いくつかの非ローカルモデルファミリーを選択し、それらの多くを隣り合うデータの小さなセクションでトレーニングし、結果のモデルを何らかの方法で'stitch'することである。
訓練データセットを小さな近隣に限定する限界があるため、局所学習モデルの研究は主に単純なモデルファミリーに限られている。
また、単純なモデルファミリは設計による複雑な構造を持たないため、個々の局所モデルを予測タスクに限定的に使用することができる。
我々は、十分に複雑な局所モデルファミリを用いて、学習パラメータなどの個々の局所モデルの様々な特性を、さらなる学習のための特徴として利用できると仮定する。
この論文は研究の現状を改善し、より複雑なモデルファミリーのローカライズのためのアルゴリズムを調査し、特徴抽出機構としての予測を超えた応用を研究することによって、この仮説の確立を目指している。
局所モデルの特徴変換という用語で特徴抽出のステップとして局所モデルを用いるこの一般的な手法を要約する。
この文書では、局所モデリングパラダイムをガウス過程、直交二次モデル、単語埋め込みモデルに拡張し、局所化線形分類器に対する既存の理論を拡張する。
次に,脳波からのてんかんイベント分類,胸部加速度計による活動モニタリング,3次元表面再構成,3次元点雲分割,手書き指分類,twitterフィードからのイベント検出への局所モデル機能変換の適用例を示す。
関連論文リスト
- MASALA: Model-Agnostic Surrogate Explanations by Locality Adaptation [3.587367153279351]
既存のローカル説明可能なAI(XAI)メソッドは、与えられた入力インスタンスの近傍にある入力空間の領域を選択し、より単純で解釈可能な代理モデルを用いてモデルの振る舞いを近似する。
そこで本研究では,各インスタンスごとの衝突モデル行動の適切な局所領域を自動決定する手法であるMASALAを提案する。
論文 参考訳（メタデータ） (2024-08-19T15:26:45Z) - A Two-Phase Recall-and-Select Framework for Fast Model Selection [13.385915962994806]
本稿では,2相モデル選択フレームワークを提案する。
これは、ベンチマークデータセット上でモデルのトレーニングパフォーマンスを活用することにより、堅牢なモデルを選択する効率を高めることを目的としている。
提案手法は,従来のベースライン法に比べて約3倍の速度でハイパフォーマンスモデルの選択を容易にすることが実証された。
論文 参考訳（メタデータ） (2024-03-28T14:44:44Z) - Towards Model-Agnostic Federated Learning over Networks [0.0]
異種データとモデルのネットワークに対するモデルに依存しないフェデレーション学習手法を提案する。
提案手法は,データのネットワーク構造から正規化項を導出した経験的リスク最小化の例である。
論文 参考訳（メタデータ） (2023-02-08T22:55:57Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳（メタデータ） (2022-10-06T00:33:01Z) - Low-Rank Constraints for Fast Inference in Structured Models [110.38427965904266]
この研究は、大規模構造化モデルの計算とメモリの複雑さを低減するための単純なアプローチを示す。
言語モデリング,ポリフォニック・ミュージック・モデリング,教師なし文法帰納法,ビデオ・モデリングのためのニューラルパラメータ構造モデルを用いた実験により,我々の手法は大規模状態空間における標準モデルの精度と一致することを示した。
論文 参考訳（メタデータ） (2022-01-08T00:47:50Z) - Contrastive Neighborhood Alignment [81.65103777329874]
本稿では,学習特徴のトポロジを維持するための多様体学習手法であるContrastive Neighborhood Alignment(CNA)を提案する。
対象モデルは、対照的な損失を用いて、ソース表現空間の局所構造を模倣することを目的としている。
CNAは3つのシナリオで説明される: 多様体学習、モデルが元のデータの局所的なトポロジーを次元還元された空間で維持する、モデル蒸留、小さな学生モデルがより大きな教師を模倣するために訓練される、レガシーモデル更新、より強力なモデルに置き換えられる、という3つのシナリオである。
論文 参考訳（メタデータ） (2022-01-06T04:58:31Z) - Multi-Branch Deep Radial Basis Function Networks for Facial Emotion
Recognition [80.35852245488043]
放射状基底関数(RBF)ユニットによって形成された複数の分岐で拡張されたCNNベースのアーキテクチャを提案する。
RBFユニットは、中間表現を用いて類似のインスタンスで共有される局所パターンをキャプチャする。
提案手法は,提案手法の競争力を高めるためのローカル情報の導入であることを示す。
論文 参考訳（メタデータ） (2021-09-07T21:05:56Z) - Clustered Federated Learning via Generalized Total Variation
Minimization [83.26141667853057]
本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。
我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。
私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
論文 参考訳（メタデータ） (2021-05-26T18:07:19Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳（メタデータ） (2020-10-05T20:03:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。