Fugu-MT 論文翻訳(概要): Towards a mathematical understanding of learning from few examples with nonlinear feature maps

論文の概要: Towards a mathematical understanding of learning from few examples with nonlinear feature maps

arxiv url: http://arxiv.org/abs/2211.03607v1
Date: Mon, 7 Nov 2022 14:52:58 GMT
ステータス: 処理完了
システム内更新日: 2022-11-08 15:17:22.151540
Title: Towards a mathematical understanding of learning from few examples with nonlinear feature maps
Title（参考訳）: 非線形特徴写像を用いた少数の例から学ぶ数学的理解に向けて
Authors: Oliver J. Sutton, Alexander N. Gorban, Ivan Y. Tyukin
Abstract要約: トレーニングセットがわずか数個のデータポイントから構成されるデータ分類の問題を考える。我々は、AIモデルの特徴空間の幾何学、基礎となるデータ分布の構造、モデルの一般化能力との間の重要な関係を明らかにする。
参考スコア（独自算出の注目度）: 68.8204255655161
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We consider the problem of data classification where the training set consists of just a few data points. We explore this phenomenon mathematically and reveal key relationships between the geometry of an AI model's feature space, the structure of the underlying data distributions, and the model's generalisation capabilities. The main thrust of our analysis is to reveal the influence on the model's generalisation capabilities of nonlinear feature transformations mapping the original data into high, and possibly infinite, dimensional spaces.
Abstract（参考訳）: トレーニングセットがわずか数個のデータポイントから構成されるデータ分類の問題を考える。この現象を数学的に検討し、aiモデルの特徴空間の幾何構造、基礎となるデータ分布の構造、モデルの一般化能力との間の重要な関係を明らかにする。我々の分析の主な推進力は、元のデータを高次元かつ無限次元空間にマッピングする非線形特徴変換のモデル一般化能力への影響を明らかにすることである。

関連論文リスト

Dissecting embedding method: learning higher-order structures from data [0.0]
データ学習のための幾何学的深層学習法は、しばしば特徴空間の幾何学に関する仮定のセットを含む。これらの仮定と、データが離散的で有限であるという仮定は、いくつかの一般化を引き起こし、データとモデルの出力の間違った解釈を生み出す可能性がある。
論文参考訳（メタデータ） (2024-10-14T08:19:39Z)
Relational Learning in Pre-Trained Models: A Theory from Hypergraph Recovery Perspective [60.64922606733441]
我々は,関係学習をハイパーグラフリカバリとして形式化する数学的モデルを導入し,基礎モデル(FM)の事前学習について検討する。我々のフレームワークでは、世界はハイパーグラフとして表現され、データはハイパーエッジからランダムなサンプルとして抽象化される。我々は、このハイパーグラフを復元するための事前学習モデル(PTM)の有効性を理論的に検証し、ミニマックスに近い最適スタイルでデータ効率を解析する。
論文参考訳（メタデータ） (2024-06-17T06:20:39Z)
Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
論文参考訳（メタデータ） (2024-06-07T14:29:21Z)
On the Joint Interaction of Models, Data, and Features [82.60073661644435]
本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
論文参考訳（メタデータ） (2023-06-07T21:35:26Z)
Study of Manifold Geometry using Multiscale Non-Negative Kernel Graphs [32.40622753355266]
データの幾何学的構造を研究するための枠組みを提案する。我々は最近導入された非負のカーネル回帰グラフを用いて、点密度、固有次元、およびデータ多様体(曲率)の線型性を推定する。
論文参考訳（メタデータ） (2022-10-31T17:01:17Z)
A geometric framework for outlier detection in high-dimensional data [0.0]
異常検出はデータ分析において重要な課題である。データセットのメトリック構造を利用するフレームワークを提供する。この構造を利用することで,高次元データにおける外部観測の検出が大幅に向上することを示す。
論文参考訳（メタデータ） (2022-07-01T12:07:51Z)
Amortized Inference for Causal Structure Learning [72.84105256353801]
因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
論文参考訳（メタデータ） (2022-05-25T17:37:08Z)
Learning from few examples with nonlinear feature maps [68.8204255655161]
我々はこの現象を探求し、AIモデルの特徴空間の次元性、データ分散の非退化、モデルの一般化能力の間の重要な関係を明らかにする。本分析の主な推力は、元のデータを高次元および無限次元空間にマッピングする非線形特徴変換が結果のモデル一般化能力に与える影響である。
論文参考訳（メタデータ） (2022-03-31T10:36:50Z)
Generalisation error in learning with random features and the hidden manifold model [23.71637173968353]
合成データセットの一般線形回帰と分類について検討した。我々は,高次元構造を考察し,統計物理学からのレプリカ法を用いる。閾値をピークとしたロジスティック回帰のためのいわゆる二重降下挙動を得る方法を示す。隠れ多様体モデルにより生成されたデータにおいて相関関係が果たす役割について論じる。
論文参考訳（メタデータ） (2020-02-21T14:49:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。