論文の概要: Pairwise Supervision Can Provably Elicit a Decision Boundary
- arxiv url: http://arxiv.org/abs/2006.06207v2
- Date: Tue, 1 Mar 2022 04:40:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 09:43:19.825122
- Title: Pairwise Supervision Can Provably Elicit a Decision Boundary
- Title（参考訳）: ペアワイズ監督は決定境界を立証できる
- Authors: Han Bao, Takuya Shimada, Liyuan Xu, Issei Sato, Masashi Sugiyama
- Abstract要約: 類似性学習は、パターンのペア間の関係を予測することによって有用な表現を引き出す問題である。
類似性学習は、決定境界を直接引き出すことによって二項分類を解くことができることを示す。
- 参考スコア（独自算出の注目度）: 84.58020117487898
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Similarity learning is a general problem to elicit useful representations by
predicting the relationship between a pair of patterns. This problem is related
to various important preprocessing tasks such as metric learning, kernel
learning, and contrastive learning. A classifier built upon the representations
is expected to perform well in downstream classification; however, little
theory has been given in literature so far and thereby the relationship between
similarity and classification has remained elusive. Therefore, we tackle a
fundamental question: can similarity information provably leads a model to
perform well in downstream classification? In this paper, we reveal that a
product-type formulation of similarity learning is strongly related to an
objective of binary classification. We further show that these two different
problems are explicitly connected by an excess risk bound. Consequently, our
results elucidate that similarity learning is capable of solving binary
classification by directly eliciting a decision boundary.
- Abstract（参考訳）: 類似性学習は、一対のパターン間の関係を予測して有用な表現を導き出す一般的な問題である。
この問題は、メトリック学習、カーネル学習、コントラスト学習など、様々な重要な前処理タスクに関連している。
この表現に基づく分類器は下流の分類においてうまく機能することが期待されているが、これまでの文献ではほとんど理論が与えられていないため、類似性と分類の関係は解明されていない。
したがって、我々は基本的な問題に取り組む:類似性情報は、下流の分類において、モデルがうまく機能するように確実に導くことができるか?
本稿では,類似性学習の積型定式化が二項分類の目的と強く関連していることを明らかにする。
さらに,これら2つの問題は,過度なリスクバウンドによって明示的に関連していることを示す。
その結果,類似性学習は決定境界を直接抽出することで二項分類を解くことができることがわかった。
関連論文リスト
- Simple and Interpretable Probabilistic Classifiers for Knowledge Graphs [0.0]
本稿では,単純な信念ネットワークの学習に基づく帰納的アプローチについて述べる。
このようなモデルを(確率的な)公理(あるいは規則)に変換する方法を示す。
論文 参考訳（メタデータ） (2024-07-09T17:05:52Z) - Neural Dependencies Emerging from Learning Massive Categories [94.77992221690742]
この研究は、大規模画像分類のために学んだニューラルネットワークに関する2つの驚くべき発見を示す。
1) 十分に訓練されたモデルが与えられた場合、いくつかのカテゴリで予測されたロジットは、他のいくつかのカテゴリの予測を線形に組み合わせることで直接得ることができる。
2) 神経依存は1つのモデルに留まらず、2つの独立した学習モデルの間にさえ存在する。
論文 参考訳（メタデータ） (2022-11-21T09:42:15Z) - Understanding Contrastive Learning Requires Incorporating Inductive
Biases [64.56006519908213]
下流タスクにおけるコントラスト学習の成功を理論的に説明しようとする最近の試みは、エム強化の特性とエムコントラスト学習の損失の値によって保証が証明されている。
このような分析は,関数クラスやトレーニングアルゴリズムの帰納的バイアスを無視し,いくつかの設定において不確実な保証につながることを実証する。
論文 参考訳（メタデータ） (2022-02-28T18:59:20Z) - Logic-guided Semantic Representation Learning for Zero-Shot Relation
Classification [31.887770824130957]
ゼロショット関係分類のための論理誘導型意味表現学習モデルを提案する。
我々のアプローチは、暗黙的および明示的な意味表現と知識グラフの埋め込みと論理規則との接続を構築する。
論文 参考訳（メタデータ） (2020-10-30T04:30:09Z) - Few-shot Visual Reasoning with Meta-analogical Contrastive Learning [141.2562447971]
本稿では,類似推論に頼って,数ショット(または低ショット)の視覚推論問題を解くことを提案する。
両領域の要素間の構造的関係を抽出し、類似学習と可能な限り類似するように強制する。
RAVENデータセット上での本手法の有効性を検証し, トレーニングデータが少ない場合, 最先端の手法より優れることを示す。
論文 参考訳（メタデータ） (2020-07-23T14:00:34Z) - Learning Interclass Relations for Image Classification [0.0]
標準分類では、典型的には分類カテゴリーを互いに独立したものとして扱う。
本研究では、クラス独立性の仮定が、より多くのトレーニングデータを必要とする制限要因であるという認識に基づいて、分類問題の新たな定式化を提案する。
論文 参考訳（メタデータ） (2020-06-24T05:32:54Z) - Learning from Aggregate Observations [82.44304647051243]
本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。
本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。
単純な極大解は様々な微分可能なモデルに適用できる。
論文 参考訳（メタデータ） (2020-04-14T06:18:50Z) - Rethinking Class Relations: Absolute-relative Supervised and
Unsupervised Few-shot Learning [157.62595449130973]
本稿では,現在の数ショット学習法における単純化型クラスモデリングの基本的問題について検討する。
本稿では,ラベル情報をフル活用して画像表現を洗練するための,絶対相対学習パラダイムを提案する。
論文 参考訳（メタデータ） (2020-01-12T12:25:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。