Fugu-MT 論文翻訳(概要): Global Hierarchical Neural Networks using Hierarchical Softmax

論文の概要: Global Hierarchical Neural Networks using Hierarchical Softmax

arxiv url: http://arxiv.org/abs/2308.01210v1
Date: Wed, 2 Aug 2023 15:12:56 GMT
ステータス: 処理完了
システム内更新日: 2023-08-03 12:32:31.534107
Title: Global Hierarchical Neural Networks using Hierarchical Softmax
Title（参考訳）: 階層型ソフトマックスを用いたグローバル階層型ニューラルネットワーク
Authors: Jetze Schuurmans, Flavius Frasincar
Abstract要約: 本稿では,階層型ソフトマックスを用いてグローバルな階層型分類器を作成する枠組みを提案する。すべてのデータセットにおいて、階層的ソフトマックスは、マクロF1とマクロリコールという観点でフラットな分類器で使われる通常のソフトマックスで改善された。 4つのデータセットのうち3つにおいて、階層的ソフトマックスはより高いマイクロ精度とマクロ精度を達成した。
参考スコア（独自算出の注目度）: 5.269322988533447
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper presents a framework in which hierarchical softmax is used to create a global hierarchical classifier. The approach is applicable for any classification task where there is a natural hierarchy among classes. We show empirical results on four text classification datasets. In all datasets the hierarchical softmax improved on the regular softmax used in a flat classifier in terms of macro-F1 and macro-recall. In three out of four datasets hierarchical softmax achieved a higher micro-accuracy and macro-precision.
Abstract（参考訳）: 本稿では,階層型ソフトマックスを用いてグローバルな階層型分類器を作成する枠組みを提案する。このアプローチは、クラスの間に自然な階層がある任意の分類タスクに適用できる。 4つのテキスト分類データセットに実験結果を示す。すべてのデータセットにおいて、階層的ソフトマックスは、マクロF1とマクロリコールの点でフラットな分類器で使われる通常のソフトマックスで改善された。 4つのデータセットのうち3つで、階層型softmaxは高いマイクロ精度とマクロ精度を達成した。

関連論文リスト

Harnessing Superclasses for Learning from Hierarchical Databases [1.835004446596942]
多くの大規模分類問題において、クラスは既知の階層に整理され、通常木として表される。この種の教師付き階層分類の損失について紹介する。提案手法では,クロスエントロピーの損失に比較して,計算コストの大幅な増大は伴わない。
論文参考訳（メタデータ） (2024-11-25T14:39:52Z)
Graph Similarity Regularized Softmax for Semi-Supervised Node Classification [33.297649538686045]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ用に設計された強力なディープラーニングモデルである。半教師付きノード分類におけるGNNに対するグラフ類似性正規化ソフトマックスを提案する。
論文参考訳（メタデータ） (2024-09-20T14:38:16Z)
To Copy, or not to Copy; That is a Critical Issue of the Output Softmax Layer in Neural Sequential Recommenders [48.8643117818312]
本研究では,単一隠れ状態埋め込みと静的アイテム埋め込みを出力ソフトマックス層に埋め込むという問題の原因を明らかにする。我々は、最近提案されたSoftmax-CPRのようなソフトマックス代替案を逐次レコメンデーションタスクに適用し、新しいソフトマックスアーキテクチャが、いつコピーするか、いつ入力シーケンスからアイテムを除外するかを学ぶ際に、ニューラルエンコーダの能力を解き放つことを示した。
論文参考訳（メタデータ） (2023-10-21T18:04:04Z)
Hierarchical clustering with dot products recovers hidden tree structure [53.68551192799585]
本稿では,階層構造の回復に着目した凝集クラスタリングアルゴリズムの新しい視点を提案する。クラスタを最大平均点積でマージし、例えば最小距離やクラスタ内分散でマージしないような、標準的なアルゴリズムの単純な変種を推奨する。このアルゴリズムにより得られた木は、汎用確率的グラフィカルモデルの下で、データ中の生成的階層構造をボナフェイド推定することを示した。
論文参考訳（メタデータ） (2023-05-24T11:05:12Z)
Decision Making for Hierarchical Multi-label Classification with Multidimensional Local Precision Rate [4.812468844362369]
我々は,各クラスの各対象に対して,多次元局所精度率 (mLPR) と呼ばれる新しい統計モデルを導入する。我々は,mLPRの下位順序でクラス間でオブジェクトをソートするだけで,クラス階層を確実にすることができることを示す。これに対し、階層を尊重しながら推定mLPRを用いてCATCHの実証バージョンを最大化する新しいアルゴリズムであるHierRankを導入する。
論文参考訳（メタデータ） (2022-05-16T17:43:35Z)
Use All The Labels: A Hierarchical Multi-Label Contrastive Learning Framework [75.79736930414715]
本稿では,すべての利用可能なラベルを活用でき,クラス間の階層的関係を維持できる階層型多言語表現学習フレームワークを提案する。比較損失に階層的ペナルティを併用し,その階層的制約を強制する。
論文参考訳（メタデータ） (2022-04-27T21:41:44Z)
Modeling Heterogeneous Hierarchies with Relation-specific Hyperbolic Cones [64.75766944882389]
知識グラフにおける複数の階層的および非階層的関係を同時にモデル化できるKG埋め込みモデルであるConE(Cone Embedding)を提案する。特に、ConEは双曲埋め込み空間の異なる部分空間における円錐包含制約を用いて、複数の異種階層をキャプチャする。我々のアプローチでは、WN18RRで45.3%、DDB14で16.1%の新しい最先端hits@1が得られる(0.231 MRR)。
論文参考訳（メタデータ） (2021-10-28T07:16:08Z)
HTCInfoMax: A Global Model for Hierarchical Text Classification via Information Maximization [75.45291796263103]
階層的テキスト分類のための現在の最新モデルHiAGMには2つの制限がある。関連しない情報を含むデータセット内のすべてのラベルと、各テキストサンプルを関連付ける。 2つのモジュールを含む情報を導入することで、これらの問題に対処するHTCInfoMaxを提案します。
論文参考訳（メタデータ） (2021-04-12T06:04:20Z)
Inducing a hierarchy for multi-class classification problems [11.58041597483471]
分類的ラベルが自然な階層に従ったアプリケーションでは、ラベル構造を利用する分類方法は、そうでないものをしばしば上回る。本稿では,フラット分類器に対する分類性能を向上できる階層構造を誘導する手法のクラスについて検討する。原理シミュレーションと3つの実データアプリケーションにおいて、潜入階層の発見と精度向上のためのメソッドのクラスの有効性を実証する。
論文参考訳（メタデータ） (2021-02-20T05:40:42Z)
MATCH: Metadata-Aware Text Classification in A Large Hierarchy [60.59183151617578]
MATCHはメタデータと階層情報の両方を利用するエンドツーエンドのフレームワークである。親による各子ラベルのパラメータと出力確率を正規化するさまざまな方法を提案します。大規模なラベル階層を持つ2つの大規模なテキストデータセットの実験は、MATCHの有効性を示しています。
論文参考訳（メタデータ） (2021-02-15T05:23:08Z)
Classification with Costly Features in Hierarchical Deep Sets [0.0]
本研究では,階層的深度集合と階層的ソフトマックスを用いて,既存の深度強化学習に基づくアルゴリズムを拡張した。拡張された手法は、どの機能を取得できるかをよりよく制御し、7つのデータセットで実験した結果、性能が向上することが示された。
論文参考訳（メタデータ） (2019-11-20T08:15:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。