論文の概要: Parametric Information Maximization for Generalized Category Discovery
- arxiv url: http://arxiv.org/abs/2212.00334v3
- Date: Fri, 14 Jul 2023 15:27:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-17 17:31:29.692493
- Title: Parametric Information Maximization for Generalized Category Discovery
- Title(参考訳): 一般化カテゴリー発見のためのパラメトリック情報最大化
- Authors: Florent Chiaroni, Jose Dolz, Ziko Imtiaz Masud, Amar Mitiche, Ismail
Ben Ayed
- Abstract要約: 一般化カテゴリー発見(GCD)問題に対するパラメトリック情報最大化(PIM)モデルを提案する。
我々のPIMモデルは、6つの異なるデータセットにまたがってGCDに新しい最先端のパフォーマンスを一貫して設定していることを示す。
- 参考スコア(独自算出の注目度): 20.373038652827788
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a Parametric Information Maximization (PIM) model for the
Generalized Category Discovery (GCD) problem. Specifically, we propose a
bi-level optimization formulation, which explores a parameterized family of
objective functions, each evaluating a weighted mutual information between the
features and the latent labels, subject to supervision constraints from the
labeled samples. Our formulation mitigates the class-balance bias encoded in
standard information maximization approaches, thereby handling effectively both
short-tailed and long-tailed data sets. We report extensive experiments and
comparisons demonstrating that our PIM model consistently sets new
state-of-the-art performances in GCD across six different datasets, more so
when dealing with challenging fine-grained problems.
- Abstract(参考訳): 一般化カテゴリー発見(GCD)問題に対するパラメトリック情報最大化(PIM)モデルを提案する。
具体的には,各特徴量と潜在ラベル間の重み付き相互情報を評価し,ラベル付きサンプルからの監督制約を受ける目的関数のパラメタライズド族を探索する2レベル最適化定式化を提案する。
本稿では,標準情報最大化手法で符号化されたクラスバランスバイアスを緩和し,短尾データセットと長尾データセットの両方を効果的に扱う。
我々は、PIMモデルが6つの異なるデータセットにまたがってGCDに新しい最先端のパフォーマンスを一貫して設定していることを示す広範な実験と比較を行った。
関連論文リスト
- Local vs. Global Models for Hierarchical Forecasting [0.0]
本研究では,情報活用が階層的予測の精度に与える影響について検討する。
我々は,クロスシリーズとクロス階層情報を活用するために,グローバル予測モデル(GFM)を開発した。
LightGBM に基づく2つの特定の GFM が導入された。
論文 参考訳(メタデータ) (2024-11-10T08:51:49Z) - Fairness-Aware Estimation of Graphical Models [13.39268712338485]
本稿では,グラフィカルモデル(GM)の推定における公平性の問題について検討する。
標準GMは、特に基礎となるデータが機密性や保護されたグループに関わる場合、バイアスのある結果をもたらす可能性がある。
本稿では,保護属性に関連するGMの推定におけるバイアス低減を目的とした包括的フレームワークを提案する。
論文 参考訳(メタデータ) (2024-08-30T16:30:00Z) - GenBench: A Benchmarking Suite for Systematic Evaluation of Genomic Foundation Models [56.63218531256961]
我々はGenomic Foundation Modelsの有効性を評価するためのベンチマークスイートであるGenBenchを紹介する。
GenBenchはモジュラーで拡張可能なフレームワークを提供し、様々な最先端の方法論をカプセル化している。
本稿では,タスク固有性能におけるモデルアーキテクチャとデータセット特性の相互作用のニュアンス解析を行う。
論文 参考訳(メタデータ) (2024-06-01T08:01:05Z) - Semi-Supervised U-statistics [22.696630428733204]
ラベルなしデータの豊富さによって強化された半教師付きU統計を導入する。
提案手法は古典的U統計よりも顕著な効率向上を示すことを示す。
我々は,すべての先進国において古典的U統計よりも優れた改良されたアプローチを提案する。
論文 参考訳(メタデータ) (2024-02-29T07:29:27Z) - Toward the Identifiability of Comparative Deep Generative Models [7.5479347719819865]
比較深部生成モデル(DGM)における識別可能性の理論を提案する。
これらのモデルは、一般的な混合関数のクラスにおいて識別性に欠けるが、混合関数が断片的アフィンであるときに驚くほど識別可能であることを示す。
また, モデルミス種別の影響についても検討し, 従来提案されていた比較DGMの正則化手法が, 潜伏変数の数が事前に分かっていない場合に, 識別可能性を高めることを実証的に示す。
論文 参考訳(メタデータ) (2024-01-29T06:10:54Z) - Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。
MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。
モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
論文 参考訳(メタデータ) (2023-08-29T15:01:01Z) - Differentially Private Federated Clustering over Non-IID Data [59.611244450530315]
クラスタリングクラスタ(FedC)問題は、巨大なクライアント上に分散されたラベルなしデータサンプルを、サーバのオーケストレーションの下で有限のクライアントに正確に分割することを目的としている。
本稿では,DP-Fedと呼ばれる差分プライバシー収束手法を用いた新しいFedCアルゴリズムを提案する。
提案するDP-Fedの様々な属性は、プライバシー保護の理論的解析、特に非識別的かつ独立に分散された(非i.d.)データの場合において得られる。
論文 参考訳(メタデータ) (2023-01-03T05:38:43Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。
ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。
ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
論文 参考訳(メタデータ) (2021-04-12T16:23:37Z) - Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。
堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。
異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文 参考訳(メタデータ) (2020-07-21T08:18:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。