論文の概要: Mutual Information-based Generalized Category Discovery
- arxiv url: http://arxiv.org/abs/2212.00334v1
- Date: Thu, 1 Dec 2022 07:41:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2022-12-02 16:13:01.549120
- Title: Mutual Information-based Generalized Category Discovery
- Title(参考訳): 相互情報に基づく一般化カテゴリー発見
- Abstract要約: 本稿では,一般化カテゴリー発見(GCD)問題に対する情報最大化手法を提案する。
具体的には,特徴量とラベル間の相互情報を評価するパラメトリックな損失関数群を探索する。
また,ラベルなし集合のクラス数を推定するElbow Maximumid-Shift (EMaCS) 手法も導入する。
- 参考スコア(独自算出の注目度): 20.373038652827788
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce an information-maximization approach for the Generalized
Category Discovery (GCD) problem. Specifically, we explore a parametric family
of loss functions evaluating the mutual information between the features and
the labels, and find automatically the one that maximizes the predictive
performances. Furthermore, we introduce the Elbow Maximum Centroid-Shift
(EMaCS) technique, which estimates the number of classes in the unlabeled set.
We report comprehensive experiments, which show that our mutual
information-based approach (MIB) is both versatile and highly competitive under
various GCD scenarios. The gap between the proposed approach and the existing
methods is significant, more so when dealing with fine-grained classification
problems. Our code:
\url{https://github.com/fchiaroni/Mutual-Information-Based-GCD}.
- Abstract(参考訳): 一般化カテゴリ発見(gcd)問題に対する情報最大化手法を提案する。
具体的には,特徴量とラベル間の相互情報を評価するパラメトリックな損失関数群を探索し,予測性能を最大化する機能を自動的に見つける。
さらに,ラベルなし集合のクラス数を推定するElbow Maximum Centroid-Shift (EMaCS)技術を導入する。
我々の相互情報ベースアプローチ(MIB)は多様なGCDシナリオにおいて多目的かつ高い競争力を持つことを示す総合的な実験を報告する。
提案手法と既存手法とのギャップは重要であり,細粒度分類問題を扱う場合にはより重要となる。
コード: \url{https://github.com/fchiaroni/Mutual-Information-Based-GCD}。
関連論文リスト
- Preference Data Selection for Mitigating the Alignment Tax in Large Language Models [52.18310687523229]
BALIGNは、アライメント効率を最適化しながら破滅的な忘れを緩和するバランスのとれたデータ選択戦略である。
3つの重要なデータ中心の機能を統一された複合リスクスコアに集約することにより、BALIGNは、ハイリスクな選好サンプルを体系的にフィルタリングする。
標準的な人間の嗜好データセットの実験では、BALIGNはアライメントゲインを損なうことなく基礎的能力を強く保持している。
論文 参考訳(メタデータ) (2026-08-25T07:58:42Z) - Meta Additive Model: Interpretable Sparse Learning With Auto Weighting [14.609527535286022]
両レベル最適化フレームワークに基づく新しいメタ付加モデル(MAM)を提案する。
MAMは、変数の選択、頑健な回帰推定、不均衡な分類など、さまざまな学習タスクをこなすことができる。
MAMは、様々なデータ破損の下で、合成データと実世界のデータの両方において、最先端の加算モデルより優れている。
論文 参考訳(メタデータ) (2026-04-22T02:16:16Z) - Large Language Model for Discrete Optimization Problems: Evaluation and Step-by-step Reasoning [14.271411751541871]
本研究は,Llama-3シリーズやCHATGPTなど,自然言語データセットのテストによる離散最適化問題の解法における表現形式の違いなど,さまざまなモデルの能力について検討した。
本研究の目的は,(1)大規模問題におけるLCMの能力の概要,(2)離散最適化問題を自動的に解きたい人に提案すること,(3)今後の研究のベンチマークとして評価することである。
論文 参考訳(メタデータ) (2026-03-08T17:02:44Z) - Curvature Enhanced Data Augmentation for Regression [4.910937238451485]
回帰タスクに対する曲率強化マニフォールドサンプリング(CEMS)手法を提案する。
CEMSは、ディストリビューションとアウト・オブ・ディストリビューションの両方のシナリオで優れたパフォーマンスを提供する。
論文 参考訳(メタデータ) (2025-06-07T16:18:37Z) - Multi-Level Aware Preference Learning: Enhancing RLHF for Complex Multi-Instruction Tasks [81.44256822500257]
RLHFは、人工知能システムと人間の好みを結びつける主要なアプローチとして登場した。
RLHFは、複雑なマルチインストラクションタスクに直面すると、不十分なコンプライアンス機能を示す。
本稿では,マルチインストラクション能力を向上させる新しいMAPL(Multi-level Aware Preference Learning)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-19T08:33:11Z) - Local vs. Global Models for Hierarchical Forecasting [0.0]
本研究では,情報活用が階層的予測の精度に与える影響について検討する。
我々は,クロスシリーズとクロス階層情報を活用するために,グローバル予測モデル(GFM)を開発した。
LightGBM に基づく2つの特定の GFM が導入された。
論文 参考訳(メタデータ) (2024-11-10T08:51:49Z) - Fairness-Aware Estimation of Graphical Models [13.39268712338485]
本稿では,グラフィカルモデル(GM)の推定における公平性の問題について検討する。
標準GMは、特に基礎となるデータが機密性や保護されたグループに関わる場合、バイアスのある結果をもたらす可能性がある。
本稿では,保護属性に関連するGMの推定におけるバイアス低減を目的とした包括的フレームワークを提案する。
論文 参考訳(メタデータ) (2024-08-30T16:30:00Z) - GenBench: A Benchmarking Suite for Systematic Evaluation of Genomic Foundation Models [56.63218531256961]
我々はGenomic Foundation Modelsの有効性を評価するためのベンチマークスイートであるGenBenchを紹介する。
GenBenchはモジュラーで拡張可能なフレームワークを提供し、様々な最先端の方法論をカプセル化している。
本稿では,タスク固有性能におけるモデルアーキテクチャとデータセット特性の相互作用のニュアンス解析を行う。
論文 参考訳(メタデータ) (2024-06-01T08:01:05Z) - Semi-Supervised U-statistics [22.696630428733204]
ラベルなしデータの豊富さによって強化された半教師付きU統計を導入する。
提案手法は古典的U統計よりも顕著な効率向上を示すことを示す。
我々は,すべての先進国において古典的U統計よりも優れた改良されたアプローチを提案する。
論文 参考訳(メタデータ) (2024-02-29T07:29:27Z) - Toward the Identifiability of Comparative Deep Generative Models [7.5479347719819865]
比較深部生成モデル(DGM)における識別可能性の理論を提案する。
これらのモデルは、一般的な混合関数のクラスにおいて識別性に欠けるが、混合関数が断片的アフィンであるときに驚くほど識別可能であることを示す。
また, モデルミス種別の影響についても検討し, 従来提案されていた比較DGMの正則化手法が, 潜伏変数の数が事前に分かっていない場合に, 識別可能性を高めることを実証的に示す。
論文 参考訳(メタデータ) (2024-01-29T06:10:54Z) - Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。
MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。
モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
論文 参考訳(メタデータ) (2023-08-29T15:01:01Z) - Differentially Private Federated Clustering over Non-IID Data [59.611244450530315]
クラスタリングクラスタ(FedC)問題は、巨大なクライアント上に分散されたラベルなしデータサンプルを、サーバのオーケストレーションの下で有限のクライアントに正確に分割することを目的としている。
本稿では,DP-Fedと呼ばれる差分プライバシー収束手法を用いた新しいFedCアルゴリズムを提案する。
提案するDP-Fedの様々な属性は、プライバシー保護の理論的解析、特に非識別的かつ独立に分散された(非i.d.)データの場合において得られる。
論文 参考訳(メタデータ) (2023-01-03T05:38:43Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。
ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。
ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
論文 参考訳(メタデータ) (2021-04-12T16:23:37Z) - Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。
堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。
異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文 参考訳(メタデータ) (2020-07-21T08:18:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。