Fugu-MT 論文翻訳(概要): Strong screening rules for group-based SLOPE models

論文の概要: Strong screening rules for group-based SLOPE models

arxiv url: http://arxiv.org/abs/2405.15357v1
Date: Fri, 24 May 2024 08:48:06 GMT
ステータス: 処理完了
システム内更新日: 2024-05-27 15:11:32.881515
Title: Strong screening rules for group-based SLOPE models
Title（参考訳）: 群ベースSLOPEモデルの強スクリーニング規則
Authors: Fabio Feser, Marina Evangelou,
Abstract要約: グループベースSorted L-One Penalized Estimation(SLOPE)モデルのスクリーニングルールを開発する。開発されたルールは、OSCARを含むグループベースのモデルのより広範なファミリーに適用できる。
参考スコア（独自算出の注目度）: 0.49109372384514843
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Tuning the regularization parameter in penalized regression models is an expensive task, requiring multiple models to be fit along a path of parameters. Strong screening rules drastically reduce computational costs by lowering the dimensionality of the input prior to fitting. We develop strong screening rules for group-based Sorted L-One Penalized Estimation (SLOPE) models: Group SLOPE and Sparse-group SLOPE. The developed rules are applicable for the wider family of group-based OWL models, including OSCAR. Our experiments on both synthetic and real data show that the screening rules significantly accelerate the fitting process. The screening rules make it accessible for group SLOPE and sparse-group SLOPE to be applied to high-dimensional datasets, particularly those encountered in genetics.
Abstract（参考訳）: ペナル化回帰モデルにおける正規化パラメータの調整は高価な作業であり、パラメータのパスに沿って複数のモデルを適合させる必要がある。強いスクリーニング規則は、適合前に入力の寸法を小さくすることで、計算コストを劇的に削減する。我々は,グループSLOPEとスパースグループSLOPEというグループベースSLOPEモデルに対する強力なスクリーニングルールを開発する。開発されたルールは、OSCARを含むグループベースのOWLモデルのより広範なファミリーに適用できる。合成データと実データの両方を用いた実験により, スクリーニング規則が適合過程を著しく加速することが示された。スクリーニング規則により、SLOPE群とスパース群SLOPE群は高次元データセット、特に遺伝学で遭遇したデータセットに適用できる。

関連論文リスト

Group Robust Preference Optimization in Reward-free RLHF [23.622835830345725]
そこで本研究では,大規模言語モデルと各グループの嗜好を密に整合させる新しいグループロバスト選好最適化法を提案する。これを達成するため、GRPOは異なるグループの重要性を適応的かつ順次重み付けし、累積損失が悪化したグループを優先順位付けする。我々は,最悪のパフォーマンス群の性能向上,グループ間の損失不均衡の低減,確率精度の向上について検討した。
論文参考訳（メタデータ） (2024-05-30T17:50:04Z)
Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。グループDROフレームワークをQ-Diversityを提案して再構築する。インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
論文参考訳（メタデータ） (2023-05-20T07:02:27Z)
AGRO: Adversarial Discovery of Error-prone groups for Robust Optimization [109.91265884632239]
群分散ロバスト最適化(G-DRO)は、トレーニングデータに対する事前定義されたグループのセットに対する最悪の損失を最小限にすることができる。本稿では、分散ロバスト最適化のためのAGRO -- Adversarial Group Discoveryを提案する。 AGROは、既知の最悪のグループの平均モデルパフォーマンスを8%向上させる。
論文参考訳（メタデータ） (2022-12-02T00:57:03Z)
The non-overlapping statistical approximation to overlapping group lasso [4.197110761923662]
重なり合う群ラスソペナルティの近似として分離可能なペナルティを提案する。この分離性により, ペナルティに基づく正規化の計算は, 重なり合う群ラッソの計算よりもかなり高速である。提案した分離性ペナルティに基づく推定値は,重なり合うグループラッソペナルティに基づく推定値と統計的に等価であることを示す。
論文参考訳（メタデータ） (2022-11-16T21:21:41Z)
Fine-grained Retrieval Prompt Tuning [149.9071858259279]
微粒な検索プロンプトチューニングは, サンプルプロンプトと特徴適応の観点から, きめの細かい検索タスクを実行するために, 凍結した事前学習モデルを操る。学習可能なパラメータが少ないFRPTは、広く使われている3つの細粒度データセットの最先端性能を実現する。
論文参考訳（メタデータ） (2022-07-29T04:10:04Z)
Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文参考訳（メタデータ） (2022-04-13T12:43:12Z)
Just Train Twice: Improving Group Robustness without Training Group Information [101.84574184298006]
経験的リスク最小化による標準トレーニングは、特定のグループにおける平均的かつ低い精度で高い精度を達成するモデルを生成することができる。群分布的ロバストな最適化 (group DRO) のような、最悪のグループ精度を達成する以前のアプローチでは、トレーニングポイントごとに高価なグループアノテーションが必要である。本稿では,複数のエポックに対して標準的なERMモデルを訓練し,第1モデルが誤分類したトレーニング例を重み付けする第2モデルを訓練する,単純な2段階のアプローチであるJTTを提案する。
論文参考訳（メタデータ） (2021-07-19T17:52:32Z)
Cluster Regularization via a Hierarchical Feature Regression [0.0]
本稿では,階層的特徴回帰(HFR)という新しいクラスタベース正規化を提案する。機械学習とグラフ理論の領域からの洞察を動員し、予測セットの教師付き階層表現に沿ってパラメータを推定する。経済成長予測への応用は、実証的な環境でのHFRの有効性を示すために用いられる。
論文参考訳（メタデータ） (2021-07-10T13:03:01Z)
Inference post Selection of Group-sparse Regression Models [2.1485350418225244]
条件推論は、自動モデル選択からのデータが推論のために再利用されるとき、バイアスに対処するための厳密なアプローチを提供する。本稿では,線形モデル内の不確実性を評価するための統計的に一貫したベイズ的枠組みを開発する。遺伝子、タンパク質、遺伝的変異体、神経画像計測がそれぞれ生物学的経路、分子機能、調節領域、認知的役割によってグループ化された場合、これらのモデルはグループスパース学習アルゴリズムの有用なクラスによって選択される。
論文参考訳（メタデータ） (2020-12-31T15:43:26Z)
Overcoming Data Sparsity in Group Recommendation [52.00998276970403]
グループレコメンデータシステムは、ユーザの個人的な好みだけでなく、嗜好集約戦略も正確に学習できなければならない。本稿では,BGEM(Bipartite Graphding Model)とGCN(Graph Convolutional Networks)を基本構造として,グループとユーザ表現を統一的に学習する。
論文参考訳（メタデータ） (2020-10-02T07:11:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。