論文の概要: Learning to Rank Normalized Entropy Curves with Differentiable Window Transformation

• arxiv url: http://arxiv.org/abs/2301.10443v1
• Date: Wed, 25 Jan 2023 07:36:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-26 15:48:20.129039
• Title: Learning to Rank Normalized Entropy Curves with Differentiable Window Transformation
• Title（参考訳）: 微分可能ウィンドウ変換を用いた正規化エントロピー曲線のランク付け学習
• Authors: Hanyang Liu, Shuai Yang, Feng Qi, Shuaiwen Wang
• Abstract要約: 本稿では,正規化エントロピー(NE)学習曲線に特化された学習曲線ランキングモデルを提案する。 提案モデルである自己適応曲線変換拡張相対曲線ランキング (ACTR2) は適応曲線変換層を特徴としている。 実世界のNE曲線データセットを用いた実験により,ACTR2の各鍵成分の有効性が示された。
• 参考スコア（独自算出の注目度）: 9.856136364150267
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Recent automated machine learning systems often use learning curves ranking models to inform decisions about when to stop unpromising trials and identify better model configurations. In this paper, we present a novel learning curve ranking model specifically tailored for ranking normalized entropy (NE) learning curves, which are commonly used in online advertising and recommendation systems. Our proposed model, self-Adaptive Curve Transformation augmented Relative curve Ranking (ACTR2), features an adaptive curve transformation layer that transforms raw lifetime NE curves into composite window NE curves with the window sizes adaptively optimized based on both the position on the learning curve and the curve's dynamics. We also introduce a novel differentiable indexing method for the proposed adaptive curve transformation, which allows gradients with respect to the discrete indices to flow freely through the curve transformation layer, enabling the learned window sizes to be updated flexibly during training. Additionally, we propose a pairwise curve ranking architecture that directly models the difference between the two learning curves and is better at capturing subtle changes in relative performance that may not be evident when modeling each curve individually as the existing approaches did. Our extensive experiments on a real-world NE curve dataset demonstrate the effectiveness of each key component of ACTR2 and its improved performance over the state-of-the-art.
• Abstract（参考訳）: 最近の自動機械学習システムは、しばしば学習曲線を使用して、予測不能な試行をやめ、より良いモデル構成を識別するタイミングを判断する。 本稿では,オンライン広告やレコメンデーションシステムでよく用いられる正規化エントロピー(NE)学習曲線のランク付けに適した,新しい学習曲線ランキングモデルを提案する。 提案モデルである自己適応曲線変換拡張相対曲線ランキング (ACTR2) は、学習曲線上の位置と曲線のダイナミクスの両方に基づいて適応的に最適化されたウィンドウサイズを持つ、生のNE曲線を複合窓NE曲線に変換する適応曲線変換層を特徴とする。 また,提案した適応曲線変換のための新しい微分可能インデックス化手法を導入し,離散指標に対する勾配を曲線変換層に自由に流し,学習したウィンドウサイズを学習中に柔軟に更新できるようにする。 さらに,2つの学習曲線の差を直接モデル化し,各曲線を個別にモデル化する場合に明らかでないような相対的性能の微妙な変化を捉えるのに優れるペアワイズ曲線ランキングアーキテクチャを提案する。 実世界のNE曲線データセットに関する広範な実験により、ACTR2の各キーコンポーネントの有効性と最先端の性能向上が示された。

関連論文リスト

• Online Relational Inference for Evolving Multi-agent Interacting Systems [14.275434303742328]
  オンライン推論(ORI)は、マルチエージェントインタラクションシステムの進化において、隠れた相互作用グラフを効率的に識別するように設計されている。 固定トレーニングセットに依存する従来のオフラインメソッドとは異なり、ORIはオンラインバックプロパゲーションを採用し、新しいデータポイント毎にモデルを更新する。 重要な革新は、AdaRelationと呼ばれる新しい適応学習技術によって最適化されたトレーニング可能なパラメータとして、隣接行列を使用することである。
  論文  参考訳（メタデータ） (2024-11-03T05:43:55Z)
• Gradient-Variation Online Learning under Generalized Smoothness [56.38427425920781]
  勾配変分オンライン学習は、オンライン関数の勾配の変化とともにスケールする後悔の保証を達成することを目的としている。 ニューラルネットワーク最適化における最近の取り組みは、一般化された滑らかさ条件を示唆し、滑らかさは勾配ノルムと相関する。 ゲームにおける高速収束と拡張逆最適化への応用について述べる。
  論文  参考訳（メタデータ） (2024-08-17T02:22:08Z)
• Neural Gradient Learning and Optimization for Oriented Point Normal Estimation [53.611206368815125]
  本研究では,3次元点雲から勾配ベクトルを一貫した向きで学習し,正規推定を行うためのディープラーニング手法を提案する。 局所平面幾何に基づいて角距離場を学習し、粗勾配ベクトルを洗練する。 本手法は,局所特徴記述の精度と能力の一般化を図りながら,グローバル勾配近似を効率的に行う。
  論文  参考訳（メタデータ） (2023-09-17T08:35:11Z)
• Flatten the Curve: Efficiently Training Low-Curvature Neural Networks [16.129787241917835]
  非線型性の度合いをエンコードする数学的量である曲率を考える。 標準モデルよりも大幅に低い曲率が得られる低曲率ニューラルネットワーク(LCNN)を実証する。 私たちのアプローチは使いやすく、既存のニューラルネットワークモデルに簡単に組み込むことができます。
  論文  参考訳（メタデータ） (2022-06-14T20:09:04Z)
• Toward Learning Robust and Invariant Representations with Alignment Regularization and Data Augmentation [76.85274970052762]
  本論文はアライメント正則化の選択肢の増大を動機としている。 我々は、ロバスト性および不変性の次元に沿って、いくつかの人気のある設計選択のパフォーマンスを評価する。 我々はまた、現実的と考える仮定の下で経験的な研究を補完するために、アライメント正則化の挙動を正式に分析する。
  論文  参考訳（メタデータ） (2022-06-04T04:29:19Z)
• Rethinking Efficient Lane Detection via Curve Modeling [37.45243848960598]
  提案手法は,LLAMASベンチマークにおける最先端性能を実現する。 また、TuSimpleとCUデータセットに対して、低レイテンシ (> 150 FPS) と小さなモデルサイズ (10M) の両方を維持しながら、良好な精度を実現している。
  論文  参考訳（メタデータ） (2022-03-04T17:00:33Z)
• Error-Correcting Neural Networks for Two-Dimensional Curvature Computation in the Level-Set Method [0.0]
  本稿では,2次元曲率をレベルセット法で近似するための誤差ニューラルモデルに基づく手法を提案する。 我々の主な貢献は、需要に応じて機械学習操作を可能にする数値スキームに依存する、再設計されたハイブリッド・ソルバである。
  論文  参考訳（メタデータ） (2022-01-22T05:14:40Z)
• Cogradient Descent for Dependable Learning [64.02052988844301]
  双線形最適化問題に対処するために,CoGDアルゴリズムに基づく信頼度の高い学習法を提案する。 CoGDは、ある変数がスパーシティ制約を持つ場合の双線形問題を解くために導入された。 また、特徴と重みの関連を分解するためにも使用できるため、畳み込みニューラルネットワーク(CNN)をより良く訓練するための我々の手法をさらに一般化することができる。
  論文  参考訳（メタデータ） (2021-06-20T04:28:20Z)
• Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
  視覚SLAMシステムのための新しい最適化バックボーンを提案する。 従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。 我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
  論文  参考訳（メタデータ） (2020-11-02T18:02:26Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。