論文の概要: Regularized Frank-Wolfe for Dense CRFs: Generalizing Mean Field and Beyond

• arxiv url: http://arxiv.org/abs/2110.14759v1
• Date: Wed, 27 Oct 2021 20:44:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-30 11:02:41.555556
• Title: Regularized Frank-Wolfe for Dense CRFs: Generalizing Mean Field and Beyond
• Title（参考訳）: 高密度CRFのための正規化Frank-Wolfe:平均場と向こう側
• Authors: {\DJ}.Khu\^e L\^e-Huu and Karteek Alahari
• Abstract要約: 我々は,高次条件場に対する汎用的で効果的なCNNベースライン推論である正規化Frank-Wolfeを導入する。 新しいアルゴリズム、新しいアルゴリズム、新しいデータセット、強力なニューラルネットワークの大幅な改善が示されています。
• 参考スコア（独自算出の注目度）: 19.544213396776268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce regularized Frank-Wolfe, a general and effective algorithm for inference and learning of dense conditional random fields (CRFs). The algorithm optimizes a nonconvex continuous relaxation of the CRF inference problem using vanilla Frank-Wolfe with approximate updates, which are equivalent to minimizing a regularized energy function. Our proposed method is a generalization of existing algorithms such as mean field or concave-convex procedure. This perspective not only offers a unified analysis of these algorithms, but also allows an easy way of exploring different variants that potentially yield better performance. We illustrate this in our empirical results on standard semantic segmentation datasets, where several instantiations of our regularized Frank-Wolfe outperform mean field inference, both as a standalone component and as an end-to-end trainable layer in a neural network. We also show that dense CRFs, coupled with our new algorithms, produce significant improvements over strong CNN baselines.
• Abstract（参考訳）: 本稿では,高次条件付き乱数場(CRF)の推論と学習のための汎用的で効果的なアルゴリズムである正規化Frank-Wolfeを紹介する。 このアルゴリズムは、正規化エネルギー関数の最小化と等価な近似更新を持つバニラフランクウルフを用いて、CRF推論問題の非凸連続緩和を最適化する。 提案手法は,平均場や凹凸法などの既存アルゴリズムの一般化である。 この観点は、これらのアルゴリズムの統一的な分析を提供するだけでなく、より良いパフォーマンスをもたらす可能性のある様々な変種を簡単に探索する方法を提供する。 我々はこれを、標準セマンティックセグメンテーションデータセットの実証的な結果で説明し、正規化されたFrank-Wolfeのいくつかのインスタンスは、ニューラルネットワークのスタンドアロンコンポーネントとエンドツーエンドのトレーニング可能なレイヤの両方として、平均場推論を上回ります。 また、高密度CRFと新しいアルゴリズムが組み合わさって、強力なCNNベースラインよりも大幅に改善されていることを示す。

関連論文リスト

• Beyond Short Steps in Frank-Wolfe Algorithms [25.808224336342683]
  本稿では,関数のスムーズさを従来のショートステップを超えて活用することで,フランク・ウルフアルゴリズムを強化する新しい手法を提案する。 楽観的なフレームワークを用いた新しいフランク・ウルフアルゴリズムを提案し、原始双対収束証明を提供する。
  論文  参考訳（メタデータ） (2025-01-30T21:52:45Z)
• An Enhanced Zeroth-Order Stochastic Frank-Wolfe Framework for Constrained Finite-Sum Optimization [15.652261277429968]
  本稿では,制約付き有限サム最適化問題に対処するため,ゼロ階凸計算を改良したFrank-Wolfeを提案する。 本手法では,ゼロ次オラクルによる近似を効果的に低減する新しい二重分散低減フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-01-13T10:53:19Z)
• Stochastic Unrolled Federated Learning [85.6993263983062]
  本稿では,UnRolled Federated Learning (SURF)を導入する。 提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
  論文  参考訳（メタデータ） (2023-05-24T17:26:22Z)
• Sarah Frank-Wolfe: Methods for Constrained Optimization with Best Rates and Practical Features [65.64276393443346]
  Frank-Wolfe (FW) 法は、構造化制約による最適化問題の解法として一般的な手法である。 有限サム勾配の最小化のためのアルゴリズムの2つの新しい変種を示す。
  論文  参考訳（メタデータ） (2023-04-23T20:05:09Z)
• Large-scale Optimization of Partial AUC in a Range of False Positive Rates [51.12047280149546]
  ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。 近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。 提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
  論文  参考訳（メタデータ） (2022-03-03T03:46:18Z)
• Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex Decentralized Optimization Over Time-Varying Networks [79.16773494166644]
  通信ネットワークのノード間を分散的に保存するスムーズで強い凸関数の和を最小化するタスクについて検討する。 我々は、これらの下位境界を達成するための2つの最適アルゴリズムを設計する。 我々は,既存の最先端手法と実験的な比較を行うことにより,これらのアルゴリズムの理論的効率を裏付ける。
  論文  参考訳（メタデータ） (2021-06-08T15:54:44Z)
• RNN Training along Locally Optimal Trajectories via Frank-Wolfe Algorithm [50.76576946099215]
  小領域の損失面に局所的なミニマを反復的に求めることにより,RNNの新規かつ効率的なトレーニング手法を提案する。 新たなRNNトレーニング手法を開発し,追加コストを伴っても,全体のトレーニングコストがバックプロパゲーションよりも低いことを実証的に観察した。
  論文  参考訳（メタデータ） (2020-10-12T01:59:18Z)
• AIN: Fast and Accurate Sequence Labeling with Approximate Inference Network [75.44925576268052]
  線形鎖条件ランダム場(CRF)モデルは最も広く使われているニューラルネットワークラベリング手法の1つである。 厳密な確率的推論アルゴリズムは典型的にはCRFモデルの訓練と予測段階に適用される。 CRFモデルに対して並列化可能な近似変分推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-09-17T12:18:43Z)
• Efficient Optimization of Dominant Set Clustering with Frank-Wolfe Algorithms [4.873362301533825]
  ドミナント・セット・クラスタリングの効率的な最適化のために,Frank-Wolfeアルゴリズム(標準,ペアワイズ,アウトステップ)について検討する。 フランク=ウルフ法の異なる変種を利用するための統一的で計算効率の良いフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-22T20:08:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。