論文の概要: Relaxation-assisted reverse annealing on nonnegative/binary matrix factorization

• arxiv url: http://arxiv.org/abs/2501.02114v1
• Date: Fri, 03 Jan 2025 21:48:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:09:47.503245
• Title: Relaxation-assisted reverse annealing on nonnegative/binary matrix factorization
• Title（参考訳）: 非負・二項行列分解における緩和支援逆熱処理
• Authors: Renichiro Haba, Masayuki Ohzeki, Kazuyuki Tanaka,
• Abstract要約: 本稿では,リニアプログラミング緩和技術とリバースアニーリングを統合した改良戦略を提案する。 顔画像データセットを用いた実験により,本手法は既知の逆アニール法よりも収束性が高いことが示された。
• 参考スコア（独自算出の注目度）: 0.4915744683251151
• License:
• Abstract: Quantum annealing has garnered significant attention as meta-heuristics inspired by quantum physics for combinatorial optimization problems. Among its many applications, nonnegative/binary matrix factorization stands out for its complexity and relevance in unsupervised machine learning. The use of reverse annealing, a derivative procedure of quantum annealing to prioritize the search in a vicinity under a given initial state, helps improve its optimization performance in matrix factorization. This study proposes an improved strategy that integrates reverse annealing with a linear programming relaxation technique. Using relaxed solutions as the initial configuration for reverse annealing, we demonstrate improvements in optimization performance comparable to the exact optimization methods. Our experiments on facial image datasets show that our method provides better convergence than known reverse annealing methods. Furthermore, we investigate the effectiveness of relaxation-based initialization methods on randomized datasets, demonstrating a relationship between the relaxed solution and the optimal solution. This research underscores the potential of combining reverse annealing and classical optimization strategies to enhance optimization performance.
• Abstract（参考訳）: 量子アニールは、組合せ最適化問題に対する量子物理学に触発されたメタヒューリスティックスとして大きな注目を集めている。 その多くの応用の中で、非負/二項行列分解は、教師なし機械学習における複雑さと関連性で際立っている。 量子アニールの導関数である逆アニールを用いることで、行列分解における最適化性能を向上させることができる。 本研究では,リニアプログラミング緩和技術とリバースアニールを統合した改良戦略を提案する。 逆アニーリングの初期構成として緩和解を用いると、正確な最適化手法に匹敵する最適化性能が向上することを示した。 顔画像データセットを用いた実験により,本手法は既知の逆アニール法よりも収束性が高いことが示された。 さらに, ランダム化データセットに対する緩和に基づく初期化手法の有効性について検討し, 緩和解と最適解の関係を示す。 本研究は, 逆熱処理と古典最適化を併用して最適化性能を向上させる可能性を示す。

関連論文リスト

• Improved Approximation Algorithms for Low-Rank Problems Using Semidefinite Optimization [2.1485350418225244]
  低ランク最適化問題に対する類似の緩和型サンプル戦略を構築した。 ほぼ最適解が得られる半定緩和とランダムな丸めスキームを導出する。 我々は、緩和とサンプリング方式の有効性とスケーラビリティを数値的に説明する。
  論文  参考訳（メタデータ） (2025-01-06T11:31:41Z)
• A novel algorithm for optimizing bundle adjustment in image sequence alignment [6.322876598831792]
  本稿では,低温電子トモグラフィーにおける画像シーケンスアライメントの文脈におけるバンドル調整(BA)モデルを最適化するための新しいアルゴリズムを提案する。 アルゴリズムの性能を評価するために、合成データセットと実世界のデータセットの両方に関する大規模な実験を行った。
  論文  参考訳（メタデータ） (2024-11-10T03:19:33Z)
• Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
  オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。 我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。 実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
  論文  参考訳（メタデータ） (2024-06-12T16:58:41Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• Faster Margin Maximization Rates for Generic and Adversarially Robust Optimization Methods [20.118513136686452]
  一階最適化法は、未決定の訓練目標を最小化する際に、本質的に他よりも特定の解を優先する傾向がある。 本稿では,ミラー降下法と最急降下法について,最先端の暗黙バイアス率を示す。 私たちの加速速度は、このゲームフレームワークにおけるオンライン学習アルゴリズムの残念な部分を活用することによって導き出されます。
  論文  参考訳（メタデータ） (2023-05-27T18:16:56Z)
• Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。 本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
  論文  参考訳（メタデータ） (2023-01-28T01:50:42Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Reverse Annealing for Nonnegative/Binary Matrix Factorization [0.0]
  近年、量子アニールはある種の行列分解アルゴリズムにおいて有効で高速なサブルーチンとして用いられることが示されている。 本稿では,非負・二項行列分解問題に対して,量子アニーリングサブルーチンの前方アニーリングの代わりに逆アニーリングを利用する。
  論文  参考訳（メタデータ） (2020-07-10T18:40:02Z)
• A Primer on Zeroth-Order Optimization in Signal Processing and Machine Learning [95.85269649177336]
  ZO最適化は、勾配推定、降下方向、ソリューション更新の3つの主要なステップを反復的に実行する。 我々は,ブラックボックス深層学習モデルによる説明文の評価や生成,効率的なオンラインセンサ管理など,ZO最適化の有望な応用を実証する。
  論文  参考訳（メタデータ） (2020-06-11T06:50:35Z)
• A Riemannian Primal-dual Algorithm Based on Proximal Operator and its Application in Metric Learning [3.511851311025242]
  一次変数と双対変数を反復的に最適化する原始双対アルゴリズムを提案する。 提案アルゴリズムの収束を証明し,その非漸近収束率を示す。 ファンドマネージメントにおける最適ファンド選択問題に関する予備実験の結果,有効性が確認された。
  論文  参考訳（メタデータ） (2020-05-19T03:31:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。