論文の概要: Constrained Optimization of Rank-One Functions with Indicator Variables
- arxiv url: http://arxiv.org/abs/2303.18158v1
- Date: Fri, 31 Mar 2023 15:51:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 13:28:29.771503
- Title: Constrained Optimization of Rank-One Functions with Indicator Variables
- Title（参考訳）: 指標変数を用いたランクワン関数の制約付き最適化
- Authors: Soroosh Shafieezadeh-Abadeh and Fatma K{\i}l{\i}n\c{c}-Karzan
- Abstract要約: 様々な機械学習アプリケーションに現れる決定変数のサポートに関する制約をモデル化する制約よりも、ランクワン凸関数が関与する最適化問題である。
本稿では、視点関数によって誘導される隠れ円錐構造を利用する構成的アプローチを提案する。
これにより、非線形可分あるいは非可分な目的関数を持つ集合の凸包記述に対する視点記述を体系的に与え、連続変数の制約にサインし、指標変数の制約を与えることができる。
- 参考スコア（独自算出の注目度）: 3.655021726150368
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimization problems involving minimization of a rank-one convex function
over constraints modeling restrictions on the support of the decision variables
emerge in various machine learning applications. These problems are often
modeled with indicator variables for identifying the support of the continuous
variables. In this paper we investigate compact extended formulations for such
problems through perspective reformulation techniques. In contrast to the
majority of previous work that relies on support function arguments and
disjunctive programming techniques to provide convex hull results, we propose a
constructive approach that exploits a hidden conic structure induced by
perspective functions. To this end, we first establish a convex hull result for
a general conic mixed-binary set in which each conic constraint involves a
linear function of independent continuous variables and a set of binary
variables. We then demonstrate that extended representations of sets associated
with epigraphs of rank-one convex functions over constraints modeling indicator
relations naturally admit such a conic representation. This enables us to
systematically give perspective formulations for the convex hull descriptions
of these sets with nonlinear separable or non-separable objective functions,
sign constraints on continuous variables, and combinatorial constraints on
indicator variables. We illustrate the efficacy of our results on sparse
nonnegative logistic regression problems.
- Abstract（参考訳）: 制約よりもランクワン凸関数の最小化を伴う最適化問題は、さまざまな機械学習アプリケーションにおいて、決定変数のサポートに関する制約が現れる。
これらの問題は、連続変数のサポートを特定するために、しばしばインジケータ変数でモデル化される。
本稿では,このような問題に対するコンパクトな拡張定式化について,視点修正手法を用いて検討する。
凸包体結果を提供するための支援関数引数や非連結プログラミング技術に依存する先行研究のほとんどとは対照的に,視点関数によって引き起こされる隠れた円錐構造を利用する構成的アプローチを提案する。
この目的のために、まず、各円錐制約が独立な連続変数の線型関数とバイナリ変数の集合を含む一般円錐混合二元集合に対する凸包結果を確立する。
次に、階数 1 の凸関数のエピグラフに付随する集合の拡張表現が、制約モデリング指標関係にそのような円錐表現が自然に認められることを示した。
これにより、これらの集合の凸包記述に対して、非線形可分あるいは非可分な目的関数、連続変数の制約、指標変数の組合せ的制約を体系的に与えることができる。
我々は,非負のロジスティック回帰問題に対する結果の有効性を示す。
関連論文リスト
- Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳（メタデータ） (2024-01-10T02:38:21Z) - Variational Annealing on Graphs for Combinatorial Optimization [7.378582040635655]
解変数間の統計的依存関係を捉える自己回帰的手法は,多くのCO問題に対して優れた性能を示すことを示す。
本稿では,一組の解変数の構成を単一トークンで表すサブグラフトークン化を提案する。
論文 参考訳（メタデータ） (2023-11-23T18:56:51Z) - Score-based Causal Representation Learning with Interventions [54.735484409244386]
本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。
目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
論文 参考訳（メタデータ） (2023-01-19T18:39:48Z) - Discrete-Continuous Smoothing and Mapping [8.90077503980675]
本稿では,ロボット工学の応用においてよく見られる離散連続因子グラフのクラスによるスムース化とマッピングに関する一般的なアプローチについて述べる。
我々は,因子グラフから離散連続モデルの設定まで,既存の最適化ツールであるDC-SAMを提供する。
論文 参考訳（メタデータ） (2022-04-25T19:31:44Z) - On the convex hull of convex quadratic optimization problems with
indicators [2.867517731896504]
二次変数の2次数を持つ拡張空間における関連する混合整数集合の凸包記述は、単一の正の半定値制約と線形制約からなることを示す。
ここで提示された新しい理論は、混合整数非線形集合の凸殻を解析するために多面体法を利用するための道を開く。
論文 参考訳（メタデータ） (2022-01-02T18:04:52Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳（メタデータ） (2021-11-26T06:33:29Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳（メタデータ） (2020-07-07T21:26:35Z) - Ideal formulations for constrained convex optimization problems with
indicator variables [2.578242050187029]
本研究では,指標変数と指標に対する制約を用いた凸最適化問題のクラスを凸化することを検討した。
スパース回帰問題の凸化に関する従来の研究とは異なり、非線形非分離対象、指標変数、制約を同時に検討する。
階層性,多行性,空間性制約といった問題に対する理想的な凸化を導出する。
論文 参考訳（メタデータ） (2020-06-30T21:07:10Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳（メタデータ） (2020-06-16T13:41:54Z) - Consistent Second-Order Conic Integer Programming for Learning Bayesian
Networks [2.7473982588529653]
連続観測データからBNのスパースDAG構造を学習する問題について検討する。
この数学的プログラムの最適解は、ある条件下では望ましい統計的性質を持つことが知られている。
ほぼ最適解を得るために, 分岐・結合プロセスの終了に向け, 早期停止条件を提案する。
論文 参考訳（メタデータ） (2020-05-29T00:13:15Z) - Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。
主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文 参考訳（メタデータ） (2019-06-05T07:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。