論文の概要: First-order Constrained Trilevel Optimization Over Distributed Networks for Robust Coreset Selection

• arxiv url: http://arxiv.org/abs/2607.27632v1
• Date: Thu, 30 Jul 2026 03:43:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.385021
• Title: First-order Constrained Trilevel Optimization Over Distributed Networks for Robust Coreset Selection
• Title（参考訳）: ロバストコアセット選択のための分散ネットワーク上の一階拘束三レベル最適化
• Abstract要約: この研究は、コアセットの選択、堅牢な最適化、分散学習における階層的依存関係を特徴づける。 分散方式で三値化問題を効果的に解くために、アンダーライン第一次アンダーライン制約アンダーライン制約アンダーライン最適化(F$2$CTO)を提案する。
• 参考スコア（独自算出の注目度）: 15.430078919217204
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the rapid advancement of the Internet of Things (IoT), massive amounts of data are generated across distributed edge networks. Training models on full data incurs significant computational overhead and storage bottlenecks, rendering coreset selection a critical paradigm. Furthermore, given the privacy-sensitive nature of local data and the escalating demand for model robustness in real-world deployments, developing an effective distributed optimization framework for robust coreset selection is vital, yet remains largely unexplored. To this end, this work first characterizes the hierarchical dependencies among coreset selection, robust optimization, and distributed learning, and formulates the distributed robust coreset selection as a trilevel optimization problem with level-wise constraints. Furthermore, to effectively solve the trilevel problem in a distributed manner, the \underline{F}ederated \underline{F}irst-order \underline{C}onstrained \underline{T}rilevel \underline{O}ptimization (F$^2$CTO) is proposed, which synergistically integrates a hierarchical composite value-function reformulation and a distributed alternating projected gradient algorithm. To the best of our knowledge, F$^2$CTO is the first method developed for distributed robust coreset selection, as well as the first distributed optimization approach for trilevel optimization problems with level-wise constraints. Additionally, we prove that the proposed method achieves a non-asymptotic convergence rate of $\mathcal{O}(ε^{-3/2})$ for finding an $ε$-stationary point. Extensive empirical evaluations on reliable continual learning demonstrate the effectiveness and efficiency of the proposed F$^2$CTO.
• Abstract（参考訳）: IoT(Internet of Things)の急速な進歩により、分散エッジネットワーク間で大量のデータが生成される。 フルデータのトレーニングモデルでは、計算オーバーヘッドとストレージボトルネックが大幅に増加し、コアセットの選択が重要なパラダイムとなる。 さらに、ローカルデータのプライバシーに敏感な性質と、実世界のデプロイメントにおけるモデルロバスト性への需要の増大を考えると、ロバストなコアセット選択のための効率的な分散最適化フレームワークの開発は不可欠だが、まだほとんど検討されていない。 この目的のために、この研究は、まずコアセット選択、ロバスト最適化、分散学習の階層的依存関係を特徴付け、分散ロバストコアセット選択をレベルワイド制約を伴う三段階最適化問題として定式化する。 さらに, 分散方式で三レベル問題を効果的に解くために, 階層的複合値関数再構成と分散交互投影型勾配アルゴリズムを相乗的に統合した, \underline{F}ederated \underline{F}irst-order \underline{C}onstrained \underline{T}rilevel \underline{O}ptimization (F$^2$CTO)を提案する。 我々の知る限り、F$^2$CTOは、分散ロバストなコアセット選択のために開発された最初の方法であり、レベルワイド制約を伴う三レベル最適化問題に対する最初の分散最適化手法である。 さらに, 提案手法は, $ε$-定常点を求めるために, $\mathcal{O}(ε^{-3/2})$の漸近収束率を達成できることを示す。 信頼性のある連続学習における実験的評価は,提案したF$^2$CTOの有効性と有効性を示す。

関連論文リスト

• DUET: Decentralized Bilevel Optimization without Lower-Level Strong Convexity [77.51981761667302]
  二次正規化二段階分散最適化 (DUET) と呼ばれる新しい単一ループDBOアルゴリズムを導入する。 DUETは、低レベル(LL)の目的に2次正規化を減少させることにより、LLSCの必要性を排除する。 我々の知る限りでは、データを不均一に分散した設定の下でLLSCなしでDBOに取り組むのは、これが初めてです。
  論文  参考訳（メタデータ） (2026-06-19T06:45:13Z)
• Two-Timescale Optimization Framework for Sparse-Feedback Linear-Quadratic Optimal Control [3.746304628644379]
  The $mathcalHfeedback$-guaranteed sparse-feedback linear-quadratic (LQ) optimal control with convex parameterization and convex-bounded uncertainty。
  論文  参考訳（メタデータ） (2024-06-17T03:17:33Z)
• Federated Distributionally Robust Optimization with Non-Convex Objectives: Algorithm and Analysis [21.913563167426872]
  Asynchronous Single-looP alternatIve gRadient projEction という非同期分散アルゴリズムを提案する。 新しい不確実性集合、すなわち制約付きD-ノルムの不確実性集合は、以前の分布を利用し、強靭性の度合いを柔軟に制御するために開発される。 実世界のデータセットに関する実証研究は、提案手法が高速収束を達成できるだけでなく、悪意のある攻撃だけでなく、データに対する堅牢性も維持できることを示した。
  論文  参考訳（メタデータ） (2023-07-25T01:56:57Z)
• Stochastic Unrolled Federated Learning [85.6993263983062]
  本稿では,UnRolled Federated Learning (SURF)を導入する。 提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
  論文  参考訳（メタデータ） (2023-05-24T17:26:22Z)
• Distributed Distributionally Robust Optimization with Non-Convex Objectives [24.64654924173679]
  Asynchronous Single-looP alternatIve gRadient projEction という非同期分散アルゴリズムを提案する。 新しい不確実性集合、すなわち制約付きD-ノルムの不確実性集合は、以前の分布を利用し、強靭性の度合いを柔軟に制御するために開発される。 実世界のデータセットに関する実証研究は、提案手法が高速収束を達成できるだけでなく、悪意のある攻撃だけでなく、データに対する堅牢性も維持できることを示した。
  論文  参考訳（メタデータ） (2022-10-14T07:39:13Z)
• Faster Algorithm and Sharper Analysis for Constrained Markov Decision Process [56.55075925645864]
  制約付き意思決定プロセス (CMDP) の問題点について検討し, エージェントは, 複数の制約を条件として, 期待される累積割引報酬を最大化することを目的とする。 新しいユーティリティ・デュアル凸法は、正規化ポリシー、双対正則化、ネステロフの勾配降下双対という3つの要素の新たな統合によって提案される。 これは、凸制約を受ける全ての複雑性最適化に対して、非凸CMDP問題が$mathcal O (1/epsilon)$の低い境界に達する最初の実演である。
  論文  参考訳（メタデータ） (2021-10-20T02:57:21Z)
• Momentum Accelerates the Convergence of Stochastic AUPRC Maximization [80.8226518642952]
  高精度リコール曲線(AUPRC)に基づく領域の最適化について検討し,不均衡なタスクに広く利用されている。 我々は、$O (1/epsilon4)$のより優れた反復による、$epsilon$定常解を見つけるための新しい運動量法を開発する。 また,O(1/epsilon4)$と同じ複雑さを持つ適応手法の新たなファミリを設計し,実際により高速な収束を享受する。
  論文  参考訳（メタデータ） (2021-07-02T16:21:52Z)
• GT-STORM: Taming Sample, Communication, and Memory Complexities in Decentralized Non-Convex Learning [11.129095449532283]
  近年,分散1/2非堅牢性最適化が注目されている。 分散最適化アルゴリズムの設計における3つの基本的な課題は、サンプルコスト、通信、メモリ複雑さの削減である。
  論文  参考訳（メタデータ） (2021-05-04T00:44:48Z)
• Second-Order Guarantees in Centralized, Federated and Decentralized Nonconvex Optimization [64.26238893241322]
  単純なアルゴリズムは、多くの文脈において優れた経験的結果をもたらすことが示されている。 いくつかの研究は、非最適化問題を研究するための厳密な分析的正当化を追求している。 これらの分析における重要な洞察は、摂動が局所的な降下アルゴリズムを許容する上で重要な役割を担っていることである。
  論文  参考訳（メタデータ） (2020-03-31T16:54:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。