Fugu-MT 論文翻訳(概要): Stochastic Penalty-Barrier Methods for Constrained Machine Learning

論文の概要: Stochastic Penalty-Barrier Methods for Constrained Machine Learning

arxiv url: http://arxiv.org/abs/2605.18618v2
Date: Tue, 19 May 2026 17:03:47 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-20 15:03:08.648333
Title: Stochastic Penalty-Barrier Methods for Constrained Machine Learning
Title（参考訳）: 制約付き機械学習のための確率的ペナルティバリア法
Authors: Adam Bosák, Andrii Kliachkin, Jana Lepšová, Gilles Bareilles, Jakub Mareček,
Abstract要約: 制約付き機械学習は、一般的なトレーニング、物理-ニューラルネットワーク、シンボリックドメイン知識の統合を可能にする。統計モデルにおける非滑らかな設定を扱うための指数関数的双対ペナルティ平均化法を提案する。
参考スコア（独自算出の注目度）: 0.3262230127283452
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Constrained machine learning enables fairness-aware training, physics-informed neural networks, and integration of symbolic domain knowledge into statistical models. Despite its practical importance, no general method exists for the non-convex, non-smooth, stochastic setting that arises naturally in deep learning. We propose the Stochastic Penalty-Barrier Method (SPBM), which extends classical penalty and barrier methods to this setting via exponential dual averaging, a stabilized penalty schedule, and the Moreau envelope to handle non-smoothness. Experiments across multiple settings show that SPBM matches or outperforms existing constrained optimization baselines while incurring only linear runtime overhead compared to unconstrained Adam for up to 10,000 constraints.
Abstract（参考訳）: 制約付き機械学習は、公正な学習、物理情報ニューラルネットワーク、記号的ドメイン知識の統計モデルへの統合を可能にする。その実践的重要性にもかかわらず、非凸、非滑らか、確率的な設定に対して、ディープラーニングで自然に発生する一般的な方法は存在しない。本研究では,古典的ペナルティとバリア法を指数的双対平均化,安定化されたペナルティスケジュール,非滑らか性を扱うモローエンベロープにより拡張する確率的ペナルティバリア法(SPBM)を提案する。複数の設定での実験では、SPBMが既存の制約付き最適化ベースラインにマッチまたは上回る一方で、制限なしのAdamに対して最大10,000の制約でリニアランタイムオーバーヘッドしか発生しない。

関連論文リスト

$φ$-Balancing for Mixture-of-Experts Training [20.061328126956028]
Mixture-of-Experts (MoE)モデルは、そのスケーラビリティを完全に実現するために、バランスのとれた専門家の利用に依存します。我々は,厳密な凸性,対称性,および予測されるルーティング分布の微分ポテンシャルを最小化することにより,集団レベルの専門家バランスを直接ターゲットとする原則的フレームワークである$-balancingを提案する。
論文参考訳（メタデータ） (2026-05-14T20:39:28Z)
Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
論文参考訳（メタデータ） (2026-05-09T15:30:52Z)
Breaking the Stochasticity Barrier: An Adaptive Variance-Reduced Method for Variational Inequalities [0.0]
非コン最適化タスクのための新しいアルゴリズムとしてVR-A-A(VarianceReduced-Ascent with Armijo)を提案する。本手法は,手動学習スケジューリングへの依存度を低減して,限界周期を効果的に抑制し,収束を加速することを示す。
論文参考訳（メタデータ） (2026-01-30T14:43:07Z)
Derivative-Free Sequential Quadratic Programming for Equality-Constrained Stochastic Optimization [3.2489082010225485]
我々は、客観的で決定論的な等式制約で非線形最適化問題を解くことを検討する。本稿では,DF-SSQP法を提案する。標準仮定では,提案したDF-SSQP法を大域的にほぼ収束させる。
論文参考訳（メタデータ） (2025-10-25T23:51:20Z)
Stability and Generalization for Bellman Residuals [8.250374560598493]
ベルマン残留最小化(BRM)はオフライン強化学習の魅力的な治療法として浮上している。本稿では,SGDAが近傍のデータセット上で実行され,O(1/n)平均引数-安定性境界が得られる,単一のリアプノフポテンシャルを紹介する。その結果、標準のニューラルネットワークパラメータ化とミニバッチSGDが得られた。
論文参考訳（メタデータ） (2025-08-26T07:15:36Z)
BAPE: Learning an Explicit Bayes Classifier for Long-tailed Visual Recognition [78.70453964041718]
現在のディープラーニングアルゴリズムは通常、後部確率を簡易に推定することで最適分類器を解く。この単純な手法は、厳密にバランスのとれた学術ベンチマークデータセットに有効であることが証明されている。しかし、これは現実世界の長い尾のデータ分布には適用できない。本稿では,データ分布のより正確な理論的推定を行う新しい手法(BAPE)を提案する。
論文参考訳（メタデータ） (2025-06-29T15:12:50Z)
Fast and Stable Diffusion Planning through Variational Adaptive Weighting [3.745003761050674]
拡散モデルは、最近オフラインRLで有望であることが示されている。これらの手法は、しばしば高い訓練コストと緩やかな収束に悩まされる。本稿では,フローベース生成モデルに基づくオンライン推定のためのクローズドフォーム近似手法を提案する。 Maze2D タスクと Kitchen タスクの実験結果から,本手法は最大10倍のトレーニングステップで競争性能を達成できることが示された。
論文参考訳（メタデータ） (2025-06-20T02:12:04Z)
SeWA: Selective Weight Average via Probabilistic Masking [51.015724517293236]
より良く、より高速な収束を達成するためには、ほんの数ポイントしか必要としないことを示す。離散選択問題を連続的な部分集合最適化フレームワークに変換する。両凸画像チェックポイントの値よりもシャープなSeWAの安定性境界を導出する。
論文参考訳（メタデータ） (2025-02-14T12:35:21Z)
Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文参考訳（メタデータ） (2024-01-17T09:01:29Z)
Learning Globally Smooth Functions on Manifolds [94.22412028413102]
スムーズな関数の学習は、線形モデルやカーネルモデルなどの単純なケースを除いて、一般的に難しい。本研究は,半無限制約学習と多様体正規化の技法を組み合わせることで,これらの障害を克服することを提案する。軽度条件下では、この手法は解のリプシッツ定数を推定し、副生成物として大域的に滑らかな解を学ぶ。
論文参考訳（メタデータ） (2022-10-01T15:45:35Z)
Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文参考訳（メタデータ） (2021-10-24T10:23:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。