論文の概要: The Lagrangian Structure of Cost-Penalized Active Feature Acquisition
- arxiv url: http://arxiv.org/abs/2610.21919v1
- Date: Thu, 15 Oct 2026 14:03:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.103814
- Title: The Lagrangian Structure of Cost-Penalized Active Feature Acquisition
- Title(参考訳): コストペナライズされたアクティブな特徴獲得のラグランジアン構造
- Abstract要約: 我々は、EIG-Cost に対して、欲求準最適項 Del_lam を証明した。
MIMIC-IVでは、EIG-Costはフルパネルコストの6.6%を使用し、30ドルの予算でマクロF1 0.180 +/-0.012を達成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Active Feature Acquisition (AFA) sequentially selects features to maximize predictive accuracy under an acquisition budget. A natural heuristic greedily maximizes Expected Information Gain minus a cost penalty, EIG(j|x_S)-lam*c_j (EIG-Cost), but its theoretical guarantees are unclear. We provide an a-posteriori certificate decomposing the gap to the optimal hard-budget policy into a budget-slack term and a greedy-suboptimality term Del_lam. The certificate is computable when the penalized optimum is tractable; on small heterogeneous-cost instances, we verify it exactly, finding Del_lam near zero across 4,000 solved cases. On the large clinical task, Del_lam is not computable, so the decomposition is diagnostic rather than a numerical guarantee. Our analysis identifies EIG-Cost as one-step greedy optimization of the Lagrangian relaxation of expected-cost AFA, with lam as its dual multiplier. For equal costs, we prove Del_lam <= exp(-gam*I(Y;X_[d])), where gam is the submodularity ratio, yielding a structural guarantee in the near-submodular regime. Supporting results establish an adaptive chain-rule identity showing that cumulative stepwise EIG optimizes transcript information, and prove that A -> I(Y;X_A) need not be submodular, even for jointly Gaussian variables. This rules out a direct Nemhauser-Wolsey-Fisher bound; naive Bayes restores submodularity. We also bound the randomization gap between hard-budget and expected-cost optima, analyze sensitivity to dual-multiplier error under local smoothness, and derive a conditional CVAE generator-shift bound given a bound on forward predictive KL. We treat this KL as a diagnostic quantity, not as a transform of training loss. Experiments cover synthetic Gaussian settings, AFA benchmarks, and clinical differential diagnosis on MIMIC-IV. On MIMIC-IV, EIG-Cost achieves macro-F1 0.180 +/- 0.012 at a $30 budget, using 6.6% of full-panel cost.
- Abstract(参考訳): Active Feature Acquisition (AFA) は、取得予算の下で予測精度を最大化する機能を順次選択する。
EIG(j|x_S)-lam*c_j (EIG-Cost) は、その理論的な保証は不明確である。
我々は,最適なハード予算政策とのギャップを,予算の遅れ項と強欲な副最適化項Del_lamに分解するアポテリオ認証を提供する。
この証明は、ペナルティ化された最適化がトラクタブルである場合に計算可能であり、小さな不均一なコストのインスタンスでは、4000の解決ケースに対して、ゼロに近いDel_lamを正確に検証する。
大きな臨床的タスクでは、Del_lamは計算不可能であるため、分解は数値的な保証ではなく診断である。
分析の結果,EIG-Costはラグランジアン緩和の1段階的な最適化であり,ラムを二重乗算器とした。
対等なコストに対しては、Del_lam <= exp(-gam*I(Y;X_[d])) を証明し、ガムが準モジュラリティ比であり、準モジュラーに近い状態における構造的保証を与える。
A->I(Y;X_A) が部分モジュラーでなくてもよいことを証明する。
このことはネムハウザー=ウォルゼー=フィッシャー境界を直結させ、ベイズは部分モジュラリティを復元する。
また, ハード予算と予測コスト最適値のランダム化ギャップを限定し, 局所的滑らかさ下での二重乗算器誤差に対する感度を解析し, 前方予測KLに有界な条件付きCVAE発生器シフトを導出する。
我々はこのKLを、トレーニング損失の変換ではなく、診断量として扱う。
実験では、合成ガウス設定、AFAベンチマーク、MIMIC-IVにおける臨床差分診断をカバーしている。
MIMIC-IVでは、EIG-Costはフルパネルコストの6.6%を使用し、30ドルの予算でマクロF1 0.180 +/-0.012を達成する。
関連論文リスト
- Adaptive Robust Confidence Sets in High Dimensions [60.353542776481596]
本研究では,不確実性を同時に定量化することにより,情報理論的に最適な適応信頼セットを構築することができることを示す。
統計的には最適であるが、この構成は計算的に不可能である。
論文 参考訳(メタデータ) (2026-10-11T16:00:46Z) - Target-Dependent Limits of Causal Repair: A Leading-Log Frontier in a Gaussian Model [4.31007246082592]
因果予測器がどれだけ改善できるかを知ることは、実際に学んだ修理の利益を明らかにしない。
我々は、このギャップを既知の介入幾何学を用いたスカラーガウス因果実験で定量化する。
均一学習 MSE$$ の学習者および評価者を共同最適化することで、修理を行わないという簡単な解決策を避けることができる。
論文 参考訳(メタデータ) (2026-09-30T15:48:39Z) - Bayesian Best-Arm Identification with Abstention: A Polynomial-to-Exponential Phase Transition [51.253617466579335]
本研究では,学習者が端末の推薦を控えることができるベイジアン固定予算のベストアーム識別問題について検討する。
本研究は,非検出誤りの確率を解析し,吸収を伴わない準最適腕を推奨するリスクについて考察する。
論文 参考訳(メタデータ) (2026-06-28T05:07:27Z) - Differential Spectral Damping Gap Adaptive Regularization for Ill-Conditioned Kernel Methods [0.0]
局所固有ギャップ構造に適応する正規化公式である差分スペクトル減衰法(DSD)を提案する。
私たちは、デービス=カーハンの$sin()$定理を基礎とした設計手順を通じて、DSDを動機付けます。
DSD は LSTSVM の分類精度を実世界のGINA 上で+4.8 ポイント向上することを示した。
論文 参考訳(メタデータ) (2026-06-22T14:32:39Z) - Wall-Clock Complexity for Zeroth-Order Optimization with Tunable Oracle Fidelity [68.54852541944625]
ブラックボックス最適化は勾配が利用できない場合に適用され、客観的評価は高価なシミュレーションに依存する。
本稿では, オラクル型, ノイズモデル, 最適化方式の選択が, アルゴリズムパラメータに対する壁面最適選択をいかに引き起こすかを示す。
論文 参考訳(メタデータ) (2026-05-29T14:24:54Z) - Adaptive Test-Time Compute Allocation for Reasoning LLMs via Constrained Policy Optimization [18.737087162461563]
テストタイムの計算スケーリングは、大規模言語モデルのパフォーマンスを向上させるための強力なレバーとなっている。
しかし、これらのテクニックを有限の推論予算の下で展開するには、現在のシステムがほとんど無視する決定が必要である。
我々はこれを制約付き最適化問題(平均計算予算の予測精度を最大化する)として定式化し、2段階のソルベ・テン・ラーンパイプラインで解いた。
論文 参考訳(メタデータ) (2026-04-16T10:39:22Z) - Adaptive Threshold-Driven Continuous Greedy Method for Scalable Submodular Optimization [0.0]
マットロイド制約の下でのサブモジュールは、センシング、データマージ、アクティブラーニング、リソース割り当てなどの応用において、最適化の基本的な問題である。
textitATCG(underlineAdaptive underlineThresholded underlineThresholded underlineThresholded underlineGreedy)を提案する。
CIFAR-10動物データセットを用いたクラスバランス型プロトタイプ選択問題の実験
論文 参考訳(メタデータ) (2026-04-03T19:32:39Z) - FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
論文 参考訳(メタデータ) (2025-05-19T07:32:56Z) - Contextual Combinatorial Bandits with Probabilistically Triggered Arms [55.9237004478033]
確率的に誘発される腕(C$2$MAB-T)を様々な滑らかさ条件下で検討した。
トリガー変調 (TPM) 条件の下では、C$2$-UC-Tアルゴリズムを考案し、後悔すべき$tildeO(dsqrtT)$を導出する。
論文 参考訳(メタデータ) (2023-03-30T02:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。