論文の概要: Directional Influence Function: Estimating Training Data Influence in Constrained Learning
- arxiv url: http://arxiv.org/abs/2607.23388v1
- Date: Sat, 25 Jul 2026 22:50:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.08882
- Title: Directional Influence Function: Estimating Training Data Influence in Constrained Learning
- Title（参考訳）: 指導的影響関数:制約学習における訓練データの影響を推定する
- Authors: Xin Wang, R. Tyrrell Rockafellar, Xuegang, Ban,
- Abstract要約: Directional Influence Function (DIF) は、制約を影響評価に明示的に組み込む新しい推定器である。
本結果は,制約学習におけるデータ帰属のための効率的かつ信頼性の高いツールとしてDIFを確立した。
- 参考スコア（独自算出の注目度）: 2.9843488044412507
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As constrained learning becomes increasingly common, models are trained under explicit feasibility requirements to enforce fairness, safety, robustness, regulariza- tion, and physics or logic constraints. Understanding how training samples in- fluence the model solution (e.g., learned parameters) is crucial for interpretability and robustness. The classical influence function (IF) estimates sample contribu- tions via local sensitivity analysis, measuring how the solution changes when a specific training sample is perturbed or removed. However, IF becomes unreli- able in constrained settings: data perturbations can reshape both the objective and the feasible region, leading to estimates that violate feasibility. In response, we propose the Directional Influence Function (DIF), a novel estimator that explicitly incorporates these constraints into influence estimation. DIF formulates the opti- mality conditions of constrained learning as a variational inequality (VI) and ana- lyzes how perturbing training data affects this VI. We validate DIF on constrained linear regression and demonstrate that it recovers leave-one-out retraining results, whereas IF and penalty-based IF exhibit significant bias. We further apply DIF to fairness-constrained CNNs, where DIF accurately predicts test loss changes under data removal and aligns closely with actual retraining. Our results establish DIF as an efficient and reliable tool for data attribution in constrained learning.
- Abstract（参考訳）: 制約付き学習が一般的になるにつれて、モデルは公正性、安全性、堅牢性、正規化-オプション、物理または論理的制約を強制するために、明示的な実現可能性要件の下で訓練される。
モデルソリューション(例:学習したパラメータ)のトレーニング方法を理解することは、解釈可能性と堅牢性に不可欠です。
古典的影響関数 (IF) は、局所感度分析によりサンプル成分を推定し、特定のトレーニングサンプルが摂動または除去されたときの溶液がどのように変化するかを測定する。
しかし、IFは制約された設定で信頼できないものとなり、データ摂動は目的領域と実現可能な領域の両方を再構成し、実現可能性に反する見積もりをもたらす。
そこで本研究では,これらの制約を影響評価に明示的に組み込んだ新しい推定法であるDef(Directional Influence Function)を提案する。
DIFは制約学習のオプティマリティ条件を変分不等式(VI)として定式化し、ana-は摂動トレーニングデータがこのVIに与える影響を解析する。
制約付き線形回帰でDIFを検証した結果, IFとペナルティに基づくIFは有意な偏りを示した。
さらに、DIFはデータ削除時のテスト損失変化を正確に予測し、実際のリトレーニングと密接に一致させる。
本結果は,制約学習におけるデータ帰属のための効率的かつ信頼性の高いツールとしてDIFを確立した。
関連論文リスト
- Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。
具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
論文 参考訳（メタデータ） (2026-05-09T15:30:52Z) - FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。
属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。
PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
論文 参考訳（メタデータ） (2026-05-05T02:31:18Z) - Learning Complex Physical Regimes via Coverage-oriented Uncertainty Quantification: An application to the Critical Heat Flux [0.0]
不確実性定量化(UQ)は、安全性評価ではなく、学習タスク自体への支援と見なされるべきである。
OECD/NEA Expert Group on Reactor Systems Multi-Physicsで発表されたCritical Heat Fluxベンチマークとデータセットに注目した。
ポストホック法は統計的キャリブレーションを保証するが、カバレッジ指向学習は複雑な物理状態に適合するようにモデルの表現を効果的に再評価する。
論文 参考訳（メタデータ） (2026-02-25T09:04:15Z) - f-INE: A Hypothesis Testing Framework for Estimating Influence under Training Randomness [13.922293647552303]
仮説テストに基づく新しい影響推定フレームワークである*f-influence*を導入する。
また,f-influence **を1回のトレーニング実行で計算する,高効率なアルゴリズム**f*-*IN*fluence **E*stimation (**f-INE**)を設計する。
最後に, Llama-3.1-8Bにおける指導指導データの影響を推定するためにf-INEをスケールアップし, 有毒試料を確実に検出できることを示す。
論文 参考訳（メタデータ） (2025-10-12T09:05:47Z) - Lightweight and Robust Federated Data Valuation [24.16107496848504]
フェデレーテッド・ラーニング(FL)は、非IIDデータ分散と敵対的クライアントの振る舞いにより、永続的な課題に直面している。
提案するFLアグリゲーションフレームワークであるFedIFは,トラジェクトリに基づく影響推定を利用して,クライアントのコントリビューションを効率的に計算する。
実世界の展開において,FedIFは,効率的かつ堅牢なFLを実現するために,Shapley値ベースのアプローチに代わる実用的で理論的に基礎的かつスケーラブルな代替手段として確立されている。
論文 参考訳（メタデータ） (2025-09-29T22:31:56Z) - Data Fusion for Partial Identification of Causal Effects [62.56890808004615]
本稿では,研究者が重要な疑問に答えられるような,新しい部分的識別フレームワークを提案する。
因果効果は肯定的か否定的か?
本研究の枠組みをSTARプロジェクトに適用し,第3級の標準試験性能に対する教室規模の影響について検討する。
論文 参考訳（メタデータ） (2025-05-30T07:13:01Z) - CALF: A Conditionally Adaptive Loss Function to Mitigate Class-Imbalanced Segmentation [0.2902243522110345]
不均衡データセットは、医学診断のためのディープラーニング(DL)モデルのトレーニングにおいて課題となる。
本稿では,DLトレーニングにおける不均衡データセットの条件を満たすために,新しい,統計的に駆動された条件適応型損失関数(CALF)を提案する。
論文 参考訳（メタデータ） (2025-04-06T12:03:33Z) - Feasible Learning [78.6167929413604]
本稿では,サンプル中心の学習パラダイムであるFeasible Learning(FL)を紹介する。
大規模言語モデルにおける画像分類, 年齢回帰, 好みの最適化といった経験的分析により, FLを用いて訓練したモデルでは, 平均的性能に限界があるものの, ERMと比較して改善された尾の挙動を示しながらデータから学習できることが実証された。
論文 参考訳（メタデータ） (2025-01-24T20:39:38Z) - A Versatile Influence Function for Data Attribution with Non-Decomposable Loss [3.1615846013409925]
本稿では,非分解不能な損失を学習した機械学習モデルに対して,直接適用可能なVersatile Influence Function (VIF)を提案する。
VIFはデータ属性の大幅な進歩を表しており、幅広い機械学習パラダイムにまたがる効率的な影響関数ベースの属性を可能にする。
論文 参考訳（メタデータ） (2024-12-02T09:59:01Z) - Estimating Structural Target Functions using Machine Learning and
Influence Functions [103.47897241856603]
統計モデルから特定可能な関数として生じる対象関数の統計的機械学習のための新しい枠組みを提案する。
このフレームワークは問題とモデルに依存しないものであり、応用統計学における幅広い対象パラメータを推定するのに使用できる。
我々は、部分的に観測されていない情報を持つランダム/二重ロバストな問題において、いわゆる粗大化に特に焦点をあてた。
論文 参考訳（メタデータ） (2020-08-14T16:48:29Z) - Influence Functions in Deep Learning Are Fragile [52.31375893260445]
影響関数は、テスト時間予測におけるサンプルの効果を近似する。
影響評価は浅いネットワークでは かなり正確です
ヘッセン正則化は、高品質な影響推定を得るために重要である。
論文 参考訳（メタデータ） (2020-06-25T18:25:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。