Fugu-MT 論文翻訳(概要): Causal Covariate Shift Correction using Fisher information penalty

論文の概要: Causal Covariate Shift Correction using Fisher information penalty

arxiv url: http://arxiv.org/abs/2502.15756v1
Date: Tue, 11 Feb 2025 15:51:59 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-02 03:22:51.708107
Title: Causal Covariate Shift Correction using Fisher information penalty
Title（参考訳）: 水産情報ペナルティを用いた因果共変量シフト補正
Authors: Behraj Khan, Behroz Mirza, Tahir Syed,
Abstract要約: この研究は、データが時間的に分散されるトレーニング環境に分散密度推定の角度を取る。ペナルティは、フルデータセットベースラインよりも12.9%の精度で向上する。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: Evolving feature densities across batches of training data bias cross-validation, making model selection and assessment unreliable (\cite{sugiyama2012machine}). This work takes a distributed density estimation angle to the training setting where data are temporally distributed. \textit{Causal Covariate Shift Correction ($C^{3}$)}, accumulates knowledge about the data density of a training batch using Fisher Information, and using it to penalize the loss in all subsequent batches. The penalty improves accuracy by $12.9\%$ over the full-dataset baseline, by $20.3\%$ accuracy at maximum in batchwise and $5.9\%$ at minimum in foldwise benchmarks.
Abstract（参考訳）: トレーニングデータのバッチ間で特徴密度を進化させ、モデルの選定と評価を信頼できないようにする(\cite{sugiyama2012machine})。この研究は、データが時間的に分散されるトレーニング環境に分散密度推定の角度を取る。図1. \textit{Causal Covariate Shift Correction (C^{3}$)} は、Fisher Informationを使用してトレーニングバッチのデータ密度に関する知識を蓄積し、それを使用して、その後のすべてのバッチにおける損失をペナルティ化する。このペナルティは、フルデータセットベースラインよりも12.9\%$、バッチワイドで最大20.3\%$、フォールドワイドベンチマークで最低5.9\%$で精度を向上する。

関連論文リスト

Efficient Learning Under Density Shift in Incremental Settings Using Cramér-Rao-Based Regularization [0.0]
この研究は、データが時間的に分散している問題に対して、分散密度推定の角度を取る。バッチでデータを処理し、ニューラルネットワークがバッチをトレーニングデータとして扱うことを可能にする。 C2A$は、最先端のメソッドに対して最大で19%の精度を達成する。
論文参考訳（メタデータ） (2025-02-18T16:00:10Z)
Mitigating covariate shift in non-colocated data with learned parameter priors [0.0]
textitFragmentation-induced co-shift remediation(FIcsR$)は、フラグメントの共変量分布と標準クロスバリデーションベースラインとの$f$-divergenceを最小限にする。複数のデータクラス、40ドル以上のデータセット、および複数のシーケンス長にわたってバッチ化されたデータに対して、広範な分類実験を行います。バッチとフォールド・オブ・ザ・アーティファクトに対する精度は、それぞれ5%以上と10%以上向上している。
論文参考訳（メタデータ） (2024-11-10T15:48:29Z)
Machine Learning Force Fields with Data Cost Aware Training [94.78998399180519]
分子動力学(MD)シミュレーションを加速するために機械学習力場(MLFF)が提案されている。最もデータ効率のよいMLFFであっても、化学精度に達するには数百フレームの力とエネルギーのラベルが必要になる。我々は、安価な不正確なデータと高価な正確なデータの組み合わせを利用して、MLFFのデータコストを下げる多段階計算フレームワークASTEROIDを提案する。
論文参考訳（メタデータ） (2023-06-05T04:34:54Z)
Transfer Knowledge from Head to Tail: Uncertainty Calibration under Long-tailed Distribution [24.734851889816206]
現在の校正技術は、異なるクラスを均等に扱い、暗黙的にトレーニングデータの分布が均衡していると仮定している。テールクラスのサンプルの重みを推定し,知識伝達に基づくキャリブレーション手法を提案する。
論文参考訳（メタデータ） (2023-04-13T13:48:18Z)
Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be Consistent [97.64313409741614]
本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。 CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
論文参考訳（メタデータ） (2023-02-17T18:45:04Z)
Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。 CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
論文参考訳（メタデータ） (2022-07-13T14:13:49Z)
Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
我々は,推論中に深層モデルを新しい環境に適応させることを提案する。バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
論文参考訳（メタデータ） (2021-10-06T08:45:03Z)
On the Importance of Adaptive Data Collection for Extremely Imbalanced Pairwise Tasks [94.23884467360521]
我々は、QQPとWikiQAでトレーニングされた最先端技術モデルが、現実的に不均衡なテストデータで評価された場合、それぞれ平均精度が2.4%しか持たないことを示した。より有益なネガティブな例でバランスのとれたトレーニングデータを作成することで、アクティブラーニングは平均精度をQQPで32.5%、WikiQAで20.1%に大幅に改善する。
論文参考訳（メタデータ） (2020-10-10T21:56:27Z)
Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。