論文の概要: Teacher-Anchored Selection of Post-Training Quantized Models under Domain Shift

• arxiv url: http://arxiv.org/abs/2609.31155v1
• Date: Fri, 25 Sep 2026 11:49:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.368609
• Title: Teacher-Anchored Selection of Post-Training Quantized Models under Domain Shift
• Title（参考訳）: ドメインシフトによる学習後量子化モデルの教師による選択
• Abstract要約: 候補者と教師が固定され,対象ラベルが欠落または不足している家族に対する選択について検討した。 独立に訓練されたコンボリューション(英語版)またはビジョントランスフォーマー(英語版)の教師1人当たりの1人のうち1人、34人以上の候補者が、平均的な後悔を和らげる。
• 参考スコア（独自算出の注目度）: 46.60221265861393
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Compressing a trained model yields a family of deployment candidates, and under domain shift the most compressed one need not be the one to deploy. We study selection over such a family, with candidates and teacher fixed and target labels absent or scarce. Two findings organize the label-free case. Minimum teacher distortion behaves almost as a constant rule, selecting the same eight-bit, per-channel, unclipped configuration in every run, which does not minimize empirical target cross-entropy. Established estimators divide sharply: in the overconfident-collapse regime of the CNN families, confidence-based estimators order the family close to backwards, and the diagnostics that identify it need the labels the setting denies, while output-distribution estimators match the teacher-relative anchor and on one architecture beat it. Distortion is nonetheless stable, so a supervised term can move selection away from it. Combining the two, we give exact quadratic identities for a canonical quadratic analogue of the family. We also show that under symmetric corruption the label-dependent part of a criterion linear in the label indicator is multiplied by one common factor whenever its coefficient sums are candidate-invariant, a class holding teacher contrasts and accuracy but not cross-entropy. These characterize the score's components without bounding selection regret. Across one hundred and thirty-four candidate families, one per independently trained convolutional or Vision Transformer teacher, anchoring reduces mean regret at the smallest label budget in every setting, an advantage that fades beyond twenty-five labels.
• Abstract（参考訳）: トレーニングされたモデルを圧縮すると、デプロイメント候補のファミリーが発生し、ドメインシフトの下で最も圧縮されたモデルがデプロイされる必要はない。 候補者と教師が固定され,対象ラベルが欠落または不足している家族に対する選択について検討した。 2つの所見がラベルフリーの症例を整理した。 最小の教師の歪みは、ほぼ一定の規則として振る舞うため、各ランで同じ8ビットのチャンネルごとの無分別構成を選択し、経験的対象のクロスエントロピーを最小化しない。 CNNファミリーの過度に信頼された崩壊体制では、信頼に基づく推定者が家族を後方に並べ、それを識別する診断は、そのラベルが設定を否定することを必要とし、出力分布推定者は教師相対的なアンカーと一致し、1つのアーキテクチャがそれを打ち負かした。 歪みは安定であるにもかかわらず、教師付き項は選択をそれから遠ざけることができる。 この2つを組み合わせることで、家族の正準二次類似に対して正確な二次恒等性を与える。 また, ラベルインジケータにおける基準線形のラベル依存部分は, 教師のコントラストと正確さを保持するクラスにおいて, 係数和が候補不変である場合, 常に1つの共通因子によって乗算されることを示す。 これらの要素は、選択の後悔を伴わずにスコアの構成要素を特徴づける。 独立に訓練されたコンボリューションまたはビジョントランスフォーマーの教師1人当たりの1人のうち1人、34家族のうち1家族は、あらゆる設定において最小のラベル予算において平均的な後悔を減らし、25のラベルを超える利点がある。

関連論文リスト

• ALRA: Adaptive Local Relational Alignment for Logit-Based Pre-training Distillation of Autoregressive Language Models [4.5311655360445515]
  地元の選択は学生が考えるトークンを見逃しかねないが、学生のみの選択は訓練の早い段階で不正確なランキングに頼ることができる。 本稿では,学生の提案と教師指導を組み合わせた位置特化フレームワークである適応的局所アライメント(ALRA)を提案する。 ALRAは最強の蒸留ベースラインである0.94点と0.83点を越え、予修蒸留を2.31点と2.91点に改善する。
  論文  参考訳（メタデータ） (2026-09-03T04:26:39Z)
• Beyond Distribution Estimation: Simplex Anchored Structural Inference Towards Universal Semi-Supervised Learning [47.92504362652887]
  半教師付き学習は、ラベル付きデータが不足し、ラベルなしデータが未知の任意の分布に従う現実的なシナリオにおいて重大な課題に直面している。 我々は、Universal Semi-supervised Learning (UniSSL)として、批判的ながら未探索のパラダイムを定式化する。 本稿では,信頼度の高い擬似ラベルを優先するための分布非依存指標に基づく重み付け戦略と,誤用する可能性のある擬似ラベルを分離するための補助分岐を導入する。
  論文  参考訳（メタデータ） (2026-05-08T10:33:09Z)
• Appeal: Allow Mislabeled Samples the Chance to be Rectified in Partial Label Learning [55.4510979153023]
  部分ラベル学習(PLL)では、各インスタンスは候補ラベルのセットに関連付けられ、そのうち1つだけが接地真実である。 誤記されたサンプルの「アペアル」を支援するため,最初の魅力に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-18T09:09:52Z)
• Ambiguity-Resistant Semi-Supervised Learning for Dense Object Detection [98.66771688028426]
  本研究では,一段階検出器のためのAmbiguity-Resistant Semi-supervised Learning (ARSL)を提案する。 擬似ラベルの分類とローカライズ品質を定量化するために,JCE(Joint-Confidence Estimation)を提案する。 ARSLは、曖昧さを効果的に軽減し、MS COCOおよびPASCALVOC上で最先端のSSOD性能を達成する。
  論文  参考訳（メタデータ） (2023-03-27T07:46:58Z)
• Label Matching Semi-Supervised Object Detection [85.99282969977541]
  半教師対象検出は,教師主導型自己学習の開発において大きな進歩を遂げている。 ラベルミスマッチ問題は、以前の研究でまだ完全に解明されていないため、自己学習中に重大な確証バイアスが生じる。 本稿では,2つの異なる相補的視点から,単純かつ効果的な LabelMatch フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-14T05:59:41Z)
• Learning with Proper Partial Labels [87.65718705642819]
  部分ラベル学習は、不正確なラベルを持つ弱い教師付き学習の一種である。 この適切な部分ラベル学習フレームワークには,従来の部分ラベル学習設定が数多く含まれていることを示す。 次に、分類リスクの統一的非バイアス推定器を導出する。
  論文  参考訳（メタデータ） (2021-12-23T01:37:03Z)
• MatchGAN: A Self-Supervised Semi-Supervised Conditional Generative Adversarial Network [51.84251358009803]
  本稿では,条件付き生成逆数ネットワーク(GAN)に対する,半教師付き環境下での自己教師型学習手法を提案する。 利用可能な数少ないラベル付きサンプルのラベル空間から無作為なラベルをサンプリングして拡張を行う。 本手法は,ベースラインのトレーニングに使用したラベル付きサンプルの20%に過ぎません。
  論文  参考訳（メタデータ） (2020-06-11T17:14:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。