論文の概要: "Where Can I Trust You?": Boundary-Aware Evaluation of Surrogate Fidelity

• arxiv url: http://arxiv.org/abs/2609.32230v1
• Date: Sat, 26 Sep 2026 04:45:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 18:43:20.034244
• Title: "Where Can I Trust You?": Boundary-Aware Evaluation of Surrogate Fidelity
• Title（参考訳）: 「誰があなたを信頼できるのか?」:サロゲートの忠実さを境界として評価する
• Abstract要約: 代理モデルは、評価セットに対して教師モデルにどの程度の頻度で同意するかによって、一般的に評価される。 代理の正当性は、代理が教師とどの程度の頻度で合意するかだけでなく、その合意がどこにあるかにも依存することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Surrogate models are commonly evaluated by how often they agree with their teacher model over an evaluation set. Local variation in this agreement is well known, but its structure and consequences are less clear. We ask whether disagreement is systematically concentrated near the teacher's decision boundary and whether retaining that structure provides information beyond a single global score. Across several datasets and surrogate model classes, we find substantially lower fidelity near teacher decision boundaries under two different methods of identifying near-boundary examples. Moreover, conditioning agreement on confidence-defined regions improves prediction of teacher--surrogate agreement when evaluation-set composition changes, relative to the global score alone. Yet surrogates that agree equally well with the teacher both globally and near the decision boundary can respond very differently to changes selected using the surrogate itself. Finally, we show that independently trained deep teachers can agree on most predictions while identifying different examples as lying near their decision boundaries, complicating the use of those boundaries as stable reference regions for evaluating surrogates. Together, these results show that surrogate fidelity depends not only on how often a surrogate agrees with its teacher, but also on where that agreement holds and, for deep models, how stable the teacher's decision boundary is across training runs.
• Abstract（参考訳）: 代理モデルは、評価セットに対して教師モデルにどの程度の頻度で同意するかによって、一般的に評価される。 この合意の局所的な変動はよく知られているが、その構造と結果はあまり明らかではない。 我々は,教師の判断境界付近で意見の不一致が体系的に集中されているか,その構造を維持することが,単一のグローバルスコア以上の情報を提供するか否かを問う。 いくつかのデータセットと代理モデルクラスにまたがって、教師決定境界付近で、ほぼ有界な事例を識別する2つの異なる方法の下で、かなり低い忠実度を求める。 さらに,信頼度定義領域の条件付合意は,評価セット構成が変化した場合の教師代理契約の予測を,グローバルスコアのみと比較して改善する。 しかし、世界的かつ決定境界付近の教師と同等に一致した代理語は、代理語自体を用いて選択された変化に対して、非常に異なる反応をすることができる。 最後に、個別に訓練された深層教師は、多くの予測に一致し、異なる事例を意思決定境界付近に横たわっていると認識し、それらの境界をサロゲートを評価するための安定した参照領域として使うことを複雑にしていることを示す。 これらの結果は、代理職が教師とどの程度の頻度で意見が一致しているかだけでなく、その合意がどこにあるか、そして深いモデルの場合、教師の判断境界がトレーニング実行中にどの程度安定しているかにも依存していることを示している。

関連論文リスト

• Inductive Feedback for Mixed-Policy Distillation [15.997296479947785]
  言語フィードバックはエラーを特定し、修正を処方する。 オンライン蒸留は、学生が生み出したロールアウトに関する教師の予測に合致するように学生を訓練する。 このアプローチは、フィードバックのほとんどを未使用のままにしながら、フィードバックが動機のない教師の好みを伝達することができる。
  論文  参考訳（メタデータ） (2026-09-28T15:20:35Z)
• TeacherGRPO: Closing the Capacity Gap in Reasoning Distillation via Teacher Alignment [70.40748464576045]
  強力な教師モデルから小さな学生への蒸留はギャップカースに面している。 教師がより高度に成長するにつれて、複雑な分布は生徒が近似できるものから多様化し、パフォーマンスが低下する。 本研究では,教師がデータを捨てたり,推論品質を劣化させたりすることなく,直接生徒の分布に適応する教師アライメントを提案する。
  論文  参考訳（メタデータ） (2026-09-27T10:13:54Z)
• Teacher Should Think Ahead: Adaptive Continuations for Reliable On-Policy Distillation [29.726128117466956]
  不完全または低品質の学生接頭辞を条件にした場合,教師の指導は信頼できないことを示す。 本稿では,教師の継続を伴って学生のロールアウトに伴う情報伝達状態を増強する適応継続オン・ポリティ蒸留(AC-OPD)を提案する。
  論文  参考訳（メタデータ） (2026-09-06T07:08:41Z)
• CRAD: Class-wise Reliability-Aware Distillation for Decentralized Heterogeneous Federated Learning [3.2847672479922783]
  フェデレートラーニングのためのクラスワイド・アウェア蒸留(CRAD)を提案する。 CRADはクラス毎の信頼性(精度、逆分散)で各教師を重み付けする 世界的精度で競合する手法を一貫して上回る。
  論文  参考訳（メタデータ） (2026-08-31T22:36:30Z)
• Every Coin Has Two Sides: On the Dual Nature of Generalization in On-Policy Distillation of Large Language Models [68.52262705081098]
  オンライン蒸留は、生徒自身の方針からサンプリングされた軌跡を監督することによって、教師の能力を伝達する。 OPDは,特定の問題に対する回答よりも,教師の推論行動を伝達することがわかった。
  論文  参考訳（メタデータ） (2026-08-17T14:46:53Z)
• Learning from Consensus and Disagreement: Unsupervised On-Policy Self-Distillation with Minority-Trajectory Contrast [15.292903130335974]
  オンライン自己蒸留は、実際に学生が訪れた州について教師に質問することで、言語モデル推論を改善する。 近年の手法は、教師を特権的文脈に露出させることにより、強力な情報非対称性を生み出す。 我々は、モデル自身のロールアウトの潜在的不確実性構造から完全に信頼性の高い特権情報を生成する、完全に教師なしのフレームワークであるCoDAを紹介します。
  論文  参考訳（メタデータ） (2026-08-09T15:23:25Z)
• Faithful Knowledge Distillation [75.59907631395849]
  i) 教師と学生は、正しく分類されたデータセットのサンプルに近い点で意見が一致しないか、(ii) 蒸留した学生は、データセットのサンプルに関する教師と同じくらい自信があるか、という2つの重要な質問に焦点をあてる。 これらは、安全クリティカルな設定の中で、堅牢な教師から訓練された小さな学生ネットワークを配置することを考えると、重要な問題である。
  論文  参考訳（メタデータ） (2023-06-07T13:41:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。