論文の概要: Bayes-Consistent Losses for Adaptive Inference in Classification

• arxiv url: http://arxiv.org/abs/2610.39709v1
• Date: Thu, 29 Oct 2026 09:44:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.487274
• Title: Bayes-Consistent Losses for Adaptive Inference in Classification
• Title（参考訳）: 分類における適応推論のためのベイズ一貫性損失
• Abstract要約: 単一段またはカスケードルータを用いた共同学習型分類器のコスト依存型ヒンジ損失を提案する。 合成および実データセットの実験により、提案したヒンジ損失が関節トレーニングに有効であることが示された。
• 参考スコア（独自算出の注目度）: 30.99529577182067
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adaptive inference systems balance accuracy and inference cost by routing inputs to models with varying capabilities. Although jointly training models and routers is empirically more sample-efficient than training them separately, principled losses for joint training remain underexplored. We address this gap in a classification setting by proposing cost-sensitive hinge losses for jointly training classifiers with single-stage or cascade routers. Single-stage routers directly select a model per input, whereas cascade routers sequentially decide at each stage whether to predict with the current model or defer to the next stage, which uses a more accurate but more costly model. For both settings, we prove linear calibration bounds establishing Bayes consistency: minimizing the hinge risk recovers the Bayes-optimal risk under the target cost-sensitive zero-one loss. Moreover, since routers can require more labeled data to train than classifiers, we propose a novel post-training prediction-powered inference (PPI) procedure that uses unlabeled data to refine a trained single-stage router. Experiments on synthetic and real datasets demonstrate that the proposed hinge losses are effective for joint training and that PPI can correct routing errors when labeled data is scarce.
• Abstract（参考訳）: 適応推論システムは、様々な機能を持つモデルに入力をルーティングすることで、精度と推論コストのバランスをとる。 ジョイントトレーニングモデルとルータは、個別にトレーニングするよりも経験的にサンプル効率が良いが、ジョイントトレーニングの原則的な損失は未調査のままである。 単一段ルータとカスケードルータを併用した共同学習分類器に対して,コスト依存型ヒンジ損失を提案することで,このギャップを分類設定で解決する。 シングルステージルータは入力毎にモデルを直接選択するが、カスケードルータは各ステージで、現在のモデルで予測するか、より正確だがよりコストのかかるモデルを使用する次のステージに延期するかを順次決定する。 ヒンジリスクの最小化は、目標コストに敏感なゼロワン損失下でのベイズ最適リスクを回復させる。 さらに、ルータは分類器よりもラベル付きデータを必要とするため、未ラベルデータを用いて訓練済みの単一ステージルータを洗練するための新しいトレーニング後予測型推論(PPI)手順を提案する。 合成データセットと実データセットの実験では、提案したヒンジ損失が共同トレーニングに有効であること、ラベル付きデータが不足している場合にPPIがルーティングエラーを補正できることが示されている。

関連論文リスト

• Statistical Benefits of Fine-Tuning from Pretrained Initialization in Diagonal Linear Networks [76.86688424891021]
  グラデーションベースの微調整によって、微調整済みの重みが暗黙的に悪用されることを示す。 以上の結果から,事前学習した重み付き情報を勾配に基づく微調整によって暗黙的に活用する方法が示唆された。
  論文  参考訳（メタデータ） (2026-09-28T09:42:39Z)
• Flexible Routing via Uncertainty Decomposition [13.854691350572821]
  機械学習システムのパフォーマンスとコストのバランスをとるための主要な戦略は、クエリを低コストのモデルか高価なオラクルに動的にルーティングすることだ。 本稿では,不確実なクエリに対する不必要なオラクル呼び出しを回避するための,新しい不確実性対応ルータを提案する。
  論文  参考訳（メタデータ） (2026-05-08T14:39:57Z)
• Can Small Training Runs Reliably Guide Data Curation? Rethinking Proxy-Model Practice [109.9635246405237]
  データ品質に関する実験結果が、ハイパーパラメータのトレーニングに微調整を加えることで、反転できることを示す。 評価プロトコルに簡単なパッチを導入し、プロキシモデルのトレーニングに学習率を削減した。 実験により,データキュレーションの4つの重要な次元をカバーする23種類のデータレシピに対して,このアプローチを検証した。
  論文  参考訳（メタデータ） (2025-12-30T23:02:44Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)
• LLM Routing with Dueling Feedback [49.67815163970033]
  ユーザの満足度,モデルの専門性,推論コストのバランスを保ちながら,クエリ毎に最適なモデルを選択するという課題について検討する。 絶対的なスコアではなく、ペアの選好フィードバックから学習することで、ルーティングをコンテキストデュエルの帯域として定式化する。 分類的重み付けを用いた対照的な微調整を用いて,オフラインデータからモデル埋め込みを導出する表現学習手法であるカテゴリーキャリブレーション・ファインタニング(CCFT)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T12:52:25Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• DE-CROP: Data-efficient Certified Robustness for Pretrained Classifiers [21.741026088202126]
  そこで本研究では,いくつかのトレーニングサンプルを用いて,事前学習したモデルのロバスト性を証明する新しい手法を提案する。 提案手法は,各トレーニングサンプルに対応するクラス境界および補間標本を生成する。 複数のベンチマークデータセットのベースラインに対する大幅な改善と、課題のあるブラックボックス設定の下でも同様のパフォーマンスを報告しています。
  論文  参考訳（メタデータ） (2022-10-17T10:41:18Z)
• Learning from Data with Noisy Labels Using Temporal Self-Ensemble [11.245833546360386]
  ディープニューラルネットワーク(DNN)はノイズラベルを記憶する膨大な能力を持つ。 現在最先端の手法では、損失の少ないサンプルを用いて二重ネットワークを訓練するコトレーニング方式が提案されている。 本稿では,単一のネットワークのみをトレーニングすることで,シンプルで効果的なロバストトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-07-21T08:16:31Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• Robust Training under Label Noise by Over-parameterization [41.03008228953627]
  本稿では,トレーニングラベルの比率が低下した分類タスクにおいて,過パラメータ化深層ネットワークの堅牢なトレーニングを行うための原則的手法を提案する。 ラベルノイズはクリーンデータから学んだネットワークと疎結合なので、ノイズをモデル化してデータから分離することを学びます。 注目すべきは、このような単純な手法を用いて訓練を行う場合、様々な実データに対してラベルノイズに対する最先端のテスト精度を示すことである。
  論文  参考訳（メタデータ） (2022-02-28T18:50:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。