論文の概要: How Useful Is Cross-Domain Generalization for Training LLM Monitors?

• arxiv url: http://arxiv.org/abs/2605.12265v1
• Date: Tue, 12 May 2026 15:29:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.966786
• Title: How Useful Is Cross-Domain Generalization for Training LLM Monitors?
• Title（参考訳）: LLMモニターのトレーニングにおけるクロスドメイン一般化はどの程度有用か?
• Authors: Sam Martin, Fabien Roger,
• Abstract要約: 我々は,複数の分類タスクのトレーニングをそれぞれ独自のプロンプトで行うことで,新たな分類プロンプトによる新しいドメインの性能向上を図っている。 このような訓練は、隣接する領域に部分的に一般化し、トレーニング中に目に見えないタスクの分類性能を向上させる。 分類学習は、学習後の一般的な指導と混在し、(うまくいけば)分類訓練の利点を保ち、一般化失敗を軽減できることを示す。
• 参考スコア（独自算出の注目度）: 2.43347444843856
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Using prompted language models as classifiers enables classification in domains with limited training data, but misses some of the robustness and performance benefits that fine-tuning can bring. We study whether training on multiple classification tasks, each with its own prompt, improves performance on new domains with new classification prompts. We show that such training partially generalizes to adjacent domains, improving classification performance on tasks that are unseen during training. However, we identify specific edge cases where the fine-tuned models fail to follow prompts, such as when the classification prompt changes completely while the data domain remains the same as during training. We show that classification training can be mixed with general instruction following training, and that (when done well) such training keeps the benefits of classification training and mitigates its generalization failures. Surprisingly, we see that this no-thinking supervised classification training can generalize to with-thinking classification and summarization, suggesting that no-thinking classification training might be instrumentally useful in building other kinds of classifiers and monitoring systems.
• Abstract（参考訳）: 引き起こされた言語モデルを分類器として使用することで、限られたトレーニングデータを持つドメインの分類が可能になるが、微調整がもたらす堅牢性とパフォーマンス上のメリットを見逃している。 我々は,複数の分類タスクのトレーニングをそれぞれ独自のプロンプトで行うことで,新たな分類プロンプトによる新しいドメインの性能向上を図っている。 このような訓練は、隣接する領域に部分的に一般化し、トレーニング中に目に見えないタスクの分類性能を向上させる。 しかし、細調整されたモデルがプロンプトに従わない特定のエッジケースを特定する。例えば、データドメインがトレーニング中と同じままである間、分類が完全に変化するときなどである。 分類学習は、学習後の一般的な指導と混在し、(うまくいけば)分類訓練の利点を保ち、一般化失敗を軽減できることを示す。 驚くべきことに、この非思考的教師付き分類訓練は、非思考的分類と要約に一般化することができ、非思考的分類訓練が他の種類の分類器や監視システムを構築するのに有用な可能性があることを示唆している。

関連論文リスト

• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• Anomaly Detection using Ensemble Classification and Evidence Theory [62.997667081978825]
  本稿では,アンサンブル分類とエビデンス理論を用いた新しい検出手法を提案する。 固体アンサンブル分類器を構築するためのプール選択戦略が提示される。 我々は異常検出手法の不確実性を利用する。
  論文  参考訳（メタデータ） (2022-12-23T00:50:41Z)
• Cluster & Tune: Boost Cold Start Performance in Text Classification [21.957605438780224]
  実世界のシナリオでは、ラベル付きデータが不足している場合、テキスト分類タスクはコールドスタートから始まることが多い。 中間的教師なし分類タスクを追加することにより,そのようなモデルの性能を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2022-03-20T15:29:34Z)
• One vs Previous and Similar Classes Learning -- A Comparative Study [2.208242292882514]
  この研究は、トレーニングされたモデルをスクラッチから再トレーニングすることなく更新できる3つの学習パラダイムを提案する。 その結果、提案されたパラダイムは更新時のベースラインよりも高速であり、そのうち2つはスクラッチからのトレーニング、特に大規模なデータセットでも高速であることが示された。
  論文  参考訳（メタデータ） (2021-01-05T00:28:38Z)
• Towards A Category-extended Object Detector without Relabeling or Conflicts [40.714221493482974]
  本稿では,手作業を必要とせずに,限られたデータセットに基づいてすべてのカテゴリを処理可能な,強力な統一型検出器の傾きを目標とする。 提案手法は, 基礎モデルの改善, 未ラベルの地中埋立処分戦略の改善, 疑似アノテーションによる再訓練手法の3つの側面に着目した実践的枠組みを提案する。
  論文  参考訳（メタデータ） (2020-12-28T06:44:53Z)
• Joint Visual and Temporal Consistency for Unsupervised Domain Adaptive Person Re-Identification [64.37745443119942]
  本稿では,局所的なワンホット分類とグローバルなマルチクラス分類を組み合わせることで,視覚的・時間的整合性を両立させる。 3つの大規模ReIDデータセットの実験結果は、教師なしと教師なしの両方のドメイン適応型ReIDタスクにおいて提案手法の優位性を示す。
  論文  参考訳（メタデータ） (2020-07-21T14:31:27Z)
• Text Classification with Few Examples using Controlled Generalization [58.971750512415134]
  現在の実践は、トレーニング中に見えない単語を、類似した単語とマッピングするために、事前訓練された単語埋め込みに依存している。 私たちの代替案は、未ラベルのパースコーパスから派生したスパース事前訓練された表現から始まります。 これらのベクトル上のフィードフォワードネットワークは、特に低データシナリオにおいて有効であることを示す。
  論文  参考訳（メタデータ） (2020-05-18T06:04:58Z)
• Fine-Grained Visual Classification with Efficient End-to-end Localization [49.9887676289364]
  本稿では,エンド・ツー・エンドの設定において,分類ネットワークと融合可能な効率的なローカライゼーションモジュールを提案する。 我々は,CUB200-2011,Stanford Cars,FGVC-Aircraftの3つのベンチマークデータセット上で,新しいモデルを評価する。
  論文  参考訳（メタデータ） (2020-05-11T14:07:06Z)
• Rethinking Class-Balanced Methods for Long-Tailed Visual Recognition from a Domain Adaptation Perspective [98.70226503904402]
  現実世界のオブジェクトの周波数は、しばしば電力法則に従い、長い尾のクラス分布を持つデータセット間のミスマッチを引き起こす。 メタラーニング手法を用いて,クラス条件分布の違いを明示的に推定し,古典的なクラスバランス学習を強化することを提案する。
  論文  参考訳（メタデータ） (2020-03-24T11:28:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。