論文の概要: The Generalization Spectrum: A Chromatographic Approach to Evaluating Learning Algorithms

• arxiv url: http://arxiv.org/abs/2606.25450v2
• Date: Thu, 25 Jun 2026 16:37:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 15:44:16.37712
• Title: The Generalization Spectrum: A Chromatographic Approach to Evaluating Learning Algorithms
• Title（参考訳）: 一般化スペクトル:学習アルゴリズム評価のためのクロマトグラフィーアプローチ
• Abstract要約: 従来の評価は、i.d.テストセット上での学習アルゴリズムの最終性能を測定し、学習を1つの集計スコアに還元する。 このアプローチは、基本的な疑問を曖昧にしている — 特定の例から学ぶことは、どの程度他人に一般化されるのか? この隠蔽次元を公開するために設計された評価フレームワークであるGeneralization Spectrumを紹介する。
• 参考スコア（独自算出の注目度）: 48.61395929803806
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Traditional evaluations measure a learning algorithm's final performance on an i.i.d. test set, reducing learning to a single aggregate score. This approach obscures a fundamental question: to what extent does learning from a specific example generalize to others? Such per-sample generalization, akin to learning by analogy in human cognition, captures how far the knowledge extracted from one example can transfer, yet remains invisible to standard benchmarks. We introduce the Generalization Spectrum, an evaluation framework designed to expose this hidden dimension. For each training example, we construct a controlled suite of test variants arranged by increasing transfer distance, from exact recall to implementation transfer across languages, context transfer under complete narrative re-framing, category-matched in-domain problems, and an unpaired baseline. By tracking performance across these distances, we reveal not just whether an algorithm learns, but how far that learning extends. We instantiate this framework on competitive programming, using a selection-and-synthesis pipeline seeded with recent problems to mitigate contamination. We first compare three canonical learning paradigms under matched memorization. RL converts memorization into near-transfer more efficiently than SFT-family baselines, while ICL exhibits strong but correspondence-dependent transfer. We then use the Spectrum to diagnose within-family variants. The resulting profiles show that local gains need not expand the generalization radius: abstractions and hints mainly lift local transfer, RFT preserves a stronger far-transfer tail than reference SFT, and self-distillation or hint-assisted RL can reduce far transfer even when local transfer or optimization improves.
• Abstract（参考訳）: 従来の評価は、i.d.テストセット上での学習アルゴリズムの最終性能を測定し、学習を1つの集計スコアに還元する。 このアプローチは、基本的な疑問を曖昧にしている — 特定の例から学ぶことは、どの程度他人に一般化されるのか? このようなサンプルごとの一般化は、人間の認知におけるアナロジーによる学習に似ているが、ある例から抽出された知識がどの程度移動できるかを捉えるが、標準的なベンチマークでは見えない。 この隠蔽次元を公開するために設計された評価フレームワークであるGeneralization Spectrumを紹介する。 各トレーニング例において、正確なリコールから言語間の実装移行、完全な物語再フレーミングによるコンテキスト転送、カテゴリマッチングされたドメイン内問題、未ペアベースラインまで、移動距離を増大させて配置されたテスト変種を制御して構成する。 これらの距離をまたいで性能を追跡することで、アルゴリズムが学習するかどうかだけでなく、その学習範囲も明らかにする。 我々は,最近,汚染を緩和するために,選択合成パイプラインを用いて,競争プログラミングの枠組みをインスタンス化する。 まず,一致記憶下での3つの標準学習パラダイムを比較した。 RLは記憶をSFTファミリーのベースラインよりも効率よくほぼ伝達に変換するが、ICLは強いが対応性に依存した転送を示す。 次にSpectrumを使って、家族内の変異を診断します。 RFTは参照SFTよりも強い遠方移動尾を保ち、自己蒸留やヒントアシストRLは局所移動や最適化が改善しても遠方移動を減らすことができる。

関連論文リスト

• Cross-Sample Relational Fusion: Unifying Domain Generalization and Class-Incremental Learning [83.67663266193308]
  CIL(Class-Incremental Learning)は、学習システムにおいて、それまでの知識を維持しつつ、新しいクラスを学ぶことを必要とする。 自動運転車のような現実のシナリオでは、晴れた日に都市部の道路で訓練されたシステムは、後に農村部や高速道路環境で運用する必要がある。 ドメインシフトと破滅的な忘れを同時に解決する統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-09T09:49:13Z)
• SMART: A Spectral Transfer Approach to Multi-Task Learning [9.362937796676855]
  マルチタスク学習は関連するアプリケーションに有効であるが,対象のサンプルサイズが小さい場合には性能が低下する可能性がある。 本稿では、音源部分空間間のスペクトル類似性を前提としたマルチタスク線形回帰のための特異特異部分空間を提案する。
  論文  参考訳（メタデータ） (2026-04-22T04:00:31Z)
• Learning Admissible Heuristics for A*: Theory and Practice [8.408138419383747]
  ディープラーニングアプローチは、しばしば許容性を無視し、トレーニングデータ以外の一般化に関して制限された保証を提供する。 本稿では,これら2つの制約に対処する。まず,制約付き最適化問題として学習を行い,学習中に許容度を強制する損失関数であるクロスエントロピー適応性(CEA)を導入する。 ルービックキューブ領域では、圧縮されたパターンデータベース(PDB)のガイダンスよりもはるかに強いほぼ許容値が得られる。
  論文  参考訳（メタデータ） (2025-09-26T17:51:26Z)
• Grokking in LLM Pretraining? Monitor Memorization-to-Generalization without Test [22.499052329934603]
  LLMがトレーニングデータを記憶する時、下流タスクの一般化が改善し始める時、そして両者の間にラグがある場合、どうなるかを検討する。 我々の研究は、初めて、グラッキングが試験前混合物質(MoE)にまだ現れることを示した。 我々の第一の発見は、経路がランダムで非平滑な層をまたいで進化し、例えば、事前学習の損失が収束しているにもかかわらず、より構造化され、サンプル間で移動可能であることである。
  論文  参考訳（メタデータ） (2025-06-26T17:59:58Z)
• Improved Generalization Bounds for Communication Efficient Federated Learning [4.3707341422218215]
  本稿では,一般化境界の探索と表現学習によるフェデレーション学習の通信コストの低減に焦点をあてる。 我々は、一般化境界と表現学習分析に基づいて、適応的局所ステップ付きフェデレートラーニング(FedALS)アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2024-04-17T21:17:48Z)
• A Hard-to-Beat Baseline for Training-free CLIP-based Adaptation [121.0693322732454]
  対照的に、CLIP(Contrastive Language- Image Pretraining)はその目覚ましいゼロショット能力で人気を集めている。 近年の研究では、下流タスクにおけるCLIPの性能を高めるための効率的な微調整手法の開発に焦点が当てられている。 従来のアルゴリズムであるガウス判別分析(GDA)を再検討し,CLIPの下流分類に適用する。
  論文  参考訳（メタデータ） (2024-02-06T15:45:27Z)
• FeCAM: Exploiting the Heterogeneity of Class Distributions in Exemplar-Free Continual Learning [21.088762527081883]
  Exemplar-free class-incremental learning (CIL)は、以前のタスクからのデータのリハーサルを禁止しているため、いくつかの課題がある。 第1タスクの後に特徴抽出器を凍結して分類器を漸進的に学習する手法が注目されている。 凍結した特徴抽出器を用いて新しいクラスプロトタイプを生成するCILのプロトタイプネットワークを探索し,プロトタイプとのユークリッド距離に基づいて特徴を分類する。
  論文  参考訳（メタデータ） (2023-09-25T11:54:33Z)
• Mitigating Generation Shifts for Generalized Zero-Shot Learning [52.98182124310114]
  一般化ゼロショット学習(英: Generalized Zero-Shot Learning、GZSL)は、学習中に見知らぬクラスが観察できない、見つからないサンプルを認識するために意味情報(属性など)を活用するタスクである。 本稿では,未知のデータ合成を効率よく,効率的に学習するための新しい生成シフト緩和フローフレームワークを提案する。 実験結果から,GSMFlowは従来のゼロショット設定と一般化されたゼロショット設定の両方において,最先端の認識性能を実現することが示された。
  論文  参考訳（メタデータ） (2021-07-07T11:43:59Z)
• Quantifying and Improving Transferability in Domain Generalization [53.16289325326505]
  アウト・オブ・ディストリビューションの一般化は、実験室から現実世界にモデルを移す際の重要な課題の1つである。 我々は、領域一般化において量子化と計算が可能な転送可能性を正式に定義する。 転送可能な特徴を学習し、様々なベンチマークデータセット上でテストするための新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-07T14:04:32Z)
• Graph Sampling Based Deep Metric Learning for Generalizable Person Re-Identification [114.56752624945142]
  我々は、最も一般的なランダムサンプリング手法である有名なpkサンプリングは、深層メトリック学習にとって有益で効率的ではないと主張する。 大規模計量学習のためのグラフサンプリング(GS)と呼ばれる効率的なミニバッチサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2021-04-04T06:44:15Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。