論文の概要: Implicit Assumptions About Tasks in Continual Learning
- arxiv url: http://arxiv.org/abs/2610.41792v1
- Date: Fri, 30 Oct 2026 14:22:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.768581
- Title: Implicit Assumptions About Tasks in Continual Learning
- Title(参考訳): 連続学習における課題のインプシット推定
- Abstract要約: 連続学習とは、モデルが一度にすべてではなく、時間とともに受信したデータから知識を蓄積する方法の研究である。
制御された教師-学生実験において、同じ基礎となる軌跡が粒度の異なるレベルで変化し、提示順序が変化し、基礎となるデータの類似構造が異なる結果をもたらすことを示した。
- 参考スコア(独自算出の注目度): 3.662469943396983
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning is the study of how a model accumulates knowledge from data received over time, rather than all at once. In practice, this is typically achieved by dividing a dataset into tasks and presenting them sequentially. Explanations of the resulting measurements take into account factors such as the similarity between segments, the rate at which the data changes and the order of presentation. Each of these factors can be defined in terms of the underlying data, the partition imposed on it, or the learner that encounters it. These levels do not necessarily coincide, and it is usually left implicit which level a reported quantity refers to. We separate these and identify which properties acquire a value at each level. In controlled teacher--student experiments, we demonstrate that partitioning the same underlying trajectory at different levels of granularity, changing the order of presentation, and varying the similarity structure of the underlying data all result in different measured outcomes. We review representative benchmarks to determine which of these properties are stated. Where the underlying data cannot be inspected, as in foundation models built on undisclosed pre-training corpora, its properties are inherited by the model's initial state, and the training applied on top of it can be described.
- Abstract(参考訳): 連続学習とは、モデルが一度にすべてではなく、時間とともに受信したデータから知識を蓄積する方法の研究である。
実際には、データセットをタスクに分割し、シーケンシャルに提示することで、これを達成します。
得られた測定結果の説明は、セグメント間の類似性、データの変化率、プレゼンテーションの順序などを考慮している。
これらの要素はそれぞれ、基礎となるデータ、それに課された分割、それに遭遇する学習者の観点から定義することができる。
これらのレベルは必ずしも一致せず、報告された量がどのレベルを指すかは、通常暗黙的に残される。
これらを分離し、どのプロパティが各レベルで値を取得するかを特定します。
制御された教師-学生実験において、同じ基礎となる軌跡を異なるレベルの粒度で分割し、提示順序を変更し、基礎となるデータの類似性構造を変化させることで、それぞれ異なる測定結果が得られることを示した。
これらの特性のどれが記述されているかを決定するために、代表ベンチマークをレビューする。
基礎となるデータが検査できない場合、未開示事前学習コーパス上に構築された基礎モデルでは、その特性はモデルの初期状態によって継承され、その上に適用されたトレーニングを記述することができる。
関連論文リスト
- Investigation into In-Context Learning Capabilities of Transformers [14.14937947207076]
トランスフォーマーは、文脈内学習(ICL)の強力な能力を示した
本研究では,二項分類タスクにおける文脈内学習の体系的研究を行う。
本結果は,文脈内学習がいつ成功し,いつ失敗するかを決定する上で,次元性,信号強度,文脈情報の重要性を強調した。
論文 参考訳(メタデータ) (2026-04-28T16:57:55Z) - Probing the Latent Hierarchical Structure of Data via Diffusion Models [47.56642214162824]
拡散モデルを用いた実験は,データの潜伏構造を探索するための有望なツールであることを示す。
我々はこの予測を、最先端拡散モデルを用いてテキストと画像の両方で確認する。
以上の結果から,潜在変数がデータにどのように現れるかを示し,これらの影響を実データで測定する方法を確立した。
論文 参考訳(メタデータ) (2024-10-17T17:08:39Z) - Memory Consistency Guided Divide-and-Conquer Learning for Generalized
Category Discovery [56.172872410834664]
一般カテゴリー発見(GCD)は、半教師付き学習のより現実的で挑戦的な設定に対処することを目的としている。
メモリ一貫性を誘導する分枝・分枝学習フレームワーク(MCDL)を提案する。
本手法は,画像認識の目に見えるクラスと見えないクラスの両方において,最先端のモデルよりも優れた性能を示す。
論文 参考訳(メタデータ) (2024-01-24T09:39:45Z) - Uncertainty in Contrastive Learning: On the Predictability of Downstream
Performance [7.411571833582691]
このような表現の不確実性は、単一のデータポイントに対して有意義な方法で定量化できるかどうかを考察する。
埋め込み空間におけるトレーニングデータの分布を直接推定することにより,この目標を達成することができることを示す。
論文 参考訳(メタデータ) (2022-07-19T15:44:59Z) - Self-Supervised Learning with Data Augmentations Provably Isolates
Content from Style [32.20957709045773]
我々は拡張過程を潜在変数モデルとして定式化する。
本研究では,2対の観測結果に基づいて,潜在表現の識別可能性について検討した。
Causal3DIdentは、因果関係が豊富な高次元、視覚的に複雑な画像のデータセットである。
論文 参考訳(メタデータ) (2021-06-08T18:18:09Z) - OR-Net: Pointwise Relational Inference for Data Completion under Partial
Observation [51.083573770706636]
この作業はリレーショナル推論を使って不完全なデータを埋めます。
本稿では,2つの点での相対性理論をモデル化するために,全関係ネットワーク (or-net) を提案する。
論文 参考訳(メタデータ) (2021-05-02T06:05:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。