論文の概要: Exploring Open-world Continual Learning with Knowns-Unknowns Knowledge Transfer

• arxiv url: http://arxiv.org/abs/2502.20124v1
• Date: Thu, 27 Feb 2025 14:16:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-28 14:58:35.040580
• Title: Exploring Open-world Continual Learning with Knowns-Unknowns Knowledge Transfer
• Title（参考訳）: 未知の知識伝達によるオープンワールド連続学習の探索
• Authors: Yujie Li, Guannan Lai, Xin Yang, Yonghao Li, Marcello Bonsangue, Tianrui Li,
• Abstract要約: オープンワールド継続学習(OWCL)は、オープンワールドの仮定の下で運用しながら忘れずに、モデルが新たな知識を漸進的に学習しなければならない、挑戦的なパラダイムである。 非線形ランダムプロジェクション(NRP)を統合する新しいOWCLフレームワークであるtextbfHoliTrans(Holistic Knowns-Unknowns Knowledge Transfer)を提案する。
• 参考スコア（独自算出の注目度）: 10.426450189369266
• License:
• Abstract: Open-World Continual Learning (OWCL) is a challenging paradigm where models must incrementally learn new knowledge without forgetting while operating under an open-world assumption. This requires handling incomplete training data and recognizing unknown samples during inference. However, existing OWCL methods often treat open detection and continual learning as separate tasks, limiting their ability to integrate open-set detection and incremental classification in OWCL. Moreover, current approaches primarily focus on transferring knowledge from known samples, neglecting the insights derived from unknown/open samples. To address these limitations, we formalize four distinct OWCL scenarios and conduct comprehensive empirical experiments to explore potential challenges in OWCL. Our findings reveal a significant interplay between the open detection of unknowns and incremental classification of knowns, challenging a widely held assumption that unknown detection and known classification are orthogonal processes. Building on our insights, we propose \textbf{HoliTrans} (Holistic Knowns-Unknowns Knowledge Transfer), a novel OWCL framework that integrates nonlinear random projection (NRP) to create a more linearly separable embedding space and distribution-aware prototypes (DAPs) to construct an adaptive knowledge space. Particularly, our HoliTrans effectively supports knowledge transfer for both known and unknown samples while dynamically updating representations of open samples during OWCL. Extensive experiments across various OWCL scenarios demonstrate that HoliTrans outperforms 22 competitive baselines, bridging the gap between OWCL theory and practice and providing a robust, scalable framework for advancing open-world learning paradigms.
• Abstract（参考訳）: オープンワールド継続学習(OWCL)は、オープンワールドの仮定の下で運用しながら忘れずに、モデルが新たな知識を漸進的に学習しなければならない、挑戦的なパラダイムである。 これは、不完全なトレーニングデータの処理と、推論中に未知のサンプルを認識する必要がある。 しかし、既存のOWCLメソッドは、オープン検出と継続学習を個別のタスクとして扱うことが多く、OWCLにオープンセット検出とインクリメンタルな分類を統合する能力を制限する。 さらに、現在のアプローチは、未知の/オープンなサンプルから得られる洞察を無視して、既知のサンプルからの知識の伝達に重点を置いている。 これらの制約に対処するため、4つの異なるOWCLシナリオを形式化し、OWCLの潜在的な課題を探求するための総合的な実証実験を行う。 本研究は,未知のオープン検出と未知の漸進的分類との間に重要な相互作用がみられ,未知の発見と既知の分類が直交過程であるという仮説が広く支持されている。 非線形ランダムプロジェクション(NRP)を統合した新しいOWCLフレームワークであるtextbf{HoliTrans}(Holistic Knowns-Unknowns Knowledge Transfer)を提案し、より線形に分離可能な埋め込み空間と分布認識型プロトタイプ(DAP)を作成し、適応的な知識空間を構築する。 特に,我々のHoliTransは,OWCL中のオープンサンプルの表現を動的に更新しながら,既知のサンプルと未知のサンプルの両方の知識伝達を効果的にサポートする。 様々なOWCLシナリオにわたる大規模な実験により、HoliTransは22の競争ベースラインを上回り、OWCL理論と実践のギャップを埋め、オープンワールドの学習パラダイムを進化させるための堅牢でスケーラブルなフレームワークを提供することを示した。

関連論文リスト

• Uncertainty Quantification in Continual Open-World Learning [5.268548403469063]
  連続学習の分野では、新規性への依存とオーラクルのラベル付けは非現実的であるにもかかわらず一般的である。 学習に適した反復的不確実性推定アルゴリズムであるCOUQ "Continual Open-world Uncertainty Quantification"を提案する。 提案手法の有効性を,複数のデータセット,アブレーション,バックボーン,パフォーマンスに比較して示す。
  論文  参考訳（メタデータ） (2024-12-21T00:09:20Z)
• A Unified and General Framework for Continual Learning [58.72671755989431]
  継続学習(CL)は、以前取得した知識を維持しながら、動的かつ変化するデータ分布から学ぶことに焦点を当てている。 正規化ベース、ベイズベース、メモリ再生ベースなど、破滅的な忘れ込みの課題に対処する様々な手法が開発されている。 本研究の目的は,既存の方法論を包含し,整理する包括的かつ包括的な枠組みを導入することで,このギャップを埋めることである。
  論文  参考訳（メタデータ） (2024-03-20T02:21:44Z)
• Open Continual Feature Selection via Granular-Ball Knowledge Transfer [16.48797678104989]
  データ前処理における連続的特徴選択(CFS)のための新しいフレームワークを提案する。 提案手法は,連続学習(CL)とグラニュラーボールコンピューティング(GBC)の強みを組み合わせたものである。 提案手法は,最先端の特徴選択法と比較して,有効性と効率の両面で優れていることを示す。
  論文  参考訳（メタデータ） (2024-03-15T12:43:03Z)
• Knowledge Verification to Nip Hallucination in the Bud [69.79051730580014]
  本研究では、アライメントデータに存在する外部知識と基礎LPM内に埋め込まれた固有の知識との矛盾を検証し、最小化することにより、幻覚を緩和する可能性を示す。 本稿では,知識一貫性アライメント(KCA, Knowledge Consistent Alignment)と呼ばれる新しい手法を提案する。 6つのベンチマークで幻覚を減らし, バックボーンとスケールの異なる基礎的LCMを利用することで, KCAの優れた効果を実証した。
  論文  参考訳（メタデータ） (2024-01-19T15:39:49Z)
• Learning to Prompt Knowledge Transfer for Open-World Continual Learning [13.604171414847531]
  Pro-KTは,オープンワールド連続学習のための新しい知識伝達モデルである。 Pro-KTは、(1)タスクジェネリックな知識とタスク固有の知識の両方をエンコードし、転送するプロンプトバンク、(2)タスクアウェアなオープンセット境界により、新しいタスクの未知を識別する。
  論文  参考訳（メタデータ） (2023-12-22T11:53:31Z)
• Managing the unknown: a survey on Open Set Recognition and tangential areas [7.345136916791223]
  オープンセット認識モデルは、テストフェーズに到達したサンプルから未知のクラスを検出すると同時に、既知のクラスに属するサンプルの分類において優れたパフォーマンスを維持することができる。 本稿では,オープンセット認識に関する最近の文献を包括的に概観し,この分野と他の機械学習研究領域との共通プラクティス,制限,関連性を明らかにする。 私たちの研究は、オープンな問題も明らかにし、より安全な人工知能手法への将来の取り組みを動機づけ、具体化するいくつかの研究方向を提案する。
  論文  参考訳（メタデータ） (2023-12-14T10:08:12Z)
• UNTER: A Unified Knowledge Interface for Enhancing Pre-trained Language Models [100.4659557650775]
  構造化知識と非構造化知識の両方を活用する統一的な視点を提供するために、統一知識インターフェイスUNTERを提案する。 どちらの形態の知識も注入され、UNTERは一連の知識駆動NLPタスクの継続的な改善を得る。
  論文  参考訳（メタデータ） (2023-05-02T17:33:28Z)
• A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
  本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。 我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。 提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
  論文  参考訳（メタデータ） (2022-06-30T02:35:04Z)
• Learning Open Set Network with Discriminative Reciprocal Points [70.28322390023546]
  オープンセット認識は、事前に定義されたクラスからサンプルを同時に分類し、残りを「未知」として識別することを目的としている。 本稿では,各既知圏に対応するクラス外空間のポテンシャル表現であるReciprocal Pointを提案する。 相互点によって構成される有界空間に基づいて、未知のリスクは多圏相互作用によって減少する。
  論文  参考訳（メタデータ） (2020-10-31T03:20:31Z)
• Open Set Recognition with Conditional Probabilistic Generative Models [51.40872765917125]
  オープンセット認識のための条件付き確率生成モデル(CPGM)を提案する。 CPGMは未知のサンプルを検出できるが、異なる潜在特徴を条件付きガウス分布に近似させることで、既知のクラスを分類できる。 複数のベンチマークデータセットの実験結果から,提案手法がベースラインを著しく上回ることがわかった。
  論文  参考訳（メタデータ） (2020-08-12T06:23:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。