論文の概要: Parameter Choice and Neuro-Symbolic Approaches for Deep Domain-Invariant Learning

• arxiv url: http://arxiv.org/abs/2410.06235v1
• Date: Tue, 8 Oct 2024 17:46:35 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 10:31:16.265152
• Title: Parameter Choice and Neuro-Symbolic Approaches for Deep Domain-Invariant Learning
• Title（参考訳）: 深部領域不変学習におけるパラメータ選択とニューロシンボリックアプローチ
• Authors: Marius-Constantin Dinu,
• Abstract要約: ニューロシンボリックAI(NeSy)はシンボリックパラダイムとサブシンボリックパラダイムのギャップを埋める。 NeSy AIシステムは、複数のモデルとメソッドを使用して、見えないドメインに一般化する。 この作業は、さまざまな問題設定に適用可能な、スケーラブルで一般化可能な広義のAIシステムのためのフレームワークを確立する。
• 参考スコア（独自算出の注目度）: 2.0547410497538445
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As artificial intelligence (AI) systems advance, we move towards broad AI: systems capable of performing well on diverse tasks, understanding context, and adapting rapidly to new scenarios. A central challenge for broad AI systems is to generalize over tasks in related domains and being robust to distribution shifts. Neuro-symbolic (NeSy) AI bridges the gap between symbolic and sub-symbolic paradigms to address these challenges, enabling adaptable, generalizable, and more interpretable systems. The development of broad AI requires advancements in domain adaptation (DA), enabling models trained on source domains to effectively generalize to unseen target domains. Traditional approaches often rely on parameter optimization and fine-tuning, which can be impractical due to high costs and risks of catastrophic forgetting. NeSy AI systems use multiple models and methods to generalize to unseen domains and maintain performance across varying conditions. We analyze common DA and NeSy approaches with a focus on deep domain-invariant learning, extending to real-world challenges such as adapting to continuously changing domains and handling large domain gaps. We showcase state-of-the-art model-selection methods for scenarios with limited samples and introduce domain-specific adaptations without gradient-based updates for cases where model tuning is infeasible. This work establishes a framework for scalable and generalizable broad AI systems applicable across various problem settings, demonstrating how symbolic reasoning and large language models can build universal computational graphs that generalize across domains and problems, contributing to more adaptable AI approaches for real-world applications.
• Abstract（参考訳）: 人工知能(AI)システムが進歩するにつれて、さまざまなタスクでうまく機能し、コンテキストを理解し、新しいシナリオに迅速に適応できるシステムである、幅広いAIに向かって進みます。 広範なAIシステムにおける中心的な課題は、関連するドメインのタスクを一般化し、分散シフトに対して堅牢であることである。 ニューロシンボリック(NeSy)AIは、これらの課題に対処するために、シンボリックパラダイムとサブシンボリックパラダイムのギャップを埋め、適応可能で、一般化可能で、より解釈可能なシステムを実現する。 広義のAIの開発にはドメイン適応(DA)の進歩が必要であり、ソースドメインでトレーニングされたモデルが効果的にターゲットドメインに一般化できるようにする。 伝統的なアプローチは、しばしばパラメータ最適化と微調整に頼っているが、これは高いコストと破滅的な忘れ込みのリスクのために現実的ではない。 NeSy AIシステムは、複数のモデルとメソッドを使用して、見えないドメインを一般化し、さまざまな条件でパフォーマンスを維持する。 DAとNeSyの一般的なアプローチを、深いドメイン不変学習に焦点をあてて分析し、継続的に変化するドメインへの適応や大きなドメインギャップの処理といった現実的な課題にまで拡張します。 本稿では,限られたサンプルを持つシナリオに対する最先端モデル選択手法を紹介し,モデルチューニングが不可能なケースに対して,勾配ベースの更新を伴わないドメイン固有の適応を導入する。 この研究は、さまざまな問題設定に適用可能なスケーラブルで一般化可能な広義のAIシステムのためのフレームワークを確立し、シンボリック推論と大規模言語モデルが、ドメインや問題にまたがって一般化された普遍的な計算グラフを構築する方法を示し、現実のアプリケーションに対してより適応可能なAIアプローチに寄与する。

関連論文リスト

• Learning to Generalize Unseen Domains via Multi-Source Meta Learning for Text Classification [71.08024880298613]
  テキスト分類の多元的領域一般化について検討する。 本稿では、複数の参照ドメインを使用して、未知のドメインで高い精度を達成可能なモデルをトレーニングするフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-20T07:46:21Z)
• AD-Aligning: Emulating Human-like Generalization for Cognitive Domain Adaptation in Deep Learning [3.3543468626874486]
  ドメイン適応は、ディープラーニングモデルがさまざまなドメインにまたがる一般化を可能にするために重要である。 AD-Aligning(AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning)を導入。 以上の結果から,AD-Aligningは人間の知覚に固有のニュアンス認知過程をエミュレートする能力を示した。
  論文  参考訳（メタデータ） (2024-05-15T02:34:06Z)
• Understanding and Estimating Domain Complexity Across Domains [2.1613662656419406]
  多様な環境にまたがるドメインの複雑さを推定するための一般的なフレームワークを提案する。 これらのカテゴリの次元、空間、多様性を分析することで、ドメインの課題を包括的に見ることができます。
  論文  参考訳（メタデータ） (2023-12-20T23:47:17Z)
• Design Principles for Model Generalization and Scalable AI Integration in Radio Access Networks [2.846642778157227]
  本稿では、性能向上と無線通信におけるスケーラブルなAI統合の実現において、モデル一般化を実現する上での重要な役割を強調する。 我々は,3つの主要な領域において,モデル一般化のための設計原則を概説する。堅牢性のための環境,システム目的への適応性のための意図,AI駆動制御ループの削減のための制御タスクである。 本稿では、分散データ生成と組み合わせて、トレーニングとデータ管理機能の集中化を活用する学習アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2023-06-09T20:46:31Z)
• Normalization Perturbation: A Simple Domain Generalization Method for Real-World Domain Shifts [133.99270341855728]
  実世界のドメインスタイルは環境の変化やセンサノイズによって大きく変化する可能性がある。 深層モデルはトレーニングドメインスタイルしか知らない。 このドメインスタイルのオーバーフィット問題を解決するために,正規化摂動を提案する。
  論文  参考訳（メタデータ） (2022-11-08T17:36:49Z)
• Improving Diversity with Adversarially Learned Transformations for Domain Generalization [81.26960899663601]
  本稿では、ニューラルネットワークを用いた逆学習変換(ALT)を用いて、可塑性かつハードな画像変換をモデル化する新しいフレームワークを提案する。 我々は、ALTが既存の多様性モジュールと自然に連携して、ソースドメインの大規模変換によって最先端のパフォーマンスを実現することを示す。
  論文  参考訳（メタデータ） (2022-06-15T18:05:24Z)
• Generalizing to Evolving Domains with Latent Structure-Aware Sequential Autoencoder [32.46804768486719]
  本稿では,Latent Structure-aware Sequential Autoencoder (LSSAE) と呼ばれる確率的フレームワークを導入する。 合成データセットと実世界のデータセットの両方の実験結果から、LSSAEは優れたパフォーマンスをもたらすことが示された。
  論文  参考訳（メタデータ） (2022-05-16T13:11:29Z)
• From Big to Small: Adaptive Learning to Partial-Set Domains [94.92635970450578]
  ドメイン適応は、分布シフト中のラベル付きソースドメインからラベルなしターゲットドメインへの知識獲得と普及を目標とする。 近年の進歩は、大規模の深層学習モデルにより、小規模の下流の多様な課題に取り組むための豊富な知識が得られていることを示している。 本稿では,学習パラダイムである部分領域適応(Partial Domain Adaptation, PDA)を紹介する。
  論文  参考訳（メタデータ） (2022-03-14T07:02:45Z)
• A Novel Mix-normalization Method for Generalizable Multi-source Person Re-identification [49.548815417844786]
  人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。 モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。 ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
  論文  参考訳（メタデータ） (2022-01-24T18:09:38Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。