論文の概要: Verification Learning: Make Unsupervised Neuro-Symbolic System Feasible

• arxiv url: http://arxiv.org/abs/2503.12917v1
• Date: Mon, 17 Mar 2025 08:28:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-18 15:59:45.627975
• Title: Verification Learning: Make Unsupervised Neuro-Symbolic System Feasible
• Title（参考訳）: 検証学習:教師なしの神経・筋肉系が実現可能になる
• Authors: Lin-Han Jia, Wen-Chao Hu, Jie-Jing Shao, Lan-Zhe Guo, Yu-Feng Li,
• Abstract要約: 本稿では,Nesyにおけるラベルに基づく推論プロセスをラベルのない検証プロセスに変換する,新しい学習パラダイムであるVerification Learning(VL)を紹介する。 VLは、ラベルのないデータと、現在の予測が規則に準拠しているかどうかを検証する関数にのみ依存することにより、優れた学習結果を得る。 提案するフレームワークは,追加,ソート,マッチ,チェスなど,教師なしのタスクによって検証され,それぞれが大幅な性能向上と効率向上を示す。
• 参考スコア（独自算出の注目度）: 49.084647802326366
• License:
• Abstract: The current Neuro-Symbolic (NeSy) Learning paradigm suffers from an over-reliance on labeled data. If we completely disregard labels, it leads to less symbol information, a larger solution space, and more shortcuts-issues that current Nesy systems cannot resolve. This paper introduces a novel learning paradigm, Verification Learning (VL), which addresses this challenge by transforming the label-based reasoning process in Nesy into a label-free verification process. VL achieves excellent learning results solely by relying on unlabeled data and a function that verifies whether the current predictions conform to the rules. We formalize this problem as a Constraint Optimization Problem (COP) and propose a Dynamic combinatorial Sorting (DCS) algorithm that accelerates the solution by reducing verification attempts, effectively lowering computational costs to the level of a Constraint Satisfaction Problem (CSP). To further enhance performance, we introduce a prior alignment method to address potential shortcuts. Our theoretical analysis points out which tasks in Nesy systems can be completed without labels and explains why rules can replace infinite labels, such as in addition, for some tasks, while for others, like Sudoku, the rules have no effect. We validate the proposed framework through several fully unsupervised tasks including addition, sort, match, and chess, each showing significant performance and efficiency improvements.
• Abstract（参考訳）: 現在のNeuro-Symbolic (NeSy) Learningパラダイムは、ラベル付きデータに対する過度な信頼性に悩まされている。 ラベルを完全に無視すれば、シンボル情報が少なくなり、ソリューションスペースが大きくなり、現在のNesyシステムでは解決できないショートカット問題が増えます。 本稿では,Nesyにおけるラベルに基づく推論プロセスをラベルのない検証プロセスに変換することで,この課題に対処する新しい学習パラダイムであるVerification Learning(VL)を紹介する。 VLは、ラベルのないデータと、現在の予測が規則に準拠しているかどうかを検証する関数にのみ依存することにより、優れた学習結果を得る。 本稿では,この問題を制約最適化問題 (COP) として定式化し,検証試行を減らし,計算コストを制約満足度問題 (CSP) のレベルまで効果的に低減し,解を高速化する動的組合せソルティング (DCS) アルゴリズムを提案する。 性能をさらに向上するため、潜在的なショートカットに対処するための事前アライメント手法を導入する。 我々の理論的分析は、Nesyシステムのどのタスクがラベルなしで完了できるかを指摘し、なぜルールが無限ラベルを置き換えることができるのかを説明している。 提案するフレームワークは,追加,ソート,マッチ,チェスなど,教師なしのタスクによって検証され,それぞれが大幅な性能向上と効率向上を示す。

関連論文リスト

• UPL: Uncertainty-aware Pseudo-labeling for Imbalance Transductive Node Classification [4.314840213630772]
  我々は、単純で新しいアルゴリズム、不確かさを意識した擬似ラベル (UPL) を提案する。 提案手法は,未ラベルノードに割り当てられた擬似ラベルを利用して,分類精度に対する不均衡の悪影響を軽減する。 UPLアルゴリズムを様々なベンチマークデータセットで評価し、既存の最先端手法と比較して優れた性能を示す。
  論文  参考訳（メタデータ） (2025-02-02T08:19:42Z)
• Differentiable Logic Programming for Distant Supervision [4.820391833117535]
  我々はニューラル・シンボリックAI(NeSy)におけるニューラルネットワークと論理プログラミングを統合する新しい手法を提案する。 従来の手法とは違って,提案手法はラベルの欠落を推論するシンボリック・ソルバに依存しない。 この方法は、遠隔の監督下でより効率的な学習を容易にする。
  論文  参考訳（メタデータ） (2024-08-22T17:55:52Z)
• Towards Improved Imbalance Robustness in Continual Multi-Label Learning with Dual Output Spiking Architecture (DOSA) [3.7039357017353214]
  本研究は,連続的なマルチラベル学習のための二重出力スパイクアーキテクチャ (DOSA) を提案する。 新たな不均衡認識損失関数も提案され、モデルのマルチラベル分類性能が向上した。
  論文  参考訳（メタデータ） (2024-02-07T05:38:53Z)
• Robust Representation Learning for Unreliable Partial Label Learning [86.909511808373]
  部分ラベル学習(Partial Label Learning, PLL)は、弱い教師付き学習の一種で、各トレーニングインスタンスに候補ラベルのセットが割り当てられる。 これはUn Reliable partial Label Learning (UPLL) と呼ばれ、部分ラベルの本質的な信頼性の欠如とあいまいさにより、さらなる複雑さをもたらす。 本研究では,信頼できない部分ラベルに対するモデル強化を支援するために,信頼性に欠けるコントラスト学習を活用するUnreliability-Robust Representation Learning framework(URRL)を提案する。
  論文  参考訳（メタデータ） (2023-08-31T13:37:28Z)
• An Embarrassingly Simple Approach to Semi-Supervised Few-Shot Learning [58.59343434538218]
  間接学習の観点から、ラベルなしデータの正負の擬似ラベルを正確に予測するための、単純だが非常に効果的な手法を提案する。 私たちのアプローチは、オフザシェルフ操作のみを使用することで、ほんの数行のコードで実装できます。
  論文  参考訳（メタデータ） (2022-09-28T02:11:34Z)
• Communication-Efficient Robust Federated Learning with Noisy Labels [144.31995882209932]
  フェデレーテッド・ラーニング(FL)は、分散した位置データの上で、将来性のあるプライバシ保護機械学習パラダイムである。 FLにおける雑音ラベルの効果を緩和する学習に基づく再重み付け手法を提案する。 提案手法は,複数の実世界のデータセットにおいて,各種ベースラインと比較して優れた性能を示した。
  論文  参考訳（メタデータ） (2022-06-11T16:21:17Z)
• Neural Active Learning with Performance Guarantees [37.16062387461106]
  非パラメトリックなレシエーションにおけるストリーミング環境におけるアクティブラーニングの問題について検討する。 我々は最近提案されたニューラル・タンジェント・カーネル(NTK)近似ツールを用いて、アルゴリズムが操作する特徴空間と学習したモデルを上から計算する適切なニューラル埋め込みを構築する。
  論文  参考訳（メタデータ） (2021-06-06T20:44:23Z)
• Iterative label cleaning for transductive and semi-supervised few-shot learning [16.627512688664513]
  少ないショットの学習は、新しいタスクが監督とデータの両方を限定して解決されるような、表現の学習と知識の獲得に相当します。 ラベル付きおよびラベルなしデータ分布の多様体構造を利用して擬似ラベルを予測するアルゴリズムを提案する。 私たちのソリューションは、4つのベンチマークデータセットのアート結果の状態を上回るか、一致します。
  論文  参考訳（メタデータ） (2020-12-14T21:54:11Z)
• Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
  半教師付き学習における簡単なメタ学習アルゴリズムを提案する。 その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
  論文  参考訳（メタデータ） (2020-07-08T08:48:56Z)
• Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
  部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。 既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。 本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-02-19T08:35:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。