論文の概要: Independence Is Not an Issue in Neurosymbolic AI

• arxiv url: http://arxiv.org/abs/2504.07851v1
• Date: Thu, 10 Apr 2025 15:28:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-11 12:21:21.866617
• Title: Independence Is Not an Issue in Neurosymbolic AI
• Title（参考訳）: 独立はニューロシンボリックAIの課題ではない
• Authors: Håkan Karlsson Faronius, Pedro Zuidberg Dos Martires,
• Abstract要約: ニューロシンボリックAIに対する一般的なアプローチは、ニューラルネットワークの最後のレイヤの出力をスパース計算グラフに渡すことである。 これは、互いに条件的に独立なランダム変数の集合上の確率分布を誘導する。 決定論的偏見の現象は,ニューロシンボリックAIを不適切に適用した成果であることを示す。
• 参考スコア（独自算出の注目度）: 3.99890603702478
• License:
• Abstract: A popular approach to neurosymbolic AI is to take the output of the last layer of a neural network, e.g. a softmax activation, and pass it through a sparse computation graph encoding certain logical constraints one wishes to enforce. This induces a probability distribution over a set of random variables, which happen to be conditionally independent of each other in many commonly used neurosymbolic AI models. Such conditionally independent random variables have been deemed harmful as their presence has been observed to co-occur with a phenomenon dubbed deterministic bias, where systems learn to deterministically prefer one of the valid solutions from the solution space over the others. We provide evidence contesting this conclusion and show that the phenomenon of deterministic bias is an artifact of improperly applying neurosymbolic AI.
• Abstract（参考訳）: ニューロシンボリックAIに対する一般的なアプローチは、ニューラルネットワークの最後のレイヤ、例えばソフトマックスアクティベーションを出力し、それを強制したい特定の論理的制約を符号化したスパース計算グラフに渡すことである。 これは、多くのよく使われるニューロシンボリックAIモデルにおいて、互いに条件的に独立なランダム変数の集合上の確率分布を誘導する。 このような条件独立な確率変数は、その存在が決定論的バイアスと呼ばれる現象と共起していることから有害であると考えられてきた。 この結論に異議を唱える証拠として, 決定論的バイアス現象は, ニューロシンボリックAIを不適切に適用した成果であることを示す。

関連論文リスト

• On the Promise for Assurance of Differentiable Neurosymbolic Reasoning Paradigms [9.071347361654931]
  我々は、データ効率のモデルを作成する新しい手法である、エンド・ツー・エンドの完全微分可能なニューロシンボリックシステムの保証を評価する。 エンド・ツー・エンドのニューロシンボリックな手法は、データ効率を超える保証のユニークな機会を提示する。
  論文  参考訳（メタデータ） (2025-02-13T03:29:42Z)
• A Scalable Approach to Probabilistic Neuro-Symbolic Verification [14.558484523699748]
  Neuro-Symbolic Artificial Intelligence (NeSy AI)は、ニューラルネットワークとシンボリック推論を統合するための有望な方向として登場した。 我々は、そのようなNeSy確率論的推論システムの堅牢性を正式に検証する問題に対処する。 確率的NeSy系の近似的・緩和的検証のための最初の手法を提案する。
  論文  参考訳（メタデータ） (2025-02-05T15:29:41Z)
• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• On the Independence Assumption in Neurosymbolic Learning [14.447011414006719]
  最先端のニューロシンボリック学習システムは確率論的推論を用いて、ニューラルネットワークを記号に対する論理的制約に従う予測へと導く。 このようなシステムの多くは、学習と推論を簡略化するために入力が与えられた場合、考慮されたシンボルの確率は条件的に独立であると仮定している。
  論文  参考訳（メタデータ） (2024-04-12T13:09:48Z)
• A Pseudo-Semantic Loss for Autoregressive Models with Logical Constraints [87.08677547257733]
  ニューロシンボリックAIは、純粋にシンボリックな学習とニューラルな学習のギャップを埋める。 本稿では,ニューラルネットワークの出力分布に対するシンボリック制約の可能性を最大化する方法を示す。 また,スドクと最短経路予測の手法を自己回帰世代として評価した。
  論文  参考訳（メタデータ） (2023-12-06T20:58:07Z)
• Semantic Strengthening of Neuro-Symbolic Learning [85.6195120593625]
  ニューロシンボリックアプローチは一般に確率論的目的のファジィ近似を利用する。 トラクタブル回路において,これを効率的に計算する方法を示す。 我々は,Warcraftにおける最小コストパスの予測,最小コスト完全マッチングの予測,スドクパズルの解法という3つの課題に対して,アプローチを検証した。
  論文  参考訳（メタデータ） (2023-02-28T00:04:22Z)
• A Vision Inspired Neural Network for Unsupervised Anomaly Detection in Unordered Data [0.0]
  教師なし機械学習の分野における根本的な問題は、まれで異常な関心の観測に対応する異常の検出である。 本研究は、知覚アルゴリズムが用いたアプローチと、神経生理学と計算神経科学におけるこれまでの数十年の研究の間に重要な、実践的なつながりを確立することを目的とする。 このアルゴリズムは、予期せぬ観察を異常として信号する学習を行う教師なしニューラルネットワークのカーネルを形成するニューロンモデルとして概念化されている。
  論文  参考訳（メタデータ） (2022-05-13T15:50:57Z)
• Quadratic Neuron-empowered Heterogeneous Autoencoder for Unsupervised Anomaly Detection [8.271989261355785]
  新しいタイプのニューロンが、現在のニューロンの内積を単純化された二次関数で置き換えることが提案されている。 我々の知る限りでは、異なる種類のニューロンから構成される最初の異種自己エンコーダである。 実験により、異種オートエンコーダは他の最先端モデルと比較して競合的に機能することが示された。
  論文  参考訳（メタデータ） (2022-04-02T04:19:24Z)
• Neuro-Symbolic Entropy Regularization [78.16196949641079]
  構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。 エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。 我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-25T06:23:10Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)
• General stochastic separation theorems with optimal bounds [68.8204255655161]
  分離性の現象が明らかになり、機械学習で人工知能(AI)システムのエラーを修正し、AI不安定性を分析するために使用された。 エラーやエラーのクラスタは、残りのデータから分離することができる。 AIシステムを修正する能力は、それに対する攻撃の可能性も開き、高次元性は、同じ分離性によって引き起こされる脆弱性を誘発する。
  論文  参考訳（メタデータ） (2020-10-11T13:12:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。