論文の概要: BEARS Make Neuro-Symbolic Models Aware of their Reasoning Shortcuts

• arxiv url: http://arxiv.org/abs/2402.12240v1
• Date: Mon, 19 Feb 2024 15:54:36 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-20 15:47:13.458101
• Title: BEARS Make Neuro-Symbolic Models Aware of their Reasoning Shortcuts
• Title（参考訳）: BEARS、ニューロ・シンボリック・モデルのショートカットを認識
• Authors: Emanuele Marconato and Samuele Bortolotti and Emile van Krieken and Antonio Vergari and Andrea Passerini and Stefano Teso
• Abstract要約: Reasoning ShortcutsはNeuro-Symbolic(NeSy)予測に影響を及ぼす可能性がある。 彼らは意図しない意味論を活用することによって、象徴的な知識と整合した概念を学ぶ。 我々はNeSyモデルが学習した概念の意味的あいまいさを確実に認識することを提案する。
• 参考スコア（独自算出の注目度）: 21.743306538494043
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neuro-Symbolic (NeSy) predictors that conform to symbolic knowledge - encoding, e.g., safety constraints - can be affected by Reasoning Shortcuts (RSs): They learn concepts consistent with the symbolic knowledge by exploiting unintended semantics. RSs compromise reliability and generalization and, as we show in this paper, they are linked to NeSy models being overconfident about the predicted concepts. Unfortunately, the only trustworthy mitigation strategy requires collecting costly dense supervision over the concepts. Rather than attempting to avoid RSs altogether, we propose to ensure NeSy models are aware of the semantic ambiguity of the concepts they learn, thus enabling their users to identify and distrust low-quality concepts. Starting from three simple desiderata, we derive bears (BE Aware of Reasoning Shortcuts), an ensembling technique that calibrates the model's concept-level confidence without compromising prediction accuracy, thus encouraging NeSy architectures to be uncertain about concepts affected by RSs. We show empirically that bears improves RS-awareness of several state-of-the-art NeSy models, and also facilitates acquiring informative dense annotations for mitigation purposes.
• Abstract（参考訳）: ニューロ・シンボリック(NeSy)予測子は、例えば安全性の制約など、記号的知識符号化に従うが、推論的ショートカット(Reasoning Shortcuts、RS)の影響を受けうる。 この論文で示すように、RSは信頼性と一般化を妥協し、予測された概念について過度に信頼されているNeSyモデルと関連付けられている。 残念なことに、唯一信頼できる緩和戦略は、概念を厳格に監視することである。 rssを完全に回避しようとするのではなく、nesyモデルが学習する概念の意味的曖昧さを認識して、ユーザによる低品質の概念の識別と不信感を実現することを提案する。 3つの単純なデシラタ(BE Aware of Reasoning Shortcuts)から始まり、予測精度を損なうことなくモデルの概念レベルの信頼性を校正するアンサンブル手法であるクマ(BE Aware of Reasoning Shortcuts)を導出する。 我々は,最先端のnesyモデルのrs認識性が改善されるとともに,その緩和を目的とした情報的密接なアノテーションの獲得が容易になることを示す。

関連論文リスト

• A Neuro-Symbolic Benchmark Suite for Concept Quality and Reasoning Shortcuts [20.860617965394848]
  モデルに対する推論ショートカットの影響を体系的に評価するベンチマークスイートであるrsbenchを紹介する。 rsbenchを用いることで、純粋にニューラルモデルとニューラルシンボリックモデルの両方で高品質な概念を得るのは、解決から遠ざかる問題である、と強調する。
  論文  参考訳（メタデータ） (2024-06-14T18:52:34Z)
• Tuning-Free Accountable Intervention for LLM Deployment -- A Metacognitive Approach [55.613461060997004]
  大規模言語モデル(LLM)は、自然言語処理タスクの幅広い領域にわたる変換的進歩を触媒している。 我々は,自己認識型誤り識別と訂正機能を備えたLLMを実現するために,textbfCLEARと呼ばれる革新的なテキストメタ認知手法を提案する。
  論文  参考訳（メタデータ） (2024-03-08T19:18:53Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Ring-A-Bell! How Reliable are Concept Removal Methods for Diffusion Models? [52.238883592674696]
  Ring-A-Bellは、T2I拡散モデルのためのモデルに依存しないレッドチームツールである。 これは、不適切なコンテンツの生成に対応する拡散モデルに対する問題的プロンプトを特定する。 この結果から,安全プロンプトベンチマークの操作により,既存の安全メカニズムを回避できると考えられるプロンプトを変換できることが示唆された。
  論文  参考訳（メタデータ） (2023-10-16T02:11:20Z)
• Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts [24.390922632057627]
  Neuro-Symbolic(NeSy)予測モデルは、与えられた制約に対するコンプライアンスの改善を約束する。 サブシンボリック入力から抽出された高レベルな概念を推論することで、いくつかの先行知識と整合したラベルを推論することができる。 精度は高いが、意図しないセマンティクスで概念を活用すれば、約束された利点を欠くことになる。
  論文  参考訳（メタデータ） (2023-05-31T15:35:48Z)
• Neuro-Symbolic Reasoning Shortcuts: Mitigation Strategies and their Limitations [23.7625973884849]
  ニューロシンボリック予測子は、サブシンボリック入力から高レベルの概念へのマッピングを学び、この中間表現に対して(確率的な)論理的推論を実行する。 この設定は、知識に従うことによって、学習された概念が人間の利害関係者によってよりよく理解されるように、解釈可能性の利点をもたらすとしばしば信じられている。 しかし,近年,意図しないセマンティクスを用いた概念の活用により,予測精度が向上するショートカットの推論によって,この設定が影響を受けることが明らかとなった。
  論文  参考訳（メタデータ） (2023-03-22T14:03:23Z)
• Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal [26.999987105646966]
  本稿では,ニューロシンボリック連続学習(Neuro-Symbolic Continual Learning)を紹介する。 私たちのキーとなる観察は、ニューロシンボリックなタスクは異なるものの、意味論が時間とともに安定している概念を共有していることです。 ニューロシンボリックアーキテクチャと継続的な戦略を組み合わせることで、先行知識を活用することで、破滅的な忘れを回避できることが示される。
  論文  参考訳（メタデータ） (2023-02-02T17:24:43Z)
• NeuroExplainer: Fine-Grained Attention Decoding to Uncover Cortical Development Patterns of Preterm Infants [73.85768093666582]
  我々はNeuroExplainerと呼ばれる説明可能な幾何学的深層ネットワークを提案する。 NeuroExplainerは、早産に伴う幼児の皮質発達パターンの解明に使用される。
  論文  参考訳（メタデータ） (2023-01-01T12:48:12Z)
• Understanding and Enhancing Robustness of Concept-based Models [41.20004311158688]
  対向摂動に対する概念ベースモデルの堅牢性について検討する。 本稿では、まず、概念ベースモデルのセキュリティ脆弱性を評価するために、さまざまな悪意ある攻撃を提案し、分析する。 そこで我々は,これらのシステムのロバスト性を高めるための,汎用的対人訓練に基づく防御機構を提案する。
  論文  参考訳（メタデータ） (2022-11-29T10:43:51Z)
• Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent Semantic Communications [71.63189900803623]
  創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。 ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
  論文  参考訳（メタデータ） (2022-10-21T15:33:37Z)
• Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
  関係データに対するKENNの拡張を提案する。 その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
  論文  参考訳（メタデータ） (2020-09-13T21:12:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。