論文の概要: AbsPyramid: Benchmarking the Abstraction Ability of Language Models with a Unified Entailment Graph

• arxiv url: http://arxiv.org/abs/2311.09174v2
• Date: Thu, 16 Nov 2023 08:20:19 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-17 11:25:11.451829
• Title: AbsPyramid: Benchmarking the Abstraction Ability of Language Models with a Unified Entailment Graph
• Title（参考訳）: abspyramid:unified entailment graphによる言語モデルの抽象化能力をベンチマークする
• Authors: Zhaowei Wang, Haochen Shi, Weiqi Wang, Tianqing Fang, Hongming Zhang, Sehyun Choi, Xin Liu, Yangqiu Song
• Abstract要約: 抽象能力は人間の知性において必須であり、言語モデルでは未探索のままである。 本稿では、抽象知識の221Kテキスト記述を統一したエンテーメントグラフであるAbsPyramidを提案する。
• 参考スコア（独自算出の注目度）: 65.38581610844354
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cognitive research indicates that abstraction ability is essential in human intelligence, which remains under-explored in language models. In this paper, we present AbsPyramid, a unified entailment graph of 221K textual descriptions of abstraction knowledge. While existing resources only touch nouns or verbs within simplified events or specific domains, AbsPyramid collects abstract knowledge for three components of diverse events to comprehensively evaluate the abstraction ability of language models in the open domain. Experimental results demonstrate that current LLMs face challenges comprehending abstraction knowledge in zero-shot and few-shot settings. By training on our rich abstraction knowledge, we find LLMs can acquire basic abstraction abilities and generalize to unseen events. In the meantime, we empirically show that our benchmark is comprehensive to enhance LLMs across two previous abstraction tasks.
• Abstract（参考訳）: 認知研究は、抽象能力が人間の知性に不可欠であることを示している。 本稿では,抽象知識の221Kテキスト記述を統一化したものであるAbsPyramidについて述べる。 既存のリソースは単純なイベントや特定のドメイン内の名詞や動詞にのみ触れるが、abspyramidは多様なイベントの3つのコンポーネントの抽象知識を収集し、オープンドメインにおける言語モデルの抽象化能力を包括的に評価する。 実験の結果,現在のllmでは,ゼロショットと少数ショット設定の抽象化知識の理解が困難であることがわかった。 豊かな抽象知識を訓練することで、LLMは基本的な抽象能力を獲得し、目に見えない事象に一般化することができる。 その間、我々のベンチマークは2つの従来の抽象タスクにまたがるLLMを強化するために包括的であることを実証的に示す。

関連論文リスト

• Learning with Language-Guided State Abstractions [58.199148890064826]
  高次元観測空間における一般化可能なポリシー学習は、よく設計された状態表現によって促進される。 我々の手法であるLGAは、自然言語の監視と言語モデルからの背景知識を組み合わせて、目に見えないタスクに適した状態表現を自動構築する。 シミュレーションされたロボットタスクの実験では、LGAは人間によって設計されたものと同様の状態抽象化をもたらすが、そのほんの少しの時間で得られる。
  論文  参考訳（メタデータ） (2024-02-28T23:57:04Z)
• AbsInstruct: Eliciting Abstraction Ability from LLMs through Explanation Tuning with Plausibility Estimation [60.40409210088717]
  抽象化能力は人間の知性において不可欠であり、NLP研究における様々なタスクにも有用である。 既存の研究によると、LLMは抽象能力に欠けており、その改善方法はまだ解明されていない。 本稿では,命令チューニングによるLLMの抽象化能力を向上するフレームワークAbsInstructを設計する。
  論文  参考訳（メタデータ） (2024-02-16T12:47:11Z)
• Building Minimal and Reusable Causal State Abstractions for Reinforcement Learning [63.58935783293342]
  Causal Bisimulation Modeling (CBM) は、各タスクのダイナミクスと報酬関数の因果関係を学習し、最小限のタスク固有の抽象化を導出する手法である。 CBMの学習された暗黙的ダイナミクスモデルは、明確なものよりも根底にある因果関係と状態抽象化を正確に識別する。
  論文  参考訳（メタデータ） (2024-01-23T05:43:15Z)
• Neural Causal Abstractions [63.21695740637627]
  我々は、変数とそのドメインをクラスタリングすることで、因果抽象化の新しいファミリーを開発する。 本稿では,ニューラルネットワークモデルを用いて,そのような抽象化が現実的に学習可能であることを示す。 本実験は、画像データを含む高次元設定に因果推論をスケールする方法を記述し、その理論を支持する。
  論文  参考訳（メタデータ） (2024-01-05T02:00:27Z)
• Emergence and Function of Abstract Representations in Self-Supervised Transformers [0.0]
  本研究では,部分的にマスキングされた視覚シーンを再構築するために訓練された小型トランスフォーマーの内部動作について検討する。 ネットワークは、データセットのすべての意味的特徴をエンコードする中間抽象表現(抽象表現)を開発する。 正確な操作実験を用いて、抽象化がネットワークの意思決定プロセスの中心であることを実証する。
  論文  参考訳（メタデータ） (2023-12-08T20:47:15Z)
• Does Deep Learning Learn to Abstract? A Systematic Probing Framework [69.2366890742283]
  抽象化はディープラーニングモデルにとって望ましい機能であり、具体的なインスタンスから抽象概念を誘導し、学習コンテキストを超えて柔軟に適用することを意味する。 本稿では,伝達可能性の観点から,ディープラーニングモデルの抽象化能力を検討するための体系的探索フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-23T12:50:02Z)
• A learning perspective on the emergence of abstractions: the curious case of phonemes [2.580765958706854]
  言語訓練のない言語使用者を対象に,言語知識の発達に関する2つの原則を検証した。 MBL と ECL が言語抽象化に類似した言語知識を創出できるかどうかを調査した。 ECL学習モデルは抽象化を学習でき、少なくとも携帯電話の在庫の少なくとも一部を入力から確実に識別できることを示す。
  論文  参考訳（メタデータ） (2020-12-14T13:33:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。