論文の概要: BERT's Conceptual Cartography: Mapping the Landscapes of Meaning

• arxiv url: http://arxiv.org/abs/2408.07190v1
• Date: Tue, 13 Aug 2024 20:08:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-15 14:45:31.863744
• Title: BERT's Conceptual Cartography: Mapping the Landscapes of Meaning
• Title（参考訳）: BERTのコンセプトカルトグラフィー:「意味の景観」のマッピング
• Authors: Nina Haket, Ryan Daniels,
• Abstract要約: 概念的景観を創り出すことにより、文脈的ニュアンスを探求する第一歩を踏み出す。 我々は、British National CorpusとBERTの音声コンポーネントを使用して、文脈化された単語埋め込みを作成します。 本研究は,概念工学の本質的な複雑さを浮き彫りにし,各単語がユニークで複雑な景観を示すことを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Conceptual Engineers want to make words better. However, they often underestimate how varied our usage of words is. In this paper, we take the first steps in exploring the contextual nuances of words by creating conceptual landscapes -- 2D surfaces representing the pragmatic usage of words -- that conceptual engineers can use to inform their projects. We use the spoken component of the British National Corpus and BERT to create contextualised word embeddings, and use Gaussian Mixture Models, a selection of metrics, and qualitative analysis to visualise and numerically represent lexical landscapes. Such an approach has not yet been used in the conceptual engineering literature and provides a detailed examination of how different words manifest in various contexts that is potentially useful to conceptual engineering projects. Our findings highlight the inherent complexity of conceptual engineering, revealing that each word exhibits a unique and intricate landscape. Conceptual Engineers cannot, therefore, use a one-size-fits-all approach when improving words -- a task that may be practically intractable at scale.
• Abstract（参考訳）: コンセプトエンジニアは言葉をもっと良くしたい。 しかし、言葉の使い方がいかに多様かを過小評価することが多い。 本稿では、概念的エンジニアがプロジェクトを伝えるために使用できる概念的景観(単語の実用性を表す2次元表面)を作成することで、言葉の文脈的ニュアンスを探求する第一歩を踏み出す。 我々は、British National Corpus と BERT の音声成分を用いて文脈的単語埋め込みを作成し、ガウス混合モデル、メトリクスの選択、質的分析を用いて語彙的景観を可視化し、数値的に表現する。 このようなアプローチは、概念工学の文献ではまだ使われておらず、概念工学プロジェクトにおいて潜在的に有用である様々な文脈で異なる単語がどのように現れるかを詳細に検証している。 本研究は,概念工学の本質的な複雑さを浮き彫りにし,各単語がユニークで複雑な景観を示すことを示した。 したがって、概念技術者は、言葉を改善する際に、一大のアプローチを使うことはできない。

関連論文リスト

• Compositional Entailment Learning for Hyperbolic Vision-Language Models [54.41927525264365]
  画像とテキストのペアを超えて、双曲的埋め込みの自然的階層性を完全に活用する方法を示す。 双曲型視覚言語モデルのための構成的包摂学習を提案する。 数百万の画像テキストペアで訓練された双曲型視覚言語モデルに対する経験的評価は、提案手法が従来のユークリッドCLIP学習より優れていることを示している。
  論文  参考訳（メタデータ） (2024-10-09T14:12:50Z)
• To Word Senses and Beyond: Inducing Concepts with Contextualized Language Models [0.9176056742068812]
  多義語と同義語は、語彙的曖昧性の2つの重要な相互関係の面である。 本稿では,単語間のソフトクラスタリングを学習する教師なしタスクである概念誘導について紹介する。 本稿では、局所的なレムマ中心ビューとグローバルなクロスレキシコンビューの両方を活用して概念を誘導する概念誘導のバイレベルアプローチを提案する。
  論文  参考訳（メタデータ） (2024-06-28T17:07:06Z)
• What do Deck Chairs and Sun Hats Have in Common? Uncovering Shared Properties in Large Concept Vocabularies [33.879307754303746]
  概念は多くのアプリケーションにおいて中心的な役割を果たす。 これまでの研究は、言語モデルから非文脈化概念の埋め込みを蒸留することに重点を置いてきた。 我々は,潜在的に大きな概念語彙から,他の概念と共通する概念を識別する戦略を提案する。 そして、それらが他の概念と共有する性質の観点で概念を表現する。
  論文  参考訳（メタデータ） (2023-10-23T10:53:25Z)
• Text-to-Image Generation for Abstract Concepts [76.32278151607763]
  抽象概念のためのテキスト・画像生成フレームワーク(TIAC)を提案する。 抽象概念は曖昧さを避けるための詳細な定義で明確な意図に明確化されている。 LLM抽出フォームパターンセットから概念依存型フォームを検索する。
  論文  参考訳（メタデータ） (2023-09-26T02:22:39Z)
• ConceptX: A Framework for Latent Concept Analysis [21.760620298330235]
  本稿では,言語モデル(pLM)における潜在表現空間の解釈と注釈付けを行うための,ループ型ヒューマン・イン・ザ・ループ・フレームワークであるConceptXを提案する。 我々は、教師なしの手法を用いて、これらのモデルで学んだ概念を発見し、人間が概念の説明を生成するためのグラフィカルインターフェースを実現する。
  論文  参考訳（メタデータ） (2022-11-12T11:31:09Z)
• Visual Superordinate Abstraction for Robust Concept Learning [80.15940996821541]
  概念学習は言語意味論と結びついた視覚表現を構成する。 視覚概念の本質的な意味的階層を探索する失敗のボトルネックについて説明する。 本稿では,意味認識型視覚サブ空間を明示的にモデル化するビジュアル・スーパーオーディネート・抽象化・フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-05-28T14:27:38Z)
• Learnable Visual Words for Interpretable Image Recognition [70.85686267987744]
  モデル予測動作を2つの新しいモジュールで解釈するLearable Visual Words (LVW)を提案する。 意味的な視覚的単語学習は、カテゴリ固有の制約を緩和し、異なるカテゴリ間で共有される一般的な視覚的単語を可能にする。 6つの視覚的ベンチマーク実験により,提案したLVWの精度とモデル解釈における優れた効果が示された。
  論文  参考訳（メタデータ） (2022-05-22T03:24:45Z)
• FALCON: Fast Visual Concept Learning by Integrating Images, Linguistic descriptions, and Conceptual Relations [99.54048050189971]
  自然に発生する複数のデータストリームによってガイドされる新しい視覚概念を素早く学習するフレームワークを提案する。 学習された概念は、未知の画像について推論することで質問に答えるなど、下流のアプリケーションをサポートする。 合成と実世界の両方のデータセットにおけるモデルの有効性を実証する。
  論文  参考訳（メタデータ） (2022-03-30T19:45:00Z)
• Toward a Visual Concept Vocabulary for GAN Latent Space [74.12447538049537]
  本稿では,GANの潜在空間で表現される原始視覚概念のオープンエンド語彙を構築するための新しい手法を提案する。 提案手法は, 層選択性に基づく知覚的正当方向の自動識別, 自由形, 構成的自然言語記述による人為的アノテーションの3つの要素から構成される。 実験により、我々のアプローチで学んだ概念は信頼性があり、構成可能であることが示され、クラス、コンテキスト、オブザーバをまたいで一般化される。
  論文  参考訳（メタデータ） (2021-10-08T17:58:19Z)
• Unsupervised Lexical Acquisition of Relative Spatial Concepts Using Spoken User Utterances [0.0]
  フレキシブルな音声対話システムを持つロボットは、言語表現を取得できなければならない。 相対的な空間概念は私たちの日常生活で広く使われている。 ロボットが相対空間概念を学ぶとき、どの物体が参照対象であるかは明らかではない。
  論文  参考訳（メタデータ） (2021-06-16T06:44:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。