論文の概要: The flow of ideas in word embeddings
- arxiv url: http://arxiv.org/abs/2307.16819v1
- Date: Wed, 26 Jul 2023 15:51:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-06 11:22:13.602830
- Title: The flow of ideas in word embeddings
- Title(参考訳): 単語埋め込みにおけるアイデアの流れ
- Authors: Debayan Dasgupta
- Abstract要約: アイデアの流れは物理学者、心理学者、機械学習技術者によって広く研究されている。
本稿では, 類似性に基づくアイデアの流れを解明するために, マイクロレオロジーの具体的ツールを用いる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The flow of ideas has been extensively studied by physicists, psychologists,
and machine learning engineers. This paper adopts specific tools from
microrheology to investigate the similarity-based flow of ideas. We introduce a
random walker in word embeddings and study its behavior. Such
similarity-mediated random walks through the embedding space show signatures of
anomalous diffusion commonly observed in complex structured systems such as
biological cells and complex fluids. The paper concludes by proposing the
application of popular tools employed in the study of random walks and
diffusion of particles under Brownian motion to assess quantitatively the
incorporation of diverse ideas in a document. Overall, this paper presents a
self-referenced method combining microrheology and machine learning concepts to
explore the meandering tendencies of language models and their potential
association with creativity.
- Abstract(参考訳): アイデアの流れは物理学者、心理学者、機械学習エンジニアによって広く研究されている。
本稿では, マイクロレオロジーの具体的ツールを用いて, 類似性に基づくアイデアの流れを考察する。
単語埋め込みにランダムウォーカを導入し,その振る舞いについて検討する。
このような類似性によるランダムウォークは、生体細胞や複雑な流体のような複雑な構造系でよく見られる異常拡散の徴候を示す。
論文は,ランダムウォークとブラウン運動下での粒子拡散の研究に使用される一般的なツールを用いて,文書中の多様なアイデアの蓄積を定量的に評価することを提案する。
全体として,マイクロレオロジーと機械学習の概念を組み合わせた自己参照手法を提案し,言語モデルの有意義な傾向と創造性との関連性について考察する。
関連論文リスト
- Causal Representation Learning from Multimodal Biological Observations [57.00712157758845]
我々は,マルチモーダルデータに対するフレキシブルな識別条件の開発を目指している。
我々は、各潜伏成分の識別可能性を保証するとともに、サブスペース識別結果を事前の作業から拡張する。
我々の重要な理論的要素は、異なるモーダル間の因果関係の構造的空間性である。
論文 参考訳(メタデータ) (2024-11-10T16:40:27Z) - Ontology Embedding: A Survey of Methods, Applications and Resources [54.3453925775069]
オントロジはドメイン知識とメタデータを表現するために広く使われている。
1つの簡単な解決策は、統計分析と機械学習を統合することである。
埋め込みに関する多くの論文が出版されているが、体系的なレビューの欠如により、研究者はこの分野の包括的な理解を妨げている。
論文 参考訳(メタデータ) (2024-06-16T14:49:19Z) - Sifting through the Noise: A Survey of Diffusion Probabilistic Models and Their Applications to Biomolecules [0.7366405857677227]
拡散確率モデルは、多くの著名なアプリケーションに導入されている。
本稿では,これらのモデルの背後にある理論と研究の現状について概説する。
論文 参考訳(メタデータ) (2024-05-31T21:39:51Z) - Language Evolution with Deep Learning [49.879239655532324]
計算モデリングは言語の出現の研究において重要な役割を担っている。
構造化言語の出現を誘発する可能性のある条件と学習プロセスをシミュレートすることを目的としている。
この章では、最近機械学習の分野に革命をもたらした別の種類の計算モデル、ディープ・ラーニング・モデルについて論じる。
論文 参考訳(メタデータ) (2024-03-18T16:52:54Z) - Seeing Unseen: Discover Novel Biomedical Concepts via
Geometry-Constrained Probabilistic Modeling [53.7117640028211]
同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。
構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。
スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
論文 参考訳(メタデータ) (2024-03-02T00:56:05Z) - Discovering mesoscopic descriptions of collective movement with neural
stochastic modelling [4.7163839266526315]
小~中規模の集団運動(sim$10-1000、別名Meso)は、順序によって非自明な特徴を示す。
ここでは、相互作用する個人の神経群ダイナミクスを特徴付けるために、物理に着想を得たネットワークベースのアプローチを用いる。
本研究では,この手法を合成と実世界の両方のデータセットに適用し,ドリフトと拡散場を用いたダイナミックスの決定論的および側面を同定する。
論文 参考訳(メタデータ) (2023-03-17T11:49:17Z) - Computing with Categories in Machine Learning [1.7679374058425343]
分類構造学習フレームワークとしてDisCoPyroを導入する。
DisCoPyroはカテゴリー構造と償却変分推論を組み合わせる。
我々は、DisCoPyroが最終的には人工知能の開発に寄与するのではないかと推測する。
論文 参考訳(メタデータ) (2023-03-07T17:26:18Z) - Foundations and Recent Trends in Multimodal Machine Learning:
Principles, Challenges, and Open Questions [68.6358773622615]
本稿では,マルチモーダル機械学習の計算的基礎と理論的基礎について概説する。
本稿では,表現,アライメント,推論,生成,伝達,定量化という,6つの技術課題の分類法を提案する。
最近の技術的成果は、この分類のレンズを通して示され、研究者は新しいアプローチの類似点と相違点を理解することができる。
論文 参考訳(メタデータ) (2022-09-07T19:21:19Z) - Semantic Search for Large Scale Clinical Ontologies [63.71950996116403]
本稿では,大規模臨床語彙検索システムを構築するための深層学習手法を提案する。
本稿では,意味学習データに基づくトレーニングデータを生成するTriplet-BERTモデルを提案する。
このモデルは,5つの実ベンチマークデータセットを用いて評価され,提案手法は自由テキストから概念,概念まで,概念語彙の検索において高い結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-01T05:15:42Z) - Hierarchically Organized Latent Modules for Exploratory Search in
Morphogenetic Systems [21.23182328329019]
多様な表現の階層の教師なし学習を可能にする新しい動的・モジュラーアーキテクチャを導入する。
本システムは,ユーザの嗜好に対して効率よく多様性探索を適応できる発見アシスタントを構築できることを示す。
論文 参考訳(メタデータ) (2020-07-02T15:28:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。