論文の概要: The flow of ideas in word embeddings
- arxiv url: http://arxiv.org/abs/2307.16819v1
- Date: Wed, 26 Jul 2023 15:51:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-06 11:22:13.602830
- Title: The flow of ideas in word embeddings
- Title(参考訳): 単語埋め込みにおけるアイデアの流れ
- Authors: Debayan Dasgupta
- Abstract要約: アイデアの流れは物理学者、心理学者、機械学習技術者によって広く研究されている。
本稿では, 類似性に基づくアイデアの流れを解明するために, マイクロレオロジーの具体的ツールを用いる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The flow of ideas has been extensively studied by physicists, psychologists,
and machine learning engineers. This paper adopts specific tools from
microrheology to investigate the similarity-based flow of ideas. We introduce a
random walker in word embeddings and study its behavior. Such
similarity-mediated random walks through the embedding space show signatures of
anomalous diffusion commonly observed in complex structured systems such as
biological cells and complex fluids. The paper concludes by proposing the
application of popular tools employed in the study of random walks and
diffusion of particles under Brownian motion to assess quantitatively the
incorporation of diverse ideas in a document. Overall, this paper presents a
self-referenced method combining microrheology and machine learning concepts to
explore the meandering tendencies of language models and their potential
association with creativity.
- Abstract(参考訳): アイデアの流れは物理学者、心理学者、機械学習エンジニアによって広く研究されている。
本稿では, マイクロレオロジーの具体的ツールを用いて, 類似性に基づくアイデアの流れを考察する。
単語埋め込みにランダムウォーカを導入し,その振る舞いについて検討する。
このような類似性によるランダムウォークは、生体細胞や複雑な流体のような複雑な構造系でよく見られる異常拡散の徴候を示す。
論文は,ランダムウォークとブラウン運動下での粒子拡散の研究に使用される一般的なツールを用いて,文書中の多様なアイデアの蓄積を定量的に評価することを提案する。
全体として,マイクロレオロジーと機械学習の概念を組み合わせた自己参照手法を提案し,言語モデルの有意義な傾向と創造性との関連性について考察する。
関連論文リスト
- Seeing Unseen: Discover Novel Biomedical Concepts via
Geometry-Constrained Probabilistic Modeling [53.7117640028211]
同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。
構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。
スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
論文 参考訳(メタデータ) (2024-03-02T00:56:05Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - Active and Passive Causal Inference Learning [51.91564516458894]
本稿では,因果推論に関心を持つ機械学習研究者,技術者,学生の出発点となる。
まず、因果同定に総合的に必要とされる重要な仮定のセットを配置することから始めます。
私たちは、それらを2つのバケット、アクティブとパッシブのアプローチに分類することで、重要な因果推論テクニックのセットを構築します。
論文 参考訳(メタデータ) (2023-08-18T02:23:48Z) - Discovering mesoscopic descriptions of collective movement with neural
stochastic modelling [4.7163839266526315]
小~中規模の集団運動(sim$10-1000、別名Meso)は、順序によって非自明な特徴を示す。
ここでは、相互作用する個人の神経群ダイナミクスを特徴付けるために、物理に着想を得たネットワークベースのアプローチを用いる。
本研究では,この手法を合成と実世界の両方のデータセットに適用し,ドリフトと拡散場を用いたダイナミックスの決定論的および側面を同定する。
論文 参考訳(メタデータ) (2023-03-17T11:49:17Z) - Computing with Categories in Machine Learning [1.7679374058425343]
分類構造学習フレームワークとしてDisCoPyroを導入する。
DisCoPyroはカテゴリー構造と償却変分推論を組み合わせる。
我々は、DisCoPyroが最終的には人工知能の開発に寄与するのではないかと推測する。
論文 参考訳(メタデータ) (2023-03-07T17:26:18Z) - Foundations and Recent Trends in Multimodal Machine Learning:
Principles, Challenges, and Open Questions [68.6358773622615]
本稿では,マルチモーダル機械学習の計算的基礎と理論的基礎について概説する。
本稿では,表現,アライメント,推論,生成,伝達,定量化という,6つの技術課題の分類法を提案する。
最近の技術的成果は、この分類のレンズを通して示され、研究者は新しいアプローチの類似点と相違点を理解することができる。
論文 参考訳(メタデータ) (2022-09-07T19:21:19Z) - Semantic Search for Large Scale Clinical Ontologies [63.71950996116403]
本稿では,大規模臨床語彙検索システムを構築するための深層学習手法を提案する。
本稿では,意味学習データに基づくトレーニングデータを生成するTriplet-BERTモデルを提案する。
このモデルは,5つの実ベンチマークデータセットを用いて評価され,提案手法は自由テキストから概念,概念まで,概念語彙の検索において高い結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-01T05:15:42Z) - Complexity-based speciation and genotype representation for
neuroevolution [81.21462458089142]
本稿では、進化するネットワークを隠されたニューロンの数に基づいて種に分類する神経進化の種分化原理を提案する。
提案された種分化原理は、種および生態系全体における多様性の促進と保存を目的として設計されたいくつかの技術で採用されている。
論文 参考訳(メタデータ) (2020-10-11T06:26:56Z) - Results of multi-agent system and ontology to manage ideas and represent
knowledge in a challenge of creativity [0.0]
本稿では、分散システムで使用されるマルチエージェントシステムの結果、アイデア管理を支援するインテリジェントシステムについて述べる。
インテリジェントなシステムは、創造的なワークショップの参加者を支援して、アイデアを管理し、その結果、アイデア専用のオントロジーを提案します。
論文 参考訳(メタデータ) (2020-09-11T08:31:30Z) - Hierarchically Organized Latent Modules for Exploratory Search in
Morphogenetic Systems [21.23182328329019]
多様な表現の階層の教師なし学習を可能にする新しい動的・モジュラーアーキテクチャを導入する。
本システムは,ユーザの嗜好に対して効率よく多様性探索を適応できる発見アシスタントを構築できることを示す。
論文 参考訳(メタデータ) (2020-07-02T15:28:27Z) - Emergent Behaviors from Folksonomy Driven Interactions [0.0]
本稿では、フォークソ駆動の振る舞いにつながるフォークソ駆動のタグ相互作用を研究するための研究プログラムについて述べる。
本研究の目的は,Folksodriven tag 上での群挙動を複雑かつ純粋に生成する,単純な局所的相互作用のタイプを理解することである。
論文 参考訳(メタデータ) (2019-12-31T18:33:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。