論文の概要: Towards Non-Euclidean Foundation Models: Advancing AI Beyond Euclidean Frameworks
- arxiv url: http://arxiv.org/abs/2505.14417v1
- Date: Tue, 20 May 2025 14:28:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-21 14:49:53.355298
- Title: Towards Non-Euclidean Foundation Models: Advancing AI Beyond Euclidean Frameworks
- Title(参考訳): 非ユークリッド財団モデルに向けて - ユークリッドフレームワークを越えてAIを促進する
- Authors: Menglin Yang, Yifei Zhang, Jialin Chen, Melanie Weber, Rex Ying,
- Abstract要約: 本ワークショップは,非ユークリッド基礎モデルと幾何学的学習(NEGEL)の交わりに着目したワークショップである。
非ユークリッド空間は、本質的な幾何学的性質を持つデータに対してより効率的かつ効果的な表現を提供することが示されている。
- 参考スコア(独自算出の注目度): 19.08129891252494
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In the era of foundation models and Large Language Models (LLMs), Euclidean space is the de facto geometric setting of our machine learning architectures. However, recent literature has demonstrated that this choice comes with fundamental limitations. To that end, non-Euclidean learning is quickly gaining traction, particularly in web-related applications where complex relationships and structures are prevalent. Non-Euclidean spaces, such as hyperbolic, spherical, and mixed-curvature spaces, have been shown to provide more efficient and effective representations for data with intrinsic geometric properties, including web-related data like social network topology, query-document relationships, and user-item interactions. Integrating foundation models with non-Euclidean geometries has great potential to enhance their ability to capture and model the underlying structures, leading to better performance in search, recommendations, and content understanding. This workshop focuses on the intersection of Non-Euclidean Foundation Models and Geometric Learning (NEGEL), exploring its potential benefits, including the potential benefits for advancing web-related technologies, challenges, and future directions. Workshop page: [https://hyperboliclearning.github.io/events/www2025workshop](https://hyperboliclearning.github.io/events/www2025workshop)
- Abstract(参考訳): 基礎モデルと大規模言語モデル(LLM)の時代において、ユークリッド空間は我々の機械学習アーキテクチャの事実上の幾何学的設定である。
しかし、近年の文献では、この選択には根本的な制限が伴っていることが示されている。
そのため、複雑な関係や構造が一般的であるWeb関連アプリケーションでは、非ユークリッド学習が急速に普及している。
非ユークリッド空間、例えば双曲空間、球面空間、混合曲率空間は、ソーシャルネットワークのトポロジー、クエリ-ドキュメント関係、ユーザ-イテム相互作用といったウェブ関連データを含む固有の幾何学的性質を持つデータに対して、より効率的かつ効果的な表現を提供する。
基礎モデルと非ユークリッドジオメトリを統合することは、基盤構造を捕捉しモデル化する能力を高める大きな可能性を秘めており、検索、レコメンデーション、コンテンツ理解におけるより良いパフォーマンスをもたらす。
このワークショップは、非ユークリッド基礎モデルと幾何学的学習(NEGEL)の交わりに焦点を合わせ、Web関連の技術の進歩、課題、今後の方向性など、その潜在的なメリットを探求する。
ワークショップページ: [https://hyperboliclearning.github.io/events/www2025workshop] (https://hyperboliclearning.github.io/events/www2025workshop]
関連論文リスト
- Position: Beyond Euclidean -- Foundation Models Should Embrace Non-Euclidean Geometries [42.83280708842304]
ユークリッド空間は、機械学習アーキテクチャの事実上の幾何学的設定である。
大規模では、実世界のデータは、多方向関係、階層、対称性、非等方スケーリングなど、本質的に非ユークリッド構造を示すことが多い。
本稿では,ユークリッド幾何学を超越した移動は,単なる任意の拡張ではなく,次世代基礎モデルのスケーリング法則を維持することの必要性を論じる。
論文 参考訳(メタデータ) (2025-04-11T18:07:33Z) - Geometry Distributions [51.4061133324376]
本稿では,分布として幾何学をモデル化する新しい幾何学的データ表現を提案する。
提案手法では,新しいネットワークアーキテクチャを用いた拡散モデルを用いて表面点分布の学習を行う。
本研究では,多種多様な対象に対して質的かつ定量的に表現を評価し,その有効性を実証した。
論文 参考訳(メタデータ) (2024-11-25T04:06:48Z) - Modelling brain connectomes networks: Solv is a worthy competitor to hyperbolic geometry! [0.0]
我々は、Euclidean、Spherical、Hyperbolic、Solv、Nil、および製品ジオメトリにコネクトームを埋め込むことができるSimulating Annealingに基づく埋め込みアルゴリズムを提案する。
以上の結果から,3次元双曲型埋め込みは多くの場合,最良の結果をもたらすが,Solv埋め込みは合理的に機能することが示唆された。
論文 参考訳(メタデータ) (2024-07-22T22:36:04Z) - Beyond Euclid: An Illustrated Guide to Modern Machine Learning with Geometric, Topological, and Algebraic Structures [3.5357133304100326]
現代の機械学習は、本質的に非ユークリッド的なリッチな構造化されたデータに遭遇する。
そのような非ユークリッドデータから知識を抽出するには、より広範な数学的視点が必要である。
我々は最近の進歩を直感的な統合フレームワークに統合するグラフィカルな分類法を提案する。
論文 参考訳(メタデータ) (2024-07-12T17:48:36Z) - Exploring Data Geometry for Continual Learning [64.4358878435983]
非定常データストリームのデータ幾何を探索することにより,新しい視点から連続学習を研究する。
提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何学を動的に拡張する。
実験により,本手法はユークリッド空間で設計したベースライン法よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-04-08T06:35:25Z) - Geometry Interaction Knowledge Graph Embeddings [153.69745042757066]
ユークリッド空間,双曲空間,超球空間間の空間構造を対話的に学習する幾何学的相互作用知識グラフ埋め込み(GIE)を提案する。
提案したGIEは、よりリッチなリレーショナル情報、モデルキー推論パターンをキャプチャし、エンティティ間の表現的セマンティックマッチングを可能にする。
論文 参考訳(メタデータ) (2022-06-24T08:33:43Z) - AMCAD: Adaptive Mixed-Curvature Representation based Advertisement
Retrieval System [18.07821800367287]
非ユークリッド空間における複素および異種グラフ構造を自動的にキャプチャするウェブスケール適応型混合グラフ広告検索システム(AMCAD)を提案する。
ユーザ数億の最大のeコマースプラットフォームであるTaobaoにAMCADをデプロイするために,効率的な2層オンライン検索フレームワークを設計する。
論文 参考訳(メタデータ) (2022-03-28T12:29:30Z) - Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges [50.22269760171131]
過去10年間、データサイエンスと機械学習の実験的な革命が、ディープラーニングの手法によって生まれた。
このテキストは、統一幾何学的原理によって事前に定義された規則性を公開することに関するものである。
CNN、RNN、GNN、Transformersなど、最も成功したニューラルネットワークアーキテクチャを研究するための一般的な数学的フレームワークを提供する。
論文 参考訳(メタデータ) (2021-04-27T21:09:51Z) - Fusing the Old with the New: Learning Relative Camera Pose with
Geometry-Guided Uncertainty [91.0564497403256]
本稿では,ネットワークトレーニング中の2つの予測系間の確率的融合を含む新しい枠組みを提案する。
本ネットワークは,異なる対応間の強い相互作用を強制することにより学習を駆動する自己追跡グラフニューラルネットワークを特徴とする。
学習に適したモーションパーマリゼーションを提案し、難易度の高いDeMoNおよびScanNetデータセットで最新のパフォーマンスを達成できることを示します。
論文 参考訳(メタデータ) (2021-04-16T17:59:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。