論文の概要: CORTEX: High-Quality Cross-Domain Organization of Web-Scale Corpora through Ontological Corpus Graph
- arxiv url: http://arxiv.org/abs/2606.30175v1
- Date: Mon, 29 Jun 2026 11:51:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.208856
- Title: CORTEX: High-Quality Cross-Domain Organization of Web-Scale Corpora through Ontological Corpus Graph
- Title(参考訳): CORTEX: オントロジーコーパスグラフによるWebスケールコーパスの高品質クロスドメイン組織
- Abstract要約: 既存のコーパス構築パイプラインは、結果として得られたコーパスをフラットで未分化の文書コレクションに閉じ込める。
我々はCortexについて,フラットな文書フィルタリングから構造化知識組織へのWebスケールコーパス構築を促進させる最初のフレームワークについて紹介する。
- 参考スコア(独自算出の注目度): 54.98647797362972
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The continuous evolution of large language models drives escalating demands on data scale and quality, and as different training stages impose increasingly tailored data requirements, systematic organization of high-quality corpora becomes indispensable. Existing corpus construction pipelines confine the resulting corpora to flat, undifferentiated document collections, universally lacking systematic knowledge organization. We present Cortex, to our knowledge the first framework that elevates web-scale corpus construction from flat document filtering to structured knowledge organization through an Ontological Corpus Graph (OCG), a three-layer heterogeneous structure unifying a quality-refined content layer, a hierarchical lightweight ontology layer via LLM-driven automated evolution, and a cross-domain alignment layer enabling inter-domain association at arbitrary taxonomic resolution. Comprehensive experiments confirm the effectiveness of Cortex. In particular, we leverage the OCG to synthesize CortexBench, a cross-domain search-and-reasoning benchmark whose evaluation across eight frontier LLMs validates the effectiveness of quality refinement, domain organization, and cross-domain data synthesis. We will publicly release the complete codebase, a 24.14B-token refined corpus with its OCG, and CortexBench.
- Abstract(参考訳): 大規模言語モデルの継続的な進化は、データスケールと品質に対する要求をエスカレートさせ、異なるトレーニング段階がますます調整されたデータ要求を課すにつれて、高品質なコーパスの体系的な組織化は不可欠になる。
既存のコーパス構築パイプラインは、結果として得られたコーパスをフラットで未分化の文書コレクションに閉じ込め、体系的な知識組織を普遍的に欠いている。
我々はCortexについて,フラット文書フィルタリングから構造化知識組織へ,高品質なコンテンツ層を統一する3層ヘテロジニアス構造,LCMによる自動進化による階層的軽量なオントロジー層,ドメイン間アソシエーションを任意の分類学的解決で実現可能なクロスドメインアライメント層など,私たちの知る限りでは最初のフレームワークについて述べる。
総合的な実験により、Cortexの有効性が確認された。
特に、OCGを利用してCortexBenchを合成する。CortexBenchは8つのフロンティアLCMで評価され、品質改善、ドメイン構成、ドメイン間データ合成の有効性が検証される。
完全なコードベース、OCGとCortexBenchを備えた24.14Bの洗練されたコーパスを公開します。
関連論文リスト
- TaxCE : A Framework for Automated Taxonomy Construction and Evaluation at Scale [0.992650024444822]
TaxCEは、構造化されていないフィードバックテキストを階層的な分類に整理するための完全に自動化されたフレームワークである。
本稿では,3つのコーパスグラウンド評価指標,排他性,排他性,粒状性(EEG)を紹介する。
論文 参考訳(メタデータ) (2026-08-31T11:25:25Z) - Online Continual Learning with Dynamic Label Hierarchies [72.33335166136045]
粒度をまたいで重大度が進化する新しい問題設定であるDHOCLを導入し,各サンプルは単一階層レベルでの監視を行う。
i) 混合粒度の部分的監視は、塑性を制約し、階層間のセマンティック一貫性を損なう、進化するパスワイド階層上のポイントワイド信号のみを提供する。
本稿では,相補的分類を適応的に組み合わせ,学習可能な階層型プロトタイプによって正規化し,素早い適応,階層的整合性,構造的知識の統合を可能にするHALOを提案する。
論文 参考訳(メタデータ) (2026-05-12T08:20:23Z) - Beyond the Academic Monoculture: A Unified Framework and Industrial Perspective for Attributed Graph Clustering [75.50670592447219]
分散グラフクラスタリング(AGC)は、構造トポロジとノード属性を共同でモデル化することによって、ノードを凝集性グループに分割する基本的な教師なしタスクである。
この調査は、3つの相補的な視点からAGCを包括的かつ工業的に基礎づけたレビューを提供する。
論文 参考訳(メタデータ) (2026-03-21T14:15:34Z) - LLM-Driven Ontology Construction for Enterprise Knowledge Graphs [0.0]
本稿では,企業データからのドメイン固有非構造生成を高速化するパイプラインであるOntoEKGを紹介する。
提案手法では,モデルタスクを,コアクラスとプロパティを識別する抽出モジュールと,それらの要素を論理的に階層化し,それらを標準RDFにシリアライズするエンテーメントモジュールという,2つの異なるフェーズに分解する。
エンドツーエンドの構築のための包括的なベンチマークの欠如に対処するため、私たちは、データ、ファイナンス、ロジスティックスの各分野にわたる文書から派生した、新たな評価データセットを採用しました。
論文 参考訳(メタデータ) (2026-02-01T15:13:30Z) - Synthesize-on-Graph: Knowledgeable Synthetic Data Generation for Continue Pre-training of Large Language Models [17.169112112753513]
大規模言語モデル(LLM)は驚くほど成功したが、データ非効率のままである。
文書内コンテンツへの事前学習を継続する既存の合成データ生成手法
本稿では,クロスドキュメント・ナレッジ・アソシエーションを組み込んだ合成データ生成フレームワークであるSynthetic-on-Graph(SoG)を提案する。
論文 参考訳(メタデータ) (2025-05-02T03:40:39Z) - GyralNet Subnetwork Partitioning via Differentiable Spectral Modularity Optimization [30.044545011553172]
本稿では,GyralNet内の3HGの組織をモジュール化するための,差別化可能なサブネットワークフレームワークを提案する。
トポロジカルな構造的類似性とDTI由来の接続パターンを属性特性として組み込むことにより,本手法は皮質組織を生物学的に意味のある表現を提供する。
論文 参考訳(メタデータ) (2025-03-25T16:33:12Z) - SFC-GAN: A Generative Adversarial Network for Brain Functional and Structural Connectome Translation [11.070185680800071]
構造Functional Connectivity GAN(SFC-GAN)は、脳コネクトーム間の双方向翻訳のための新しいフレームワークである。
これらのコネクトームのトポロジ的整合性を維持するため、我々は、グローバルなコネクトームパターンとローカルなコネクトームパターンの両方を捉える際に、モデルを導く構造保存損失を用いる。
本フレームワークは,SCとFC間の翻訳において優れた性能を示し,類似性およびグラフ特性評価においてベースラインモデルより優れた性能を示す。
論文 参考訳(メタデータ) (2025-01-13T04:30:41Z) - Efficient Multi-View Graph Clustering with Local and Global Structure
Preservation [59.49018175496533]
局所・グローバル構造保存を用いた効率的なマルチビューグラフクラスタリング(EMVGC-LG)という,アンカーベースのマルチビューグラフクラスタリングフレームワークを提案する。
具体的には、EMVGC-LGがクラスタリング品質を向上させるために、アンカー構築とグラフ学習を共同で最適化する。
さらに、EMVGC-LGはサンプル数に関する既存のAMVGCメソッドの線形複雑性を継承する。
論文 参考訳(メタデータ) (2023-08-31T12:12:30Z) - BCS-Net: Boundary, Context and Semantic for Automatic COVID-19 Lung
Infection Segmentation from CT Images [83.82141604007899]
BCS-Netは、CT画像から自動的に新型コロナウイルスの肺感染症を分離するための新しいネットワークである。
BCS-Netはエンコーダ-デコーダアーキテクチャに従っており、多くの設計はデコーダのステージに焦点を当てている。
BCSRブロックでは、アテンション誘導グローバルコンテキスト(AGGC)モジュールがデコーダの最も価値のあるエンコーダ機能を学ぶように設計されている。
論文 参考訳(メタデータ) (2022-07-17T08:54:07Z) - Unveiling the Potential of Structure-Preserving for Weakly Supervised
Object Localization [71.79436685992128]
本稿では,WSOLの畳み込み機能に組み込まれた構造情報を完全に活用するための2段階構造保存アクティベーション(SPA)を提案する。
第1段階では、分類ネットワークによって引き起こされる構造ミス問題を軽減するために制限アクティベーションモジュール(ram)が設計されている。
第2段階では, 自己相関マップ生成(SCG)モジュールと呼ばれるプロセス後アプローチを提案し, 構造保存ローカライゼーションマップを得る。
論文 参考訳(メタデータ) (2021-03-08T03:04:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。