論文の概要: CrossFormer: Cross-Segment Semantic Fusion for Document Segmentation

• arxiv url: http://arxiv.org/abs/2503.23671v2
• Date: Wed, 02 Apr 2025 07:47:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:23:03.234888
• Title: CrossFormer: Cross-Segment Semantic Fusion for Document Segmentation
• Title（参考訳）: CrossFormer: 文書セグメンテーションのためのクロスセグメントセマンティックフュージョン
• Authors: Tongke Ni, Yang Fan, Junru Zhou, Xiangping Wu, Qingcai Chen,
• Abstract要約: テキストセマンティックセグメンテーションは、文書を連続的なセマンティクスで複数の段落に分割する。 従来のアプローチは、入力長の制約に対処するために、文書をセグメントに前処理することに頼っていた。 我々は,新しいクロスセグメント融合モジュールを備えたトランスフォーマーベースモデルであるCrossFormerを提案する。
• 参考スコア（独自算出の注目度）: 16.70112752541306
• License:
• Abstract: Text semantic segmentation involves partitioning a document into multiple paragraphs with continuous semantics based on the subject matter, contextual information, and document structure. Traditional approaches have typically relied on preprocessing documents into segments to address input length constraints, resulting in the loss of critical semantic information across segments. To address this, we present CrossFormer, a transformer-based model featuring a novel cross-segment fusion module that dynamically models latent semantic dependencies across document segments, substantially elevating segmentation accuracy. Additionally, CrossFormer can replace rule-based chunk methods within the Retrieval-Augmented Generation (RAG) system, producing more semantically coherent chunks that enhance its efficacy. Comprehensive evaluations confirm CrossFormer's state-of-the-art performance on public text semantic segmentation datasets, alongside considerable gains on RAG benchmarks.
• Abstract（参考訳）: テキストセマンティックセグメンテーションは、主題、文脈情報、文書構造に基づく連続的なセマンティックスで、文書を複数の段落に分割する。 従来のアプローチでは、入力長の制約に対処するため、文書をセグメントに前処理することに頼っていたため、セグメント間で重要な意味情報が失われていた。 そこで我々はCrossFormerを提案する。CrossFormerは、文書セグメント間の潜在意味的依存関係を動的にモデル化し、セグメンテーションの精度を大幅に高める、新しいクロスセグメンテーション・フュージョン・モジュールを備えたトランスフォーマーベースのモデルである。 さらに、CrossFormerはRetrieval-Augmented Generation (RAG)システム内のルールベースのチャンクメソッドを置き換えることができ、よりセマンティックに一貫性のあるチャンクを生成できる。 総合的な評価では、公開テキストセマンティックセグメンテーションデータセットにおけるCrossFormerの最先端のパフォーマンスと、RAGベンチマークの大幅な向上が確認されている。

関連論文リスト

• S2 Chunking: A Hybrid Framework for Document Segmentation Through Integrated Spatial and Semantic Analysis [0.0]
  文書チャンキングは自然言語処理(NLP)において重要な課題である 本稿では,レイアウト構造,意味解析,空間関係を組み合わせた新しいハイブリッド手法を提案する。 実験の結果、このアプローチは従来の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2025-01-08T09:06:29Z)
• Hypergraph based Understanding for Document Semantic Entity Recognition [65.84258776834524]
  我々は,ハイパグラフアテンションを利用したハイパグラフアテンション文書セマンティックエンティティ認識フレームワークHGAを構築し,エンティティ境界とエンティティカテゴリを同時に重視する。 FUNSD, CORD, XFUNDIE で得られた結果は,本手法が意味的エンティティ認識タスクの性能を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2024-07-09T14:35:49Z)
• From Text Segmentation to Smart Chaptering: A Novel Benchmark for Structuring Video Transcriptions [63.11097464396147]
  音声コンテンツに焦点をあてた新しいベンチマークYTSegを導入し、その内容は本質的に非構造的であり、トポロジと構造的にも多様である。 また,高効率な階層分割モデルMiniSegを導入する。
  論文  参考訳（メタデータ） (2024-02-27T15:59:37Z)
• Toward Unifying Text Segmentation and Long Document Summarization [31.084738269628748]
  文章・音声文書の抽出要約において,部分分割が果たす役割について検討する。 本手法は,要約とセグメンテーションを同時に行うことによって,頑健な文表現を学習する。 以上の結果から,本モデルは,公開ベンチマーク上での最先端性能を達成できるだけでなく,異種間転送性も向上できることが示唆された。
  論文  参考訳（メタデータ） (2022-10-28T22:07:10Z)
• Open-world Semantic Segmentation via Contrasting and Clustering Vision-Language Embedding [95.78002228538841]
  本研究では,様々なオープンワールドカテゴリのセマンティックオブジェクトを高密度アノテーションを使わずにセマンティックオブジェクトのセマンティックオブジェクトのセマンティック化を学習するための,新しいオープンワールドセマンティックセマンティックセマンティックセマンティクスパイプラインを提案する。 提案手法は任意のカテゴリのオブジェクトを直接分割し、3つのベンチマークデータセット上でデータラベリングを必要とするゼロショットセグメンテーション法より優れている。
  論文  参考訳（メタデータ） (2022-07-18T09:20:04Z)
• Graph Adaptive Semantic Transfer for Cross-domain Sentiment Classification [68.06496970320595]
  クロスドメイン感情分類(CDSC)は、ソースドメインから学んだ伝達可能なセマンティクスを使用して、ラベルなしのターゲットドメインにおけるレビューの感情を予測することを目的としている。 本稿では、単語列と構文グラフの両方からドメイン不変セマンティクスを学習できる適応型構文グラフ埋め込み法であるグラフ適応意味伝達(GAST)モデルを提案する。
  論文  参考訳（メタデータ） (2022-05-18T07:47:01Z)
• Topical Change Detection in Documents via Embeddings of Long Sequences [4.13878392637062]
  テキストセグメンテーションのタスクを独立した教師付き予測タスクとして定式化する。 類似セクションの段落を微調整することで、学習した特徴がトピック情報をエンコードすることを示すことができます。 文レベルで操作する従来のアプローチとは異なり、我々は常により広いコンテキストを使用します。
  論文  参考訳（メタデータ） (2020-12-07T12:09:37Z)
• Referring Image Segmentation via Cross-Modal Progressive Comprehension [94.70482302324704]
  画像セグメンテーションの参照は、自然言語表現で与えられた記述によく一致するエンティティの前景マスクをセグメンテーションすることを目的としている。 従来のアプローチでは、暗黙的な特徴相互作用と視覚的モダリティと言語的モダリティの融合を用いてこの問題に対処していた。 本稿では,この課題に効果的に対応するために,Cross-Modal Progressive (CMPC) モジュールと Text-Guided Feature Exchange (TGFE) モジュールを提案する。
  論文  参考訳（メタデータ） (2020-10-01T16:02:30Z)
• Improving Semantic Segmentation via Decoupled Body and Edge Supervision [89.57847958016981]
  既存のセグメンテーションアプローチは、グローバルコンテキストをモデル化することでオブジェクトの内部の一貫性を改善すること、あるいはマルチスケールの特徴融合によって境界に沿ったオブジェクトの詳細を洗練することを目的としている。 本稿では,セマンティックセグメンテーションのための新しいパラダイムを提案する。 我々の洞察は、セマンティックセグメンテーションの魅力ある性能には、画像の高頻度と低頻度に対応するオブジェクトのテキストボディとテキストエッジを具体的にモデル化する必要があるということである。 さまざまなベースラインやバックボーンネットワークを備えた提案したフレームワークが,オブジェクト内部の一貫性とオブジェクト境界を向上させることを示す。
  論文  参考訳（メタデータ） (2020-07-20T12:11:22Z)
• Two-Level Transformer and Auxiliary Coherence Modeling for Improved Text Segmentation [9.416757363901295]
  単純だが明示的なコヒーレンスモデリングを用いたテキストセグメンテーションのための新しい教師付きモデルを提案する。 我々のモデルは、2つの階層的に連結されたトランスフォーマーネットワークからなるニューラルネットワークであり、文レベルのセグメンテーション目標と、正しい文列と腐敗した文列を区別するコヒーレンス目標を結合するマルチタスク学習モデルである。
  論文  参考訳（メタデータ） (2020-01-03T17:06:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。