論文の概要: Paragraph Boundaries Are Not White Space:Compression Depth as the Signature of Hierarchical Structure

• arxiv url: http://arxiv.org/abs/2609.23551v1
• Date: Sun, 20 Sep 2026 11:07:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.849271
• Title: Paragraph Boundaries Are Not White Space:Compression Depth as the Signature of Hierarchical Structure
• Title（参考訳）: パラグラフ境界は白い空間ではない:階層構造の記号としての圧縮深さ
• Abstract要約: 段落,文,トークンの指標を表す階層的回転位置符号化(hRoPE)を別のチャネルとして使用する。 トークン距離特性推定器を用いてパラグラフ間注目度を測定した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard positional encodings represent position as a one-dimensional reading-order coordinate, but reading order alone does not determine hierarchical textual structure. We use a hierarchical rotary positional encoding (hRoPE) that represents paragraph, sentence, and token indices as separate channels, hold the token sequence fixed, intervene on the paragraph coordinate p1, and measure cross-paragraph attention with a token-distance-exact estimator. Attention is compressed relative to a token-distance-matched baseline in every corpus, but compression alone is not diagnostic of true structure: an architecturally identical channel with density-matched random labels is compressed too, more shallowly. What distinguishes real structure is the depth of compression, which is greater and corpus-dependent while the control's is not. Comparing eight corpus-only quantities across three constructs (lexical persistence, paragraph length, embedding-based coherence), none fully reproduces the cross-corpus ordering of depth, though embedding-based coherence comes closest. Compression depth, not its location, is the reproducible signature of genuine paragraph structure in our setting.
• Abstract（参考訳）: 標準的な位置符号化は、位置を1次元の読み順座標として表現するが、読み順だけでは階層的なテキスト構造を決定できない。 我々は、段落、文、トークンの指標を表す階層的な回転位置符号化(hRoPE)を別個のチャネルとして使用し、トークンシーケンスを固定し、段落座標p1に介入し、トークン距離実測値を用いてパラグラフ間注目度を測定する。 各コーパスのトークン距離整合ベースラインに対してアテンションは圧縮されるが、圧縮のみは真の構造を診断するものではなく、密度整合ランダムラベルを持つアーキテクチャ的に同一のチャネルもより浅く圧縮される。 実際の構造を区別するのは圧縮の深さであり、制御がそうでない間はコーパスに依存しない。 3つの構成(語彙的永続性、段落長、埋め込みベースコヒーレンス)で8つのコーパスのみの量を比較すると、埋め込みベースコヒーレンスが最も近いが、深さのクロスコーパス順序を完全に再現することはない。 圧縮深度は, 位置ではなく, 実際の段落構造の再現可能な署名である。

関連論文リスト

• Rethinking Handwritten Character Recognition [0.0]
  GraphemeNetは2つのバイナリxで管理される統一されたマルチスクリプトアーキテクチャである。 スクリプト固有の非対称な畳み込みは、各段階における重み付け残差としてストローク足場を注入する。 ストローク・トポロジー・モジュール(STM)は、ゲート融合を伴うグローバル平均プールとクロススケールアテンションの間で選択される。 $O(n)$ルーティングを持つ線形カプセルルーティング(LCR)は、普遍的に共有される。
  論文  参考訳（メタデータ） (2026-09-02T16:19:14Z)
• ScaleAware-JEPA: Latent Representation for Discovery in Multiscale Physical Fields [0.8122270502556375]
  本研究では,連続スカラーフィールドのための密度の高いラベルなし潜在座標を構成するフレームワークであるScaleAware-JEPAを紹介する。 Constrained Diffusion Decomposition (CDD)は、各フィールドをピクセル登録スケールコンポーネントに分離する。 結果のJEPAの目標は、各コンポーネントの拡散スケールに関連付けられたコンテキストフットプリントで隠れた構造を予測する。
  論文  参考訳（メタデータ） (2026-06-29T03:00:54Z)
• Token-to-Token Alignment of Text Embeddings for Semantic Blending [55.88554156801394]
  本稿では,プロンプト間のトークン間の明示的な意味的対応を確立するフレームワークであるToken-to-Tokenアライメントを紹介する。 この結果から,テキストから画像への埋め込み空間は,表現が適切に整列されたときにアクセス可能な連続的な意味構造を暗黙的に符号化していることがわかった。
  論文  参考訳（メタデータ） (2026-06-22T23:54:40Z)
• LASA: A Weak Supervision Method for Open-Vocabulary Scene Sketch Semantic Segmentation [9.681252371247643]
  オープン語彙シーンのスケッチセマンティックセマンティックセマンティックセマンティックセマンティクスは、推論時に指定された柔軟なカテゴリ語彙に基づいて、疎線描画に密度の高いセマンティクスラベルを割り当てることを目的としている。 自然な画像とは異なり、スケッチにはテクスチャや色の手がかりがなく、セマンティックな理解はストロークのレイアウトや空間的な構成に大きく依存する。 textbfLayer-wise textbfAccumulated textbfStructural textbfAttention (textbfLASA) に基づく構造認識フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-10T09:17:36Z)
• Mapping Text to Multiplex Graph: Prompt Compression as Lévy Walk-Guided Graph Pruning [55.43705665875779]
  RAGPは、多重グラフ上の冗長性を考慮したグラフプルーニングとして、即時圧縮を定式化する。 LongBenchの実験では、RAGPは平均スコア49.3を4倍の圧縮比で達成している。
  論文  参考訳（メタデータ） (2026-05-04T01:41:31Z)
• Testing the assumptions about the geometry of sentence embedding spaces: the cosine measure need not apply [1.1544794958059696]
  Transformerモデルは入力テキストのエンコードとデコードを学び、副作用としてコンテキストトークンの埋め込みを生成する。 言語から埋め込み空間への写像は、同様の概念を表現した単語を、空間の近くにある点に写す。 実際には、この空間の近点に対応する単語は類似または関連しており、さらにその単語は関連しない。
  論文  参考訳（メタデータ） (2025-09-01T16:37:03Z)
• SeqPE: Transformer with Sequential Position Encoding [76.22159277300891]
  SeqPEは、各$n$次元位置指数をシンボルシーケンスとして表現し、軽量なシーケンシャル位置エンコーダを用いて埋め込みを学習する。 言語モデリング、長文質問応答、および2次元画像分類による実験により、SeqPEはパープレキシティ、正確なマッチング(EM)、精度の強いベースラインを超えるだけでなく、手作業によるアーキテクチャ再設計を必要とせず、多次元入力へのシームレスな一般化を可能にする。
  論文  参考訳（メタデータ） (2025-06-16T09:16:40Z)
• Circle-RoPE: Cone-like Decoupled Rotary Positional Embedding for Large Vision-Language Models [49.122200327049676]
  ロータリー位置埋め込み(RoPE)は,大規模言語モデルにおいて相対位置情報を符号化する手法として広く採用されている。 視覚言語モデル(VLM)に拡張されると、RoPEとその変種はテキストと画像トークンの間で相対的な位置依存を強制する。 本稿では,スパイラルなクロスモーダルバイアスを除去する新しい符号化方式であるCircle-RoPEを紹介する。
  論文  参考訳（メタデータ） (2025-05-22T09:05:01Z)
• The Geometry of Meaning: Perfect Spacetime Representations of Hierarchical Structures [0.0]
  3次元ミンコフスキー時空に階層構造を埋め込む高速アルゴリズムが存在することを示す。 我々の結果は、すべての離散データが3次元の完全な幾何学的表現を持っていることを示唆しているように思われる。
  論文  参考訳（メタデータ） (2025-05-07T20:41:06Z)
• node2coords: Graph Representation Learning with Wasserstein Barycenters [59.07120857271367]
  グラフの表現学習アルゴリズムである node2coords を導入する。 低次元空間を同時に学習し、その空間内のノードを座標する。 実験の結果,node2coordで学習した表現は解釈可能であることがわかった。
  論文  参考訳（メタデータ） (2020-07-31T13:14:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。