論文の概要: Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations
- arxiv url: http://arxiv.org/abs/2608.19369v1
- Date: Wed, 19 Aug 2026 18:36:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.381101
- Title: Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations
- Title(参考訳): 言語ホロノミーと統計的透かし:意味保存変換の内部幾何学
- Abstract要約: コンテンツを残しながらテキストを移動させる変換の終端が間違った統計量であることを示す。
我々は言語ループの形式主義を適応させ、意味保存変換の連鎖の不変性が初期状態の安定化器における終点部分とホロノミーにカノニカルに分解することを示す。
検出器の側面には正確なアイデンティティが示されており、残差統計はシードウィンドウが残った位置の数に比例する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Statistical watermarks for language models live in the freedom of the signifier: they choose among tokens that are nearly equivalent in meaning, and they are therefore eroded by exactly those transformations which move the form of a text while leaving its content in place. The literature measures such transformations by their endpoint, through the semantic similarity between the original and the rewritten text. We show that the endpoint is the wrong statistic. Adapting the formalism of linguistic loops, we prove that the invariant of a chain of meaning-preserving transformations factorises canonically into an endpoint part and a holonomy in the stabiliser of the initial state, the second of which the semantic deficit cannot see; the loop rotation is parallel transport on the unit sphere of the embedding space, so that the analogy with the Wilson loop becomes a theorem rather than a figure of speech. On the side of the detector we prove an exact identity: the residual statistic is proportional to the number of positions whose seeding window survived intact, from which the decay law $ρ^{h+1}$ follows as the independent-edit corollary. The identity has a disconcerting consequence, which we confirm to three decimal places: at one and the same retention rate the surviving signal may be one half of the original, one quarter of it, or exactly nothing, according only to where the edits fall.
- Abstract(参考訳): 言語モデルの統計的透かしは、記号の自由に生きており、意味的にほぼ等価なトークンを選択し、従って、その内容を残しながらテキストの形式を移動させる変換によって侵食される。
文献は、元のテキストと書き直されたテキストのセマンティックな類似性を通じて、エンドポイントによってそのような変換を測定する。
エンドポイントが間違った統計値であることを示します。
言語ループの定式化に適応して、意味保存変換の連鎖の不変性は、初期状態の安定化器の終点部分とホロノミーに分解され、その第2の問題は、意味的欠陥が見えないことである;ループ回転は埋め込み空間の単位球面上の平行移動であり、ウィルソンループの類似性は、音声の図形ではなく定理となる。
検出器の側面では、残留統計はシードウィンドウが無傷で残った位置の数に比例し、そこから崩壊法則 $ρ^{h+1}$ が独立編集系として従う。
1と同じ保持率で、生き残った信号は元の信号の半分、元の信号の4分の1、あるいは正確には何もできない。
関連論文リスト
- Planting a Latent Variable in Natural-Looking Text: a More Realistic Test of Belief States in LLMs and Their Link to Concept Geometry [51.99454801210509]
自然に見えるテキストの中に制御可能な潜在変数を配置する。
このコーパスで訓練された小さな変圧器モデルは、我々の植込み潜伏変数に関するベイズ的後続の信念を実際に追跡する。
論文 参考訳(メタデータ) (2026-08-27T09:45:00Z) - Language Has Two Parameters: Narrative-Induced Semantic Plasticity and Phase-Sensitive Interpretation [0.0]
本稿では,同時に活動する意味間の永続的関係が変化することを提案する。
将来のAIエージェントには、特定の個人や関係にインデックスされた永続的なセマンティックステートが必要だ、と同社は主張する。
論文 参考訳(メタデータ) (2026-08-18T17:34:25Z) - MicroVerse: An Instrument for Measuring Self-Authored Identity Drift in Long-Horizon Multi-Agent Language-Model Simulations [47.771518253102975]
MicroVerseは、生成エージェントのアイデンティティドリフトを測定する行動科学機器である。
エージェントは不変の"ソウルファイル"(コア値、モラル境界、パーソナリティ、目標)を持ち、50 x 50の環境に生息する。
反自己偽装は、アイデンティティー修飾の単一の最大の意味圏として現れない。
論文 参考訳(メタデータ) (2026-08-16T16:31:42Z) - Metaphor Tracer: A Theory-Informed Analysis of Hidden States [0.0]
1つのフォワードパスからトレーニングなしで、2つのプロパティですべてのトークン位置をスコア付けします。
aggregator*は、位置がテキスト全体を安定した構成に集約するかどうかを測定する。
differentiator* は、他のトークンがモデルが読み込むように、そのサブ空間に過渡的に変換されるかどうかを判断する。
論文 参考訳(メタデータ) (2026-07-30T16:12:13Z) - Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing [35.76482964927589]
本研究では,概念固有のメモリトレースが1回,1回,1回を算術的に組み合わせて抽出できる線形オブジェクトとなるという仮説を検証した。
そのテストは、著者自身の参照実装に基づいて、報告された最高の編集強度で実行します。
アンラーニング・アズ・コンプライアンス:今日認定された消去は、次の編集後にアーティファクトを認定しない。
論文 参考訳(メタデータ) (2026-07-06T23:45:06Z) - Structure Before Collapse: Transient semantic geometry in next-token prediction [33.942301586178914]
Neural Collapseは、バランスの取れたワンホット分類が、モデル表現を互いに等しく遠くにプッシュする、と予測する。
次世代の予測言語モデルは、主にワンホットラベルでトレーニングされる。
トレーニングの初期に意味幾何学が出現し,共有属性によるクラスタ表現が現れる。
論文 参考訳(メタデータ) (2026-06-25T08:33:34Z) - Embeddings for Preferences, Not Semantics [42.35314862635723]
現代のAIは、参加者が自分の見解を自由形式のテキストとして表現する、集合的な意思決定への扉を開く。
標準テキスト埋め込みは意味的類似度を測定するが、施設位置問題と公正クラスタリングの距離はテクスタイト優先類似度と呼ばれるものを必要とする。
この相関関係を断ち切るために設計された合成トレーニングデータにより、最適スコアラーはニュアンスに支配されたコサインから確実にシフトし、11のオンライン熟考データセットにおける選好予測を大幅に改善することを示す。
論文 参考訳(メタデータ) (2026-05-08T18:15:14Z) - Semantic Shift: the Fundamental Challenge in Text Embedding and Retrieval [39.73839943827917]
トランスフォーマーベースの埋め込みモデルは、可変長のテキストを単一のベクトルにマッピングするプーリングに依存している。
因果関係の欠如は、本質的な、構造的な進化と、テキスト内の意味論の分散である。
論文 参考訳(メタデータ) (2026-03-22T22:58:11Z) - Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression [102.24287051757469]
深部異方性回帰における自己教師付き共分散推定について検討する。
正規分布の間の2-ワッサーシュタイン距離の上界を導出する。
幅広い合成データセットと実データセットに対する実験により、提案された2-ワッサーシュタインと擬似ラベルアノテーションが結合した結果、計算的に安価で正確な深部ヘテロ代用回帰が導かれることが示された。
論文 参考訳(メタデータ) (2025-02-14T22:37:11Z) - Unsupervised Representation Learning from Sparse Transformation Analysis [79.94858534887801]
本稿では,潜在変数のスパース成分への変換を分解し,シーケンスデータから表現を学習することを提案する。
入力データは、まず潜伏活性化の分布として符号化され、その後確率フローモデルを用いて変換される。
論文 参考訳(メタデータ) (2024-10-07T23:53:25Z) - Distributional Semantics, Holism, and the Instability of Meaning [0.0]
大規模言語モデルは、いわゆる分散意味論的アプローチに基づいて構築される。
ホリズムに対する標準的な反対は不安定性の代償である。
言語モデルが示す不安定性は、単語間の関係の構造とスケールによって制約されていると論じる。
論文 参考訳(メタデータ) (2024-05-20T14:53:25Z) - The distribution of syntactic dependency distances [0.13812010983144798]
我々は,構文的依存距離の実際の分布のキャラクタリゼーションに寄与する。
ブレークポイント後に確率減衰が変化することを許容する2つの指数的状態を持つ新しいモデルを提案する。
文の長さやアノテーションのスタイルとは無関係に,20言語すべてにおいて,2段階のモデルが最も可能性の高いモデルであることが判明した。
論文 参考訳(メタデータ) (2022-11-26T17:31:25Z) - Detecting Renewal States in Chains of Variable Length via Intrinsic
Bayes Factors [0.0]
本稿では,各更新状態の妥当性を評価するために,固有ベイズ係数(Intrinsic Bayes Factor)を提案する。
本手法の強みを示すために,2つのバイナリモデルモデルから生成された人工データセットと,言語学の分野から得られた1つの例を分析した。
論文 参考訳(メタデータ) (2021-10-14T14:57:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。