論文の概要: Breakdown of Local Denoising as Semantic Speciation

• arxiv url: http://arxiv.org/abs/2609.38176v1
• Date: Tue, 29 Sep 2026 17:59:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.836629
• Title: Breakdown of Local Denoising as Semantic Speciation
• Title（参考訳）: セマンティック・スペシャレーションとしての局部デノナイジングの破壊
• Abstract要約: 生成モデルは2つの明らかに異なる時間的窓を示す。 様々なフロンティアモデルにおけるそれらの近一致の証拠に動機付けられ、意味情報の空間分布を通してそれらの関係を考察する。
• 参考スコア（独自算出の注目度）: 0.27557793825735016
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The dynamics of generative models exhibit two apparently distinct temporal windows: a speciation window, in which a sample commits to a semantic class, and a nonlocality window, in which local context windows become insufficient for generation. Motivated by evidence of their near-concurrence in a variety of frontier models, we investigate their relationship through the spatial distribution of semantic information. Under a "common cause" hypothesis, we prove that the nonlocality window must lie in the speciation window. This hypothesis postulates that semantic labels explain a fraction of the correlations between distant tokens, a condition that is natural for many real datasets. We further give conditions under which both windows shrink to a single limiting time as system size grows, defining a "phase transition", and verify this behavior analytically in Gaussian mixtures. Together, these results identify conditions under which semantic information explains the concurrence of speciation and nonlocality, connecting two complementary perspectives on the emergence of semantic structure in generative modeling.
• Abstract（参考訳）: 生成モデルのダイナミクスは、標本が意味クラスにコミットする種別ウィンドウと、局所的なコンテキストウィンドウが生成に不十分になる非局所性ウィンドウの2つの明らかに異なる時間ウィンドウを示す。 様々なフロンティアモデルにおけるそれらの近一致の証拠に動機付けられ、意味情報の空間分布を通してそれらの関係を考察する。 共通原因」仮説の下では、非局所性窓は種別窓に置かれなければならないことを証明している。 この仮説は、意味ラベルが、多くの実際のデータセットにとって自然な条件である遠いトークン間の相関関係のごく一部を説明することを仮定している。 さらに、システムサイズが大きくなるにつれて両ウィンドウが1つの制限時間に縮小し、「相転移」を定義し、ガウス混合において解析的にこの挙動を検証する。 これらの結果から,意味情報が相違と非局所性の一致を説明する条件を同定し,生成モデルにおける意味構造の出現に関する2つの相補的視点を接続する。

関連論文リスト

• Spatial Reasoners for Continuous Variables in Any Domain [49.83744014336816]
  本稿では,連続変数に対する空間的推論を生成的認知モデルを用いて行うための枠組みを提案する。 任意のデータドメイン、生成モデルパラダイム、推論戦略から変数マッピングを制御するインターフェースを提供する。
  論文  参考訳（メタデータ） (2025-07-14T19:46:54Z)
• When Does Closeness in Distribution Imply Representational Similarity? An Identifiability Perspective [9.578534178372829]
  モデル分布間の小さなKullback--Leibler分散は、対応する表現が類似していることを保証するものではないことを証明する。 次に、近接性が表現的類似性を意味する分布距離を定義する。 合成実験において、より広いネットワークは我々の距離に近づき、より類似した表現を持つ分布を学習する。
  論文  参考訳（メタデータ） (2025-06-04T09:44:22Z)
• Towards Understanding Text Hallucination of Diffusion Models via Local Generation Bias [76.85949078144098]
  本稿では,拡散モデルが個々のシンボルを正しく生成するが,それらを意味のない方法で組み立てるテキスト幻覚に焦点を当てる。 このような現象は,ネットワークの局所的生成バイアスに起因すると考えられる。 また、ハイパーキューブ上の2層学習パリティポイントを含む特定のケースのトレーニングダイナミクスを理論的に解析する。
  論文  参考訳（メタデータ） (2025-03-05T15:28:50Z)
• SemFlow: Binding Semantic Segmentation and Image Synthesis via Rectified Flow [94.90853153808987]
  セマンティックセグメンテーション(Semantic segmentation)とセマンティックイメージ合成(Semantic image synthesis)は、視覚知覚と生成において代表的なタスクである。 我々は、統一されたフレームワーク(SemFlow)を提案し、それらを2つの逆問題としてモデル化する。 実験の結果,セマンティックセグメンテーションとセマンティック画像合成タスクにおいて,セマンティックセグメンテーションと競合する結果が得られた。
  論文  参考訳（メタデータ） (2024-05-30T17:34:40Z)
• Critical windows: non-asymptotic theory for feature emergence in diffusion models [9.275532709125242]
  我々は,重要なウィンドウと呼ぶ画像生成のための拡散モデルの興味深い性質を理解するための理論を開発する。 本稿では,これらのウィンドウを解析するための公式な枠組みを提案し,強対数凹凸密度の混合から得られるデータに対して,これらのウィンドウを証明可能な有界化が可能であることを示す。 安定拡散に関する予備実験は、クリティカルウィンドウが現実世界の拡散モデルにおける公正さとプライバシー侵害を診断するための有用なツールとして役立つことを示唆している。
  論文  参考訳（メタデータ） (2024-03-03T22:43:47Z)
• Semantic Sensitivities and Inconsistent Predictions: Measuring the Fragility of NLI Models [44.56781176879151]
  State-of-the-art Natural Language Inference (NLI)モデルは、表面形状の変化を保存するマイナーセマンティクスに敏感である。 セマンティックな感度は、平均$textbfin-$と$textbfout-of-$ドメイン設定よりも平均$12.92%と$23.71%のパフォーマンス劣化を引き起こす。
  論文  参考訳（メタデータ） (2024-01-25T14:47:05Z)
• GSMFlow: Generation Shifts Mitigating Flow for Generalized Zero-Shot Learning [55.79997930181418]
  Generalized Zero-Shot Learningは、目に見えないクラスから見えないクラスに意味的な知識を移すことで、目に見えないクラスと見えないクラスの両方から画像を認識することを目的としている。 生成モデルの利点を生かして、見学したクラスから学んだ知識に基づいて、現実的な見知らぬサンプルを幻覚させることは、有望な解決策である。 本研究では,複数の条件付きアフィン結合層からなるフローベース生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-05T04:04:37Z)
• Mitigating Generation Shifts for Generalized Zero-Shot Learning [52.98182124310114]
  一般化ゼロショット学習(英: Generalized Zero-Shot Learning、GZSL)は、学習中に見知らぬクラスが観察できない、見つからないサンプルを認識するために意味情報(属性など)を活用するタスクである。 本稿では,未知のデータ合成を効率よく,効率的に学習するための新しい生成シフト緩和フローフレームワークを提案する。 実験結果から,GSMFlowは従来のゼロショット設定と一般化されたゼロショット設定の両方において,最先端の認識性能を実現することが示された。
  論文  参考訳（メタデータ） (2021-07-07T11:43:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。