論文の概要: Word-Level Text Unmixing via Evidence-Preserving Ownership Routing with Language Models
- arxiv url: http://arxiv.org/abs/2610.06603v1
- Date: Mon, 05 Oct 2026 16:12:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 00:18:05.619011
- Title: Word-Level Text Unmixing via Evidence-Preserving Ownership Routing with Language Models
- Title(参考訳): Evidence-Preserving Ownership Routing with Language Models (英語)
- Abstract要約: 我々はWord-Level Text Unmixingの課題を形式化する。
語彙的証拠が完全に観察された場合、語彙的再生から所有権推論を分離することは、直接生成の信頼できる代替手段であることを示す。
- 参考スコア(独自算出の注目度): 4.741477316103597
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text from multiple sources can become interleaved into a single sequence when attribution metadata is lost, such as overlapping speech transcripts, document reading flows, or concurrent agent streams. We formalize this challenge as Word-Level Text Unmixing: given an interleaved lexical stream and source count K, recover the original source sequences while preserving every word occurrence and its within-source order exactly. Directly generating separated texts with LLMs can omit, duplicate, or hallucinate words, violating this exact-reconstruction objective. We therefore propose Evidence-Preserving Ownership Routing (EPOR), which decouples source-ownership prediction from reconstruction. EPOR adapts a causal LLM to predict canonical ownership routes conditioned on the mixed stream and prior routing decisions. At inference, completion-safe constrained decoding is combined with deterministic indexed reconstruction, yielding structurally valid K-source partitions that preserve every observed occurrence exactly once. We also introduce UNMIXBENCH, covering controlled synthetic mixtures, timestamp-derived speech from AMI and ICSI, layout-derived document streams from ReadingBank, and simulated concurrent digital outputs. Across five evaluation tracks, a 4B EPOR model achieves the lowest mean minimum-permutation word error rate among finetuned baselines, reducing the five-track mean by 22.3% relative to compact source-array generation and remaining competitive with zero-shot frontier LLMs. These results show that when lexical evidence is fully observed, separating ownership inference from lexical regeneration provides a reliable alternative to direct generation.
- Abstract(参考訳): 複数のソースからのテキストは、重複する音声書き起こし、文書読取フロー、並行エージェントストリームなどの属性メタデータが失われると、単一のシーケンスにインターリーブされる。
我々は、この課題をWord-Level Text Unmixingとして定式化する: インターリーブされた語彙ストリームとソースカウントKを与えられた場合、すべての単語の発生とソース内順序を正確に保存しながら、元のソースシーケンスを復元する。
LLMで分離されたテキストを直接生成すると、この正確な再構成の目的に反する、単語を省略、複製、あるいは幻覚することができる。
そこで本稿では,ソース所有者の予測を再構築から切り離したエビデンス保存オーナシップルーティング(EPOR)を提案する。
EPORは因果LLMを適用して、混合ストリームと事前のルーティング決定で条件付けられた標準オーナシップルートを予測する。
推測では、完了安全制約付き復号と決定論的インデックス化復号が組み合わされ、すべての観測された事象を正確に1度だけ保存する構造的に有効なKソース分割が得られる。
また、UNMIXBENCHを導入し、制御された合成混合物、AMIとICSIのタイムスタンプ由来の音声、ReadingBankのレイアウト由来の文書ストリーム、同時デジタル出力のシミュレーションについて紹介する。
5つの評価トラックにわたって、4B EPORモデルは、微調整されたベースラインの中で最低平均最小置換語エラー率を達成し、コンパクトなソースアレイ生成に対して5トラック平均を22.3%削減し、ゼロショットフロンティアLLMと競合し続ける。
これらの結果は、語彙的証拠が完全に観察されると、語彙的再生から所有権推論を分離することで、直接生成に代わる信頼できる代替手段が提供されることを示している。
関連論文リスト
- Hierarchical Continuous Diffusion Language Models [50.34180702812139]
階層型連続拡散言語モデル(HC-DLM)を提案する。
HC-DLMは離散トークン生成と連続的な潜在軌道を1つの原理化過程で結合する。
これは、一致したモデルサイズでの離散的かつ連続的な拡散ベースライン、スドゥークとカウントダウンのパズル精度、およびLM1Bの生成パープレキシティを向上する。
論文 参考訳(メタデータ) (2026-10-01T17:59:39Z) - A Hybrid Hierarchical 1D-CNN-BiLSTM Framework for Extractive Summarization of Biomedical and Clinical Text [0.39146761527401436]
大規模な言語モデルでは抽象的な要約は極めて流動的であるが、生成された要約は事実を幻覚させることがある。
パイプラインから生成を除去し,要約を抽出文選択としてフレーミングすることで,この問題に対処する。
我々のアーキテクチャはCNNやLSTMのベースラインよりも優れており、Ablationsはより広い畳み込み受容領域が文のスコアリングを改善することを示している。
論文 参考訳(メタデータ) (2026-09-11T19:49:33Z) - Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳(メタデータ) (2026-06-24T15:58:11Z) - Faithful by Construction: Claim-Anchored Attribution for Multi-Document Summarization [1.1168121941015015]
Claim-Anchored Multi-Docment Summarization framework (CAMS)
Claim-Anchored Multi-Docment Summarization framework (CAMS)
論文 参考訳(メタデータ) (2026-06-22T22:39:08Z) - Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs Distributional Metrics [49.443264461057645]
拡散および連続フローベースの言語モデルは、言語モデリングに対する非自己回帰的な主要な代替手段として現れている。
両方のパラダイムの進歩は、生成的複雑度(gen-PPL)によって圧倒的に追跡される。
我々は、この指標は正しくないと主張している。構築により、gen-PPLは、文法性やセマンティックコヒーレンスではなく、スコアARの下でのみ予測可能性を測定する。
論文 参考訳(メタデータ) (2026-06-07T02:35:56Z) - A Komi-Yazva--Russian Parallel Corpus and Evaluation Protocol for Zero- and Few-Shot LLM Translation [0.0]
我々は,最初のコミヤズヴァ-ロシア並列コーパスを明示的な評価プロトコルとともに提示する。
データセットには、74の物語テキストから457の一致した文対が含まれている。
我々はこの設定を用いて、Komi-Yazva-to- Russian翻訳における近代的な大規模言語モデルの比較を行う。
論文 参考訳(メタデータ) (2026-06-04T17:26:38Z) - Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation [51.55755193937205]
提案するQREAMは,検索した文書を事実を保存しながら質問指向のスタイルで整列するスタイル制御リライタである。
本フレームワークは,(1) 反復的書き換え探索にスタイリスティックシードを用いたQREAM-ICL,(2) ICL出力から抽出した軽量学生モデルQREAM-FTの2段階からなる。
論文 参考訳(メタデータ) (2026-04-19T08:39:21Z) - DiffuRank: Effective Document Reranking with Diffusion Language Models [71.16830004674513]
拡散言語モデル(dLLM)に基づいて構築されたフレームワークであるDiffuRankを提案する。
dLLMは、左から右への順序に制約されないより柔軟なデコーディングと生成プロセスをサポートする。
モデルサイズが類似した自己回帰LDMに匹敵する性能を示す。
論文 参考訳(メタデータ) (2026-02-13T02:18:14Z) - RetroLLM: Empowering Large Language Models to Retrieve Fine-grained Evidence within Generation [21.764973680014368]
RetroLLMは、検索と生成を単一の凝集プロセスに統合する統合フレームワークである。
制約付きエビデンス生成の過程での偽プルーニングを軽減するために,階層的FM-Index制約を導入する。
5つのオープンドメインQAデータセットの実験では、ドメイン内タスクとドメイン外タスクの両方にわたって、RetroLLMの優れたパフォーマンスが示されている。
論文 参考訳(メタデータ) (2024-12-16T16:03:25Z) - Extractive Summarization as Text Matching [123.09816729675838]
本稿では,ニューラル抽出要約システムの構築方法に関するパラダイムシフトを作成する。
抽出した要約タスクを意味テキストマッチング問題として定式化する。
我々はCNN/DailyMailの最先端抽出結果を新しいレベル(ROUGE-1の44.41)に推し進めた。
論文 参考訳(メタデータ) (2020-04-19T08:27:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。