論文の概要: Heaviside Continuity of Rolling Coefficients for Eliminating Epistemic Entropy in Large Language Models
- arxiv url: http://arxiv.org/abs/2607.04562v1
- Date: Mon, 06 Jul 2026 00:29:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.980924
- Title: Heaviside Continuity of Rolling Coefficients for Eliminating Epistemic Entropy in Large Language Models
- Title(参考訳): 大規模言語モデルにおけるエピステミックエントロピー除去のための圧延係数のヘヴィサイド連続性
- Authors: MY Pitsane, Hope Mogale,
- Abstract要約: Heaviside Continuity of Rolling Coefficients (HCRC) は検証ファーストな実行フレームワークである。
これは、ヘビサイドゲートが支配する述語による状態遷移として推論を再構成する。
HCRCは、モデルの信頼性と並列ワーカーアーキテクチャからの独立した検証信号を組み合わせることで、正しい予測が満たされた場合にのみ実行を前進させることができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) generate fluent outputs that can be wrong. Unlike humans, who often exhibit cues when providing false information, LLMs produce errors that are difficult to detect because autoregressive decoding provides no mechanism for verifying intermediate reasoning before state progression. We introduce Heaviside Continuity of Rolling Coefficients (HCRC), a verification-first execution framework that reformulates inference as predicate-gated state transitions governed by a Heaviside Gate. HCRC combines model confidence with independent verification signals from a parallel worker architecture, allowing execution to advance only when predefined correctness predicates are satisfied. This prevents invalid intermediate states from propagating, reducing epistemic entropy without modifying the underlying model. We evaluate HCRC on software-engineering and reasoning tasks across thirteen proposers from four providers. On capable proposers, the gate reduces the false-completion rate (FCR) from 4--7% to 0% while remaining latency-competitive and, in some settings, faster than the unwrapped model. On weaker proposers, it converts false completions into honest halts instead of corrupting downstream state. Beyond benchmarking, HCRC has operated for months as the production control plane of an agentic coding environment, authorizing file mutations, verification-driven progress reporting, and memory compaction. These results establish HCRC as a general framework for verification-driven LLM execution, showing that reliable reasoning can be achieved through principled execution control rather than model scale alone.
- Abstract(参考訳): 大規模言語モデル(LLM)は、誤りとなる可能性のある流動的な出力を生成する。
偽情報を提供するときにしばしば手がかりを示す人間とは異なり、自己回帰復号法では状態進行前の中間推論を検証するメカニズムがないため、LLMは検出が難しいエラーを発生させる。
本稿では,Heaviside Gateが支配する述語ゲート状態遷移として推論を再構成する検証ファーストな実行フレームワークであるHeaviside Continuity of Rolling Coefficients(HCRC)を紹介する。
HCRCは、モデル信頼性と並列ワーカーアーキテクチャからの独立した検証信号を組み合わせることで、事前定義された正しさの予測が満たされた場合にのみ実行を前進させることができる。
これにより、無効な中間状態が伝播するのを防ぎ、基礎となるモデルを変更することなくててんかんのエントロピーを減少させる。
ソフトウェアエンジニアリングと推論タスクにおけるHCRCの評価を,4つのプロバイダから13の提案者を対象に行った。
有能なプロジェクタでは、FCR(False-completion rate)を4--7%から0%に削減し、遅延競合を保ち、いくつかの設定では、未実装のモデルよりも高速である。
より弱いプロジェクタでは、偽の完了を下流の状態を破損させる代わりに、誠実な停止に変換する。
HCRCは、ベンチマーク以外にも、エージェントコーディング環境のプロダクションコントロールプレーンとして、ファイルの修正、検証駆動の進捗報告、メモリのコンパクト化など、数ヶ月にわたって運用されてきた。
これらの結果はHCRCを検証駆動型LLM実行の一般的なフレームワークとして確立し、モデルスケールのみでなく、原理化された実行制御によって信頼性の高い推論を実現することを示した。
関連論文リスト
- LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳(メタデータ) (2026-05-02T11:31:33Z) - Analyzing Chain of Thought (CoT) Approaches in Control Flow Code Deobfuscation Tasks [39.1560117358229]
CoT(Chain-of-Thought)プロンプトは、コード分析に適した明示的でステップバイステップの推論を通じて導かれる。
制御フロー難読化(CFF)やOpaque Predicates,それらの組み合わせなど,制御フローの難読化に重点を置いている。
単純なプロンプトに比べて,CoTプロンプトは難燃性クオリティを著しく向上することを示す。
論文 参考訳(メタデータ) (2026-04-16T06:08:07Z) - SERC: LDPC-Inspired Semantic Error Correction for Retrieval-Augmented Generation [3.53018552538156]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、その信頼性は幻覚によって著しく損なわれている。
検索強化生成(SERC)のためのLDPCにインスパイアされた意味的誤り訂正を提案する。
我々は,テキスト生成過程を意味ノイズチャネルとして再構成し,生成した応答をノイズ破損したコードワードとして扱う。
論文 参考訳(メタデータ) (2026-04-12T09:09:46Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - ProtoDCS: Towards Robust and Efficient Open-Set Test-Time Adaptation for Vision-Language Models [32.840734752367275]
Prototype-based Double-Check separation (ProtoDCS)はOSTTAの堅牢なフレームワークである。
csIDとcsOODを分離し、ビジョン言語モデルのcsIDデータへの安全かつ効率的な適応を可能にする。
ProtoDCSは、既知のクラス精度とOOD検出メトリクスの両方を大幅に向上させる。
論文 参考訳(メタデータ) (2026-02-27T03:39:02Z) - MARS: Unleashing the Power of Speculative Decoding via Margin-Aware Verification [7.935725883885573]
Speculative Decoding (SD)は、自動回帰型大言語モデル(LLM)推論をデカップリングして高速化する。
対象モデルの局所的決定性に適応する訓練不要でドメインに依存しない検証戦略であるMargin-Aware Speculative Verificationを提案する。
本手法は,目標ロジットから直接測定した決定安定性の検証を行い,厳密な検証が最小限の利益をもたらす場合にのみ拒否を緩和する。
論文 参考訳(メタデータ) (2026-01-21T22:03:06Z) - VIRO: Robust and Efficient Neuro-Symbolic Reasoning with Verification for Referring Expression Comprehension [51.76841625486355]
Referring Expression (REC) は、自然言語クエリに対応する画像領域をローカライズすることを目的としている。
最近のニューロシンボリックRECアプローチは、大規模言語モデル(LLM)と視覚言語モデル(VLM)を利用して構成推論を行う。
推論ステップ内に軽量な演算子レベルの検証器を組み込む,ニューロシンボリックなフレームワークであるVIROを紹介する。
論文 参考訳(メタデータ) (2026-01-19T07:21:19Z) - R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。
CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。
トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
論文 参考訳(メタデータ) (2025-07-23T08:14:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。