論文の概要: Projectional Decoding: Towards Semantic-Aware LLM Generation
- arxiv url: http://arxiv.org/abs/2605.30054v1
- Date: Thu, 28 May 2026 15:05:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.415308
- Title: Projectional Decoding: Towards Semantic-Aware LLM Generation
- Title(参考訳): プロジェクショナルデコーディング:セマンティック・アウェア LLM 生成を目指して
- Authors: Boqi Chen, José Antonio Hernández López, Aren A. Babikian,
- Abstract要約: 大規模言語モデル(LLM)は、多くのソフトウェア工学(SE)タスクでソフトウェアアーチファクトを生成するためにますます使われています。
既存の制約付き復号法は、構文的正しさを強制し、場合によっては特定の意味規則を強制することができる。
本稿では,ドメインのセマンティクスを直接生成プロセスに統合する新しい概念的フレームワークであるプロジェクショナルデコーディングを提案する。
- 参考スコア(独自算出の注目度): 7.143305283235514
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly used to generate software artifacts across many software engineering (SE) tasks, yet ensuring the semantic validity of these artifacts remains a fundamental challenge. Existing constrained decoding techniques can enforce syntactic correctness and, in some cases, specific semantic rules, but lack a general representation that bridges LLM-generated text with the reasoning required for semantic validation in SE. In this paper, we propose projectional decoding, a novel conceptual framework that integrates domain semantics directly into the generation process by maintaining, alongside text, a partial graph model as the primary artifact representation throughout generation. This abstract representation enables incremental semantic validation by explicitly capturing uncertainty and natively supporting error detection, while guiding generation toward semantically valid outputs with provable guarantees. We present preliminary results on a program generation task which demonstrate the potential of this approach to improve the semantic validity of LLM-generated artifacts. We also discuss how projectional decoding can enable verifiable automation with LLMs across various SE activities.
- Abstract(参考訳): 大規模言語モデル(LLM)は、多くのソフトウェアエンジニアリング(SE)タスクでソフトウェアアーティファクトを生成するためにますます使われていますが、これらのアーティファクトのセマンティックな妥当性を保証することは、依然として根本的な課題です。
既存の制約付き復号法は、構文的正当性を強制し、特定の意味規則を強制するが、SEのセマンティック検証に必要な推論でLLM生成テキストをブリッジする一般的な表現が欠如している。
本稿では,ドメインの意味を生成プロセスに直接統合する新しい概念的フレームワークであるプロジェクショナルデコーディングを提案する。
この抽象表現は、不確実性を明示的に把握し、エラー検出をネイティブにサポートし、証明可能な保証付きセマンティック有効出力に向けて生成を誘導することで、インクリメンタルなセマンティック検証を可能にする。
LLM生成アーティファクトのセマンティックな妥当性を向上させるために,本手法の可能性を実証するプログラム生成タスクの予備的な結果を示す。
また,プロジェクショナルデコーディングによって,様々なSE活動におけるLLMによる検証自動化が実現されるかについても論じる。
関連論文リスト
- Lookahead-then-Verify: Reliable Constrained Decoding for Diffusion LLMs under Context-Free Grammars [17.13122301190815]
本稿では,dLLMに特化して設計された制約付き復号法であるLAVEを提案する。
提案手法は,dLLMの鍵となる特性,すなわち前方通過時の全位置のトークン分布を予測する能力を利用する。
広く使用されている4つのdLLMと3つの代表的なベンチマークによる大規模な実験は、LAVEが既存のベースラインを一貫して上回り、構文的正確性を大幅に改善し、無視可能なランタイムオーバーヘッドを発生させることを示した。
論文 参考訳(メタデータ) (2026-01-31T08:58:15Z) - Position Paper: Programming Language Techniques for Bridging LLM Code Generation Semantic Gaps [3.61356888205659]
本稿では,大規模言語モデルにおける意味的ギャップを埋めるのに,プログラミング手法の原則的統合が不可欠であることを論じる。
PL技術は、LLM生成コードを統計的パターンマッチングから真に信頼性と信頼性の高いレベルまで高めることができる。
論文 参考訳(メタデータ) (2025-07-12T04:32:15Z) - MLLM-Guided VLM Fine-Tuning with Joint Inference for Zero-Shot Composed Image Retrieval [50.062817677022586]
Zero-Shot Image Retrieval (ZS-CIR) メソッドは通常、参照イメージを擬似テキストトークンに変換するアダプタを訓練する。
MLLM-Guided VLM Fine-Tuning with Joint Inference (MVFT-JI) を提案する。
論文 参考訳(メタデータ) (2025-05-26T08:56:59Z) - DALD: Improving Logits-based Detector without Logits from Black-box LLMs [56.234109491884126]
大規模言語モデル(LLM)はテキスト生成に革命をもたらし、人間の文章を忠実に模倣する出力を生成する。
我々は、ブラックボックステキスト検出における最先端性能を再定義する革新的なフレームワークであるDLD(Dis Distribution-Aligned LLMs Detection)を提案する。
DALDは、サロゲートモデルの分布を未知の目標LLMの分布と整合させ、高速モデルの反復に対する検出能力とレジリエンスを向上するように設計されている。
論文 参考訳(メタデータ) (2024-06-07T19:38:05Z) - Generative Context-aware Fine-tuning of Self-supervised Speech Models [54.389711404209415]
生成型大規模言語モデル(LLM)生成コンテキスト情報の利用について検討する。
自己教師型音声モデルの微調整中に生成した情報を抽出する手法を提案する。
本稿では,SLUE と Libri-light のベンチマークを用いて,自動音声認識,名前付きエンティティ認識,感情分析を行う手法を提案する。
論文 参考訳(メタデータ) (2023-12-15T15:46:02Z) - WatME: Towards Lossless Watermarking Through Lexical Redundancy [58.61972059246715]
本研究では,認知科学レンズを用いた大規模言語モデル(LLM)の異なる機能に対する透かしの効果を評価する。
透かしをシームレスに統合するための相互排他型透かし(WatME)を導入する。
論文 参考訳(メタデータ) (2023-11-16T11:58:31Z) - Bridging Code Semantic and LLMs: Semantic Chain-of-Thought Prompting for
Code Generation [22.219645213202178]
本稿では,SeCoT というコードの意味情報を抽出する "Semantic Chain-of-Thought" 手法を提案する。
本研究では,SeCoTが最先端の性能を実現し,大規模モデルやコード生成の可能性を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2023-10-16T05:09:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。