論文の概要: Cross-Dialect Generalization Without Retraining: Benchmarks and Evaluation of Schema-Derived Constrained Decoding for MLIR

• arxiv url: http://arxiv.org/abs/2607.18254v1
• Date: Thu, 14 May 2026 02:08:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.090216
• Title: Cross-Dialect Generalization Without Retraining: Benchmarks and Evaluation of Schema-Derived Constrained Decoding for MLIR
• Title（参考訳）: リトレーニングなしのクロスディレクト一般化:MLIRにおけるスキーマ依存型制約付きデコーディングのベンチマークと評価
• Abstract要約: MLIR(Multi-Level Intermediate Representation)は、現代的なMLコンパイラインフラストラクチャ(TensorFlow、JAX/StableHLO、PyTorchインダクタ、IREE)の基盤となる。 MLIRはまた、アプリケーションドメインごとに新しい方言が出荷されるので、方言ごとに微調整されたモデルがスケールしない。 3つの方言にまたがる4つの自然言語-MLIRベンチマークをリリースする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-Level Intermediate Representation (MLIR) underlies modern ML compiler infrastructure (TensorFlow, JAX/StableHLO, PyTorch Inductor, IREE), yet appears only in trace amounts in code-LM pretraining corpora. MLIR is also extensible by design: new dialects ship per application domain, so a fine-tuned model per dialect does not scale. We ask whether inference-time priors derived mechanically from each dialect's Operation Definition Specification (ODS) can substitute for gradient-based adaptation. First, we release four natural-language-to-MLIR benchmarks across three dialects - MLIR-Spec-150, Linalg-Spec-30, StableHLO-Spec-30, and StableHLO-Held-Out-200 - totaling 410 in-scope NL-to-MLIR pairs, plus a 25-program out-of-grammar stress set and a hand-authored n=30 functional reference set, shipped under Apache-2.0 with Gebru datasheets and Croissant 1.0 metadata. Second, we build a three-layer schema-derived constraint stack: a CFG over op signatures(C1), type-domain splits from an ODS-extracted type lattice (C2), and an SSA-scope validator driving five-retry rejection sampling (C3). Porting from arith+func+memref+linalg to StableHLO required no new constraint-layer code. On dialects whose verifier semantics are dominated by structural constraints, schema-derived priors let SmolLM2-1.7B match or exceed 15B-34B code LMs at 8-25x the per-generation speed: on linalg, SmolLM2 reaches 80.0% verify-valid (three-seed mean, n=125), beating CodeLlama-34B, Granite-Code-34B, and StarCoder2-15B by 21-44 percentage points with non-overlapping CIs. On arith+func and on the templated parametric StableHLO-Held-Out-200, where verifier semantics turn on attribute values rather than structure, the same baselines match or beat the SLM; we scope these as non-win cells. We release benchmarks, decoder, all per-prompt generations, and a reproducibility Docker image.
• Abstract（参考訳）: MLIR(Multi-Level Intermediate Representation)は、現代的なMLコンパイラ基盤(TensorFlow、JAX/StableHLO、PyTorch Inductor、IREE)を基盤としているが、コード-LM事前学習コーパスのトレース量にのみ現れる。 新しい方言はアプリケーションドメイン毎に出荷されるので、方言ごとに微調整されたモデルはスケールしない。 我々は,各方言の操作定義仕様(ODS)から機械的に導出される推論時間前処理が,勾配に基づく適応に取って代わるかどうかを問う。 まず、MLIR-Spec-150、Linalg-Spec-30、StableHLO-Spec-30、StableHLO-Held-Out-200という3つの方言にまたがる4つの自然言語-MLIRベンチマークをリリースします。 第2に,オプトシグネチャ(C1)上のCFG,ODS抽出型格子(C2)からのタイプドメイン分割,5回のリトライリジェクションサンプリング(C3)を駆動するSSAスコープ検証器という,3層スキーマ由来の制約スタックを構築した。 arith+func+memref+linalgからStableHLOへの移植は、新しい制約層コードを必要としない。 検証のセマンティクスが構造的制約によって支配される方言では、スキーマ由来の事前は、SmolLM2-1.7Bが8～25倍の速度で15B-34BコードLMと一致するか、または超えるようにしている: linalgでは、SmolLM2は80.0%のバリバリド(3シード平均、n=125)に達し、CodeLlama-34B、Granite-Code-34B、StarCoder2-15Bを21～44ポイント、重複しないCIで打ち負かした。 arith+funcとテンプレート付きパラメトリックのStableHLO-Held-Out-200では、検証セマンティクスが構造ではなく属性値をオンにする。 ベンチマーク、デコーダ、すべてのプロンプト世代、再現性のあるDockerイメージをリリースしています。

関連論文リスト

• SA-Bench: Evaluating Semantic Alignment in LLM-Based Paper Reproduction [12.71956248550879]
  LLMエージェントは再生コードを生成することができるが、科学的に不誠実な実装をしばしば生成する。 我々は、この障害モードをセマンティックドリフトと定義し、生成されたコードは紙の仕様から静かに分岐する。 ICLR、ICML、NeurIPS 2025の30論文をカバーする診断ベンチマークであるSemanticAlign-Benchを紹介した。
  論文  参考訳（メタデータ） (2026-08-25T08:48:48Z)
• Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
  内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。 生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。 現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
  論文  参考訳（メタデータ） (2026-08-17T09:53:27Z)
• Write-Protected Discrete Bottlenecks for Language-Grounded World Models: A Structural Limitation and Sufficient Fix [0.0]
  我々は,Gumbel-softmaxベースの離散シンボルボトルネックの故障を防止するための3つの制約セットを特徴付ける。 3つのエンコーダアーキテクチャで79-100%のセマンティックバインディングを実現し,32種すべてにゼロシンボル崩壊を示す。
  論文  参考訳（メタデータ） (2026-07-09T09:55:17Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• Text2DSL: LLM-Based Code Generation for Domain-Specific Languages [78.29352305480285]
  本稿では、自然言語記述からDSLコードを自動的に生成するタスクであるText2を定式化する。 我々は,PolkitBenchデータセットを導入し,4,204個の自然言語対を検証した。
  論文  参考訳（メタデータ） (2026-06-21T16:44:20Z)
• Measuring Maximum Activations in Open Large Language Models [60.3514350516308]
  集中度, MoE, 視覚言語, 中間訓練, 命令調整型変異にまたがる8つのオープンファミリーから27個のチェックポイントで, グローバルおよび階層的に最大値を測定した。 最大アクティベーションサイズは、単純なサイズの副産物ではなく、ファミリー、アーキテクチャ、トレーニングステージに結びついているモデル特性である、と結論付けます。
  論文  参考訳（メタデータ） (2026-05-15T03:31:51Z)
• XFP: Quality-Targeted Adaptive Codebook Quantization with Sparse Outlier Separation for LLM Inference [0.0]
  XFPはコードブックのサイズ、アウトリーチ予算、レイヤごとのパッケージを自動的に決定する。 XFPはワークステーションハードウェア上で128 tok/sのシングルストリームデコードに達する。 対象メモリエンベロープに収まらないモデルに対しては、H-Processを示す。
  論文  参考訳（メタデータ） (2026-05-14T13:52:31Z)
• Mining Subscenario Refactoring Opportunities in Behaviour-Driven Software Test Suites: ML Classifiers and LLM-Judge Baselines [1.9537983097153042]
  振る舞い駆動開発(BDD)ソフトウェアテストスイートは、重複したステップサブシーケンスを蓄積します。 3つのパブリッシュパターンが利用可能である(ファイルの背景、再利用可能な再利用可能なシナリオ呼び出し、組織間の共有高レベルステップ)。 繰り返し続くサブシーケンスが抽出に値するか、どのメカニズムが適用されるかを自動化する前の作業はありません。
  論文  参考訳（メタデータ） (2026-05-14T08:38:04Z)
• Delta-Based Neural Architecture Search: LLM Fine-Tuning via Code Diffs [48.83701310501069]
  大規模言語モデル(LLM)は、ニューラルアーキテクチャ生成の強力な可能性を示している。 既存のアプローチは、ゼロから完全なモデル実装を生成します。 我々はデルタ符号生成法を提案し、細調整されたLLMはコンパクトな統一差分を生成する。
  論文  参考訳（メタデータ） (2026-05-06T13:32:05Z)
• Resource-Efficient Iterative LLM-Based NAS with Feedback Memory [49.44875022114861]
  ニューラルアーキテクチャサーチ(NAS)はネットワーク設計を自動化するが、従来の手法ではかなりの計算資源を必要とする。 本稿では,大規模言語モデル(LLM)を活用して,畳み込みニューラルネットワークアーキテクチャを反復的に生成し,評価し,洗練するクローズドループパイプラインを提案する。
  論文  参考訳（メタデータ） (2026-03-12T16:00:22Z)
• Workflows vs Agents for Code Translation [2.102846336724103]
  大規模言語モデル(LLM)は自動化への道を提供するが、HDLコードの限られたトレーニングによって、エンドツーエンドのトランスパイルが不安定になり、構文エラーが発生しやすい。 LLM-to-HDLパイプラインにおける構文修復のための2つの手法の比較を行った。これは、一定の操作列に従う構造化された専門家設計フローと、モデルコンテキストプロトコル(MCP)を用いたより自律的なエージェントアプローチである。 3つのモデルスケールにまたがって、エージェント的アプローチは、初期構文エラーを解決し、パイプラインを通過する候補の数を増やすのに効果的である。
  論文  参考訳（メタデータ） (2025-12-15T20:35:11Z)
• Improving Mandarin End-to-End Speech Recognition with Word N-gram Language Model [57.92200214957124]
  外部言語モデル(LM)は、エンドツーエンド(E2E)自動音声認識(ASR)システムの音声認識性能を向上させることができる。 単語レベルの格子をオンザフライで構築し,可能なすべての単語列を考慮可能な,新しい復号アルゴリズムを提案する。 提案手法は,N-gram LMやニューラルネットワーク LM など,サブワードレベルのLMを一貫して上回る。
  論文  参考訳（メタデータ） (2022-01-06T10:04:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。