論文の概要: Autoformalization for Ambiguous Inputs: Precision, Coverage, and Cost across SQL and Logical Forms
- arxiv url: http://arxiv.org/abs/2611.00340v1
- Date: Fri, 30 Oct 2026 20:16:19 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:02:07.481398
- Title: Autoformalization for Ambiguous Inputs: Precision, Coverage, and Cost across SQL and Logical Forms
- Title(参考訳): 曖昧な入力のためのオートフォーマル化:SQLおよび論理形式間の精度、カバレッジ、コスト
- Abstract要約: エージェントシステムは、曖昧さと推論コストを管理しながら、自然言語要求を実行可能なアーティファクトに変換する。
我々は,不明瞭な入力に対して, onsql と first-order logic benchmark の7つの自動形式化を評価する。
DRIFTは原モデルのトークンコストの2.03倍で15.98F1ポイントを獲得し、LoCは原モデルのトークンの18.65倍と低いF1を使用する。
- 参考スコア(独自算出の注目度): 0.2449909275410288
- License:
- Abstract: Agentic systems translate natural-language requests into executable artifacts while managing ambiguity and inference cost. We evaluate seven autoformalization workflows on SQL and first-order logic benchmarks for ambiguous inputs. Across five SQL workflows, the raw model leads with F1 of 53.35% on AMBROSIA and 60.85% on AmbiQT. On AmP, DRIFT gains 15.98 F1 points over the raw model at 2.03 times its token cost, whereas LoC uses 18.65 times the raw model's tokens with lower F1. Within AutoCedar, structured interpretation lowers F1 by 6.44-6.95 points and raises AMBROSIA token use 2.2-fold. Paired reviewer comparisons show modest Kimi K3 gains of 1.93 points on AMBROSIA and 2.04 on AmbiQT. Clear-ambiguous AMBROSIA analysis shows greater relative stability for AutoCedar, with a smaller F1 drop than the raw model (11.46 vs. 16.68 points), alongside lower aggregate F1 (50.16% vs. 53.35%). Autoformalization alone does not guarantee robustness to ambiguity: the tested additions offer no uniformly effective remedy, making accuracy, ambiguity handling, and inference cost joint design requirements.
- Abstract(参考訳): エージェントシステムは、曖昧さと推論コストを管理しながら、自然言語要求を実行可能なアーティファクトに変換する。
我々は、SQL上の7つの自動形式化ワークフローと、曖昧な入力のための一階述語論理ベンチマークを評価した。
5つのSQLワークフローで、生モデルはAMBROSIAで53.35%、AmbiQTで60.85%となる。
AmPでは、DRIFTは原モデルのトークンコストの2.03倍で15.98F1ポイントを獲得し、LoCは原モデルのトークンの18.65倍と低いF1を使用する。
AutoCedarでは、構造化された解釈はF1を6.44-6.95ポイント下げ、AMBROSIAトークンの使用を2.2倍にする。
Paired Reviewer comparisons shows modest Kimi K3 gains of 1.93 points on AMBROSIA and 2.04 on AmbiQT。
明快なAMBROSIA分析により、オートセダーの相対安定性が向上し、F1の減少は原モデル(11.46対16.68点)よりも小さく、F1が低い(50.16%対53.35%)。
テストされた追加は、均一に効果的な治療法を提供しず、正確性、あいまいさの扱い、推論コストの共同設計要件を提供します。
関連論文リスト
- State of Thought Enables Endogenous Reasoning [48.902117018115256]
大規模言語モデル(LLM)の能力向上のための主要なアプローチとして、テスト時推論が登場した。
LLMにおける内在的推論を可能にする新しい推論パラダイムであるState of Thoughtを提案する。
SoTは平均ベースライン精度を一貫して改善し,生成トークンを62.6%,エンドツーエンドのレイテンシを44.6%削減した。
論文 参考訳(メタデータ) (2026-09-13T05:55:03Z) - Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳(メタデータ) (2026-08-17T09:53:27Z) - NOVA: Symbolic Regression Discovery of Interpretable Car-Following and Lane-Change Models with Driver Heterogeneity [1.889930012459364]
NOVAは自動車追尾および車線変更構造のための自律的な象徴的回帰フレームワークである。
NGSIM I-80とUS-101データセットからの4,765,788のアクティブな運転観察に適用される。
NOVAは502人のドライバーに対して厳格な車両IDホールドアウトの下で67.4%のバランスの取れた精度を達成した。
論文 参考訳(メタデータ) (2026-06-09T08:47:39Z) - How Small Can You Go? LoRA Fine-Tuning 270M-8B Models for Merchant Information Extraction in Financial Transactions [1.7133809948345597]
4つのモデルファミリーにまたがる24種類のモデル変異について、デプロイに焦点を当てた研究を行う。
製造適性を評価するため,精度,スループット,トレーニングコスト,ハードウェア動作を評価する。
正確性とレイテンシの要件を越えたデプロイメントレコメンデーションを提供します。
論文 参考訳(メタデータ) (2026-06-06T08:32:38Z) - From Correlation to Cause: A Five-Stage Methodology for Feature Analysis in Transformer Language Models [0.0]
変換言語モデルにおける因果的特徴分析のための5段階の手法を提案する。
Indirect Object Identification (IOI) タスクを実行するGPT-2のエンド・ツー・エンドを実証する。
論文 参考訳(メタデータ) (2026-05-21T13:25:16Z) - Democratizing AI with Small Language Models: Structured Benchmarking and Parameter-Efficient Fine-Tuning for Local Deployment [0.0]
135M と 3B パラメータ間の9つのオープンウェイト言語モデルを,局所的な配置を構造化したベンチマークで評価した。
共有パラメータ効率の微調整パイプラインは、4ビットのNF4量子化とDoRA/LoRAスタイルのアダプタを用いたモデルのサブセットをNVIDIA L4クラス予算で適応する。
ベース評価では、Qwen Coder 3Bが75.67%、Qwen2.5 1.5Bが67.10%、Qwen3.5 2Bが64.98%、Granite 3.3 2Bが64.61%である。
論文 参考訳(メタデータ) (2026-05-05T02:36:09Z) - Evaluating Small Language Models for Front-Door Routing: A Harmonized Benchmark and Synthetic-Traffic Experiment [0.05586191108738562]
小型言語モデル(SLM)は、サブ秒、ゼロマージナルコスト、セルフホストタスクの分類に十分な推論能力を持つ。
Study 1はPhi-3.5-mini、Qwen2.5-1.5B、Qwen-2.5-3Bを同一のAzure T4ハードウェア、サービススタック、量子化、固定60ケースコーパスで同期したオフラインベンチマークである。
研究2は、合成トラフィック下で事前登録された4本腕ランダム化実験であり、有効サンプルサイズは腕あたり60ケースである。
論文 参考訳(メタデータ) (2026-03-26T15:57:46Z) - BiRQA: Bidirectional Robust Quality Assessment for Images [49.74447451098852]
フル参照画像品質評価(FR IQA)は、画像圧縮、復元、生成モデリングにおいて重要である。
本稿では、双方向の多スケールピラミッド内で4つの高速補完特徴を処理するコンパクトFR IQA計量モデルであるBiRQAを提案する。
5つのパブリックFR IQAベンチマークでは、BiRQAは以前のSOTAモデルよりも3倍高速で動作しながら、以前の状態(SOTA)より優れ、あるいは一致している。
論文 参考訳(メタデータ) (2026-02-23T20:52:56Z) - Does higher interpretability imply better utility? A Pairwise Analysis on Sparse Autoencoders [63.544453925182005]
3つの言語モデルで90のSAEをトレーニングし、解釈可能性と操舵性を評価します。
解析の結果,比較的弱い正の相関(tau b approx 0.298)しか示さず,解釈性は操舵性能の指標として不十分であることが示唆された。
本稿では,特徴量の増幅が次のトークン分布に与える影響を計測するデルタトークン信頼性(Delta Token Confidence)という新しい選択基準を提案する。
論文 参考訳(メタデータ) (2025-10-04T04:14:50Z) - MobileLLM-R1: Exploring the Limits of Sub-Billion Language Model Reasoners with Open Training Recipes [60.57770396565211]
強い推論能力は、はるかに少ないデータで実現可能であることを示す。
MobileLLM-R50MのAIMEスコアは15.5であり、OLMo-2-1.48Bは0.6、SmolLM-2-1.7Bは0.3である。
論文 参考訳(メタデータ) (2025-09-29T15:43:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。