論文の概要: Structure Tax: How Structured Output affects LLMs Performance

• arxiv url: http://arxiv.org/abs/2610.12056v1
• Date: Thu, 08 Oct 2026 14:39:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.081288
• Title: Structure Tax: How Structured Output affects LLMs Performance
• Title（参考訳）: 構造税:構造出力がLLMのパフォーマンスに与える影響
• Abstract要約: 先行研究は、その結果の精度損失を構造税として扱います。」 モデル,データセット,スキーマのバッテリ評価,タスク精度の測定,信頼性校正,隠れ状態形状について検討する。 この結果から, 適切に設計された構造化フォーマットは, 自由形式の性能に適合するか, あるいは超越するかが示唆された。
• 参考スコア（独自算出の注目度）: 0.9493694015314839
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Deploying large language models in production often requires constraining outputs to structured formats such as JSON or XML, and prior work treats the resulting accuracy loss as an inherent `structure tax'. We re-examine this claim by evaluating a battery of models, datasets and schemas, measuring task accuracy, confidence calibration, and hidden-state geometry. The tax turns out to depend on schema design rather than on structure per se: reasoning-first field ordering matches or exceeds free-form accuracy, while answer-first ordering causes steep drops, particularly in smaller models. Format sensitivity scales inversely with a task's own structural constraints, and schemas that preserve reasoning order also improve calibration with CKA showing greater separability between correct and incorrect representations in middle transformer layers. Our findings indicate that properly designed structured formats can match or exceed free-form performance, reframing the critical question from `whether to structure' to `how to structure' for optimal reasoning preservation.
• Abstract（参考訳）: 大規模な言語モデルを本番環境にデプロイするには、JSONやXMLなどの構造化フォーマットに出力を制約する必要があることが多い。 我々は、モデル、データセット、スキーマのバッテリの評価、タスクの正確性の測定、信頼性の校正、隠れ状態の幾何によって、この主張を再検討する。 推論ファーストのフィールドオーダリングは一致するか、フリーフォームの精度を超えるが、回答ファーストのオーダリングは特に小さなモデルでは急降下を引き起こす。 フォーマットの感度はタスク自身の構造的制約と逆スケールし、推論順序を保存するスキーマはCKAによるキャリブレーションも向上し、中間トランスフォーマー層における正しい表現と間違った表現の分離性が向上する。 この結果から, 適切に設計された構造化形式は, 「構造」 から「構造」 への批判的疑問を解き明かして, 最適な推論保存を行うことが可能であることが示唆された。

関連論文リスト

• Where vs What: Decomposing Structural and Content Failures in LLM-Generated Structured Outputs [15.823269213947347]
  本稿では,構造忠実度と内容精度を計測するフレームワークであるStructure-Content Decomposition(SCD)を紹介する。 ネストされたタスクとテーブルタスクを6つのモデル(フロンティアに7B)に適用すると、一貫した現象が明らかになる。 我々は,SA-RLVRを提案し,SCDメトリクスを学習のための検証可能な報酬に変換する。
  論文  参考訳（メタデータ） (2026-08-26T04:32:06Z)
• Empirical Study for Structured Output Control in LLMs for Software Engineering [13.096361151631427]
  期待されるフォーマットに反する意味論的に正しい出力は、システムの観点から、間違った答えと区別できないものである。 本報告では,4つのSEタスクにまたがる構造的信頼性の体系的評価を行う。 LLM駆動誤差における構造的忠実度と意味的正しさを両立させるアプローチの必要性を強調した。
  論文  参考訳（メタデータ） (2026-06-08T12:13:58Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• FMBench: Adaptive Large Language Model Output Formatting [49.52930069696333]
  適応型マークダウン出力フォーマットのベンチマークであるFMBenchを提案する。 2つのモデルファミリーの実験は、SFTが一貫してセマンティックアライメントを改善していることを示している。 結果はまた、意味的目的と構造的目的の間に固有のトレードオフを明らかにします。
  論文  参考訳（メタデータ） (2026-02-06T04:42:06Z)
• Beyond Output Critique: Self-Correction via Task Distillation [36.44752912823049]
  本稿では,ソリューションの洗練に先立ってタスク抽象化の中間段階を導入するフレームワークを提案する。 入力と初期応答が与えられた後、モデルはまず、主要な変数、制約、問題構造をキャプチャする構造化テンプレートにタスクを蒸留する。 この抽象化により、解のインスタンス化が導かれ、タスクのより明確な理解において、その後の応答がグラウンド化される。
  論文  参考訳（メタデータ） (2026-01-31T19:15:41Z)
• AlphaFold Database Debiasing for Robust Inverse Folding [58.792020809180336]
  Debiasing Structure AutoEncoder (DeSAE)を導入し、故意に破損したバックボーンジオメトリからネイティブライクなコンフォーメーションを再構築することを学ぶ。 推測において、DeSAEをAFDB構造に適用すると、逆折り畳み性能を著しく向上する偏りのある構造が生成される。
  論文  参考訳（メタデータ） (2025-06-10T02:25:31Z)
• StructTest: Benchmarking LLMs' Reasoning through Compositional Structured Outputs [78.84060166851805]
  StructTestは、大規模な言語モデル(LLM)を合成命令に従って構造化出力を生成する能力に基づいて評価する、新しいベンチマークである。 評価はルールベースの評価器を用いて決定的に行われ、新しいタスクやデータセットに容易に拡張できる。 StructTestは、Deepseek-V3/R1やGPT-4oといったトップパフォーマンスモデルでも、依然として難しいままです。
  論文  参考訳（メタデータ） (2024-12-23T22:08:40Z)
• Autoregressive Structured Prediction with Language Models [73.11519625765301]
  本稿では, PLM を用いた自己回帰的手法を用いて, モデル構造を行動列として記述する。 我々のアプローチは、私たちが見てきた全ての構造化予測タスクにおいて、新しい最先端を実現する。
  論文  参考訳（メタデータ） (2022-10-26T13:27:26Z)
• Structural Bias for Aspect Sentiment Triplet Extraction [15.273669042985883]
  アスペクト感情三重項抽出(ASTE)には構造バイアスが利用され,性能が向上した。 構造バイアスを明示的に組み込むことは効率に悪影響を及ぼすが、事前訓練された言語モデル(PLM)はすでに暗黙的な構造を捉えることができる。 そこで本研究では,PLMにおける構造バイアスを統合するためのアダプタと,低コストで計算可能な相対的位置構造を用いて,効率上の問題に対処することを提案する。
  論文  参考訳（メタデータ） (2022-09-02T05:02:18Z)
• Amortized Inference for Causal Structure Learning [72.84105256353801]
  因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。 本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。 我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
  論文  参考訳（メタデータ） (2022-05-25T17:37:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。