論文の概要: Fine-Tuning Large Language Models for Quantum Reasoning

• arxiv url: http://arxiv.org/abs/2606.21974v1
• Date: Sat, 20 Jun 2026 10:06:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 23:26:56.110493
• Title: Fine-Tuning Large Language Models for Quantum Reasoning
• Title（参考訳）: 量子推論のための微調整大言語モデル
• Abstract要約: 大規模言語モデル(LLM)は、自然言語モデリングやテキスト生成以外の能力を示す。 それらの推論能力の最近の進歩は、複雑な科学的タスクにLLMを適用することへの関心を喚起している。
• 参考スコア（独自算出の注目度）: 1.1417805445492082
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) exhibit abilities beyond natural language modelling and text generation. Recent advances in their reasoning capabilities have spurred interest in applying LLMs to complex scientific tasks requiring deep domain expertise and sophisticated reasoning. Quantum computing, as a highly specialised field with significant knowledge barriers and hardware constraints, could greatly benefit from such advancements. However, a key open question that first must be answered is: How can we develop fine-tuning pipelines that instil genuine quantum reasoning in LLMs, rather than task-specific pattern matching? We study this question through quantum circuit simulation as a training objective, where the model must predict the measurement probability distribution resulting from a sequence of quantum gate operations. We propose and compare two fine-tuning pipelines: (1) Supervised Fine-Tuning (SFT) on explicit gate-by-gate state-vector simulation traces, and (2) a two-stage SFT+Group Relative Policy Optimisation (GRPO) approach that sequentially applies SFT followed by GRPO with verifiable rewards. Our findings show that SFT achieves near-perfect in-distribution and gate-count extrapolation accuracy, significantly outperforming both the base model and the GPT-OSS-120B baseline. SFT+GRPO trades some in-distribution precision for better generalisation to larger qubit systems that SFT alone cannot handle. Both pipelines significantly outperform the baselines, demonstrating that targeted fine-tuning on explicit reasoning traces is an effective strategy for advancing quantum reasoning in LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自然言語モデリングやテキスト生成以外の能力を示す。 それらの推論能力の最近の進歩は、深いドメインの専門知識と洗練された推論を必要とする複雑な科学的タスクにLLMを適用することへの関心を喚起している。 量子コンピューティングは、重要な知識障壁とハードウェア制約を持つ高度に専門化された分野であり、そのような進歩の恩恵を受けることができる。 タスク固有のパターンマッチングではなく、LLMに真の量子推論を取り入れた微調整パイプラインをどのように開発すればよいのか? 本研究では,量子回路シミュレーションをトレーニング対象とし,量子ゲート演算の列から得られる測定確率分布の予測を行う。 本研究では,(1)ゲートバイゲート状態ベクトルシミュレーショントレース上でのSFT (Supervised Fine-Tuning) と(2)SFT+Group Relative Policy Optimisation (GRPO) の2段階のアプローチを提案する。 以上の結果から, SFTは, ほぼ完全な分配精度とゲート数外挿精度を達成し, ベースモデルとGPT-OSS-120Bベースラインの両方において有意に優れていた。 SFT+GRPOは、SFT単独では扱えないより大きな量子ビット系へのより良い一般化のために、いくつかの分配精度を交換する。 どちらのパイプラインもベースラインを著しく上回り、明示的な推論トレースに基づく微調整がLLMの量子推論を前進させる効果的な戦略であることを示す。

関連論文リスト

• Optimising Trotter-Suzuki Simulations of Markovian Open Quantum Systems via Classical Search [0.0]
  1次および2次決定性およびランダム化TS-PFの解析的境界を導出する。 計算効率のよい古典的アルゴリズムを提案し、個々のリウィリア語のダイヤモンドノルム推定を用いる。
  論文  参考訳（メタデータ） (2026-07-29T15:51:58Z)
• Entropy-KL Divergence-based Token Masking: A Novel Approach for Selective Fine-tuning of Large Language Models [52.11240605311707]
  改良された微調整と強化学習は、大規模言語モデルの訓練後の標準パラダイムとなっている。 EKSFT(Entropy-KL Selective Fine-Tuning)は,参照モデルから高いエントロピーまたは高いKLの発散を示すトークンを選択的にマスクする。 数学的推論ベンチマークに関する実証的な評価は、EKSFTが標準SFTを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2026-05-28T03:36:05Z)
• How to Set the Learning Rate for Large-Scale Pre-training? [73.03133634525635]
  我々はこの調査を2つの異なる研究パラダイムであるフィッティングとトランスファーに定式化する。 フィッティングパラダイムでは,探索係数のスケーリング法則を導入し,O(n3) から O(n*C_D*C_) への探索複雑性を予測モデルにより効果的に低減する。 我々は、$Transferの原則をMixture of Experts (MoE)アーキテクチャに拡張し、モデル深さ、重量減衰、トークン水平線を含む適用範囲を広げる。
  論文  参考訳（メタデータ） (2026-01-08T15:55:13Z)
• Quantum Combinatorial Reasoning for Large Language Models [34.17011230912033]
  大規模言語モデル(QCR-LLM)の量子推論を設計・実装する。 我々のQCR-LLMは、複数のLCMバックボーンの推論精度を一貫して改善し、o3-highやDeepSeek R1などの推論システムを最大$9,$ppで上回っています。 これらの結果は、量子支援推論の初めての実験的証拠であり、ハイブリッド量子古典最適化は、大規模言語モデルにおける推論のコヒーレンス、解釈可能性、持続可能性を高めることができることを示している。
  論文  参考訳（メタデータ） (2025-10-28T15:20:38Z)
• seqBench: A Tunable Benchmark to Quantify Sequential Reasoning Limits of LLMs [1.0519693622157462]
  我々は,Large Language Models (LLMs) における逐次推論限界を探索するベンチマークであるseqBenchを紹介する。 検索の複雑さが最小限であるにもかかわらず、セクベンチの構造的推論タスクでは、トップパフォーマンスモデルでさえ体系的に失敗することがわかった。
  論文  参考訳（メタデータ） (2025-09-21T01:32:13Z)
• Metis-RISE: RL Incentivizes and SFT Enhances Multimodal Reasoning Model Learning [20.515599491717442]
  マルチモーダル推論モデル学習のためのtextbfMetis-RISE (textbfRL textbfSFT textbfEnhances) を提案する。
  論文  参考訳（メタデータ） (2025-06-16T02:56:13Z)
• Implicit Reward as the Bridge: A Unified View of SFT and DPO Connections [65.36449542323277]
  本稿では,Large Language Model (LLM) 後の学習において,SFT(Supervised Fine-Tuning) と優先学習を統合した理論フレームワークを提案する。 そこで本研究では,学習率の簡易かつ効果的な削減手法を提案する。
  論文  参考訳（メタデータ） (2025-06-15T05:42:29Z)
• RoSTE: An Efficient Quantization-Aware Supervised Fine-Tuning Approach for Large Language Models [53.571195477043496]
  本稿では,RoSTE (Rotated Straight-Through-Estimator) というアルゴリズムを提案する。 RoSTEは、量子化を意識した微調整(QA-SFT)と適応的な回転戦略を組み合わせることで、アクティベーションアウトリーを減少させる。 その結果, 予測誤差は収束重みの量子化誤差と直接比例し, 最適化された回転構成により効果的に管理できることが判明した。
  論文  参考訳（メタデータ） (2025-02-13T06:44:33Z)
• Preference-Oriented Supervised Fine-Tuning: Favoring Target Model Over Aligned Large Language Models [12.500777267361102]
  我々は,新しいtextbfpreference-textbforiented 教師付き textbffine-textbftuning アプローチ,すなわち PoFT を導入する。 直感的には、SFTを特定の嗜好を与えることによって強化することであり、同じSFTデータ上で、整列 LLM 上でターゲットモデルをテキストフォバリングする。 PoFTは、さまざまなトレーニングデータセットとベースモデルにわたるSFTベースラインに対して、安定的で一貫した改善を実現している。
  論文  参考訳（メタデータ） (2024-12-17T12:49:14Z)
• Efficient Learning for Linear Properties of Bounded-Gate Quantum Circuits [62.46800898243033]
  量子学習理論の最近の進歩は、様々な古典的な入力によって生成された測定データから、大きな量子ビット回路の線形特性を効率的に学習できるのか? 我々は、小さな予測誤差を達成するためには、$d$で線形にスケーリングするサンプルの複雑さが必要であることを証明し、それに対応する計算複雑性は、dで指数関数的にスケールする可能性がある。 そこで本研究では,古典的影と三角展開を利用したカーネルベースの手法を提案し,予測精度と計算オーバーヘッドとのトレードオフを制御可能とした。
  論文  参考訳（メタデータ） (2024-08-22T08:21:28Z)
• Intuitive Fine-Tuning: Towards Simplifying Alignment into a Single Process [19.986235452236272]
  Supervised Fine-Tuning (SFT) と Preference Optimization (PO) は、言語モデル(LM)を事前学習後の人間の好みに合わせるための重要なプロセスである。 Intuitive Fine-Tuning (IFT)を導入し,SFTとPOをひとつのプロセスに統合する。 IFT は SFT やいくつかの典型的な PO メソッドと相容れないか、それ以上に優れている。
  論文  参考訳（メタデータ） (2024-05-20T08:23:28Z)
• Realization of arbitrary doubly-controlled quantum phase gates [62.997667081978825]
  本稿では,最適化問題における短期量子優位性の提案に着想を得た高忠実度ゲートセットを提案する。 3つのトランペット四重項のコヒーレントな多レベル制御を編成することにより、自然な3量子ビット計算ベースで作用する決定論的連続角量子位相ゲートの族を合成する。
  論文  参考訳（メタデータ） (2021-08-03T17:49:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。