論文の概要: LoRA Fine-Tuned Models for Control Systems Course Q\&A: A Multidimensional Evaluation of Model Scale and Rank Effects

• arxiv url: http://arxiv.org/abs/2609.13918v1
• Date: Sat, 12 Sep 2026 13:04:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.609769
• Title: LoRA Fine-Tuned Models for Control Systems Course Q\&A: A Multidimensional Evaluation of Model Scale and Rank Effects
• Title（参考訳）: 制御系コースQ\&AのためのLoRA微調整モデル:モデルスケールとランク効果の多次元評価
• Abstract要約: 大型言語モデル (LLMs) は専門の大学コースでの利用が増えている。 直接的な汎用応答は、一貫性のない構造であり、検証が困難である。 我々は360度システム・ユーザ・アシスタント・会話の教師付き微調整データセットを構築した。
• 参考スコア（独自算出の注目度）: 12.865623591533456
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly used in specialized university courses, but control-systems questions require coordinated terminology, notation, derivations, and stepwise explanations. Direct general-purpose responses may be inconsistently structured and hard to verify. Using exercises and reference solutions from a Linear Control Systems course, we built a supervised fine-tuning dataset of 360 system-user-assistant conversations. We applied LoRA to Qwen2.5-3B-Instruct and Qwen2.5-7B-Instruct. With identical data splits, inference settings, and evaluation protocols, we compared base and fine-tuned models and tested LoRA ranks r=4, 8, and 16. Evaluation used ROUGE, BERTScore, and structured-output features to measure reference-answer similarity and stability of the Solution-Method-Teaching Points format. LoRA improved both similarity and structured-output stability at both sizes. On the current test set, 7B-r16 achieved the highest ROUGE-L (0.4093) and BERTScore-F1 (0.8643), while r=8 offered a better balance between performance and parameter efficiency. Bootstrap resampling showed ROUGE-L gains of 0.0764 [0.0613, 0.0915] for 3B-r16 and 0.0874 [0.0687, 0.1042] for 7B-r16; both intervals exceeded zero, indicating stable textual-similarity improvements on the current test set. These results suggest LoRA can align open-source instruction-tuned models more closely with the language and pedagogical organization of course reference answers. However, the metrics mainly capture textual similarity and formatting consistency, not domain-specific reasoning or mathematical correctness, which require expert assessment and task-specific rubrics.
• Abstract（参考訳）: 大型言語モデル (LLM) は専門の大学コースでますます使われているが、制御系の問題には、コーディネートされた用語、表記法、派生法、ステップワイズな説明が必要である。 直接的な汎用応答は、一貫性のない構造であり、検証が困難である。 リニアコントロールシステムコースのエクササイズと参照ソリューションを使用して、360システムユーザ・アシスタント会話の教師付き微調整データセットを構築しました。 我々はLoRAをQwen2.5-3B-InstructとQwen2.5-7B-Instructに適用した。 同一データ分割, 推論設定, 評価プロトコルを用いて, ベースモデルと微調整モデルを比較し, r=4, 8, 16。 ROUGE、BERTScore、構造化出力を用いて、ソリューション・メソッド・Teaching Pointsフォーマットの参照・回答の類似性と安定性を測定した。 LoRAは両方のサイズで類似性と構造化出力の安定性を改善した。 現在のテストセットでは7B-r16がROUGE-L (0.4093) とBERTScore-F1 (0.8643) を達成し、r=8は性能とパラメータ効率のバランスが良くなった。 ブートストラップ再サンプリングの結果、3B-r16では0.0764[0.0613, 0.0915]、7B-r16では0.0874[0.0687, 0.1042]のROUGE-Lゲインが得られた。 これらの結果から,LoRAは,オープンソースの指導訓練モデルと,コース参照回答の教育的組織とをより緊密に整合させることができることが示唆された。 しかし、これらのメトリクスは主にテキストの類似性やフォーマットの一貫性を捉えており、ドメイン固有の推論や数学的正当性ではない。

関連論文リスト

• DataFlex-RL: An Evaluation Platform for RLVR Data Policies [11.073211317719393]
  検証可能な報酬を伴う強化学習のためのデータポリシーは、どのロールアウトが使用されるか、どれくらい重み付けされているか、どのドメインがその後のトレーニングバッチに寄与するかを決定する。 我々は、共通のGRPOレシピの下でこれらの選択を比較するための評価プラットフォームであるDataFlex-RLを紹介します。 Qwen2.5-7B-Base と 12 の数学,論理,科学ベンチマークを用いて,12 個のマッチした種子の13 個の構成を評価した。
  論文  参考訳（メタデータ） (2026-09-05T14:04:50Z)
• Small Language Models as Judges for Rubric-Based Reinforcement Learning [57.707881387886516]
  より小型の言語モデルが,より効率的かつ信頼性の高いルーリック・ベース・ジャッジとして機能するかどうかを考察する。 生成的評定,Yes/No Logprobマージン,Probe judgesの3つの基準レベルの判断を,小モデルから抽出する方法を比較した。 どちらのデータセットでも、Qwen3-1.7B Probeの審査員はこれらの方法の中で最強の基準レベルの合意を達成している。
  論文  参考訳（メタデータ） (2026-08-30T20:00:17Z)
• MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
  MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。 MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。 オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
  論文  参考訳（メタデータ） (2026-08-26T18:22:03Z)
• A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination [51.06539604709775]
  本稿では、制御ユニットを表現編集からロール条件のエビデンスビューへシフトさせる自己進化型エージェントフレームワークであるA-SRを提案する。 A-SRは、コーディネートプロトコル、オンライン評価器・リワードロールポリシー、および状態制御プロセスメモリ間のルーティングによる公式発見をコーディネートする。
  論文  参考訳（メタデータ） (2026-08-05T14:01:10Z)
• Selecting Open-Weight Language Models for Zero-Shot Intent Classification: A Systematic Evaluation of 41 Models [0.0]
  15の家系にまたがる41のオープンウェイト言語モデルと135M--9Bパラメータ範囲の体系的ゼロショット評価を行った。 我々は,信頼性キャリブレーション,現実的な入力摂動に対する堅牢性,モデルランキングの統計的信頼性,デプロイメント効率,ベンチマーク飽和度を分析した。 これらの知見は、意図分類のためのオープンウェイト言語モデルの選択と評価のための実践的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2026-07-29T19:42:33Z)
• Statistical Inference for Rank Allocation in Low-Rank Adaptation [54.886931928255564]
  低ランク適応 (LoRA) は大規模言語モデルにおいてパラメータ効率の高い微調整法として広く用いられている。 統計的推論に基づくランクアロケーション手法であるStatLoRAを提案する。 StatLoRA は,Vanilla LoRA,AdaLoRA,I-LoRA と同等以上の性能を示す。
  論文  参考訳（メタデータ） (2026-07-22T14:25:59Z)
• Harnessing LLMs for Reliable Academic Supervision: A Comparative Study [0.0]
  大規模言語モデルは、単発プロンプトに対する流動的な回答を日常的に生成するが、それらをドメイン決定システムの信頼性の高いコンポーネントとしてデプロイするのは、かなり難しい。 このギャップを埋めるのは、決定論的足場を意図的に構成する、ハーネスエンジニアリングの作業である。 本稿では,高評価,経時的アカウンタビリティ,構造化された運用研究を併用した,学術的監督の事例を紹介する。
  論文  参考訳（メタデータ） (2026-07-16T08:14:27Z)
• Analyzing Quality-Latency-Resource Trade-offs in a Technical Documentation RAG Assistant Using LoRA Adaptation [0.0]
  発電機のローランド適応(LoRA)を用いた検索拡張世代(RAG)システムにおける品質-遅延-リソーストレードオフについて検討する。 公式文書上で5,144の質問応答ペアのベンチマークを構築し、それを固定されたハイブリッド検索パイプライン(BGE-M3高密度、BGE-M3ネイティブ、Reciprocal Rank Fusion、クロスエンコーダ更新)と組み合わせる。
  論文  参考訳（メタデータ） (2026-05-27T09:37:55Z)
• GRADE: Generalizable Reasoning-Aware Dialogue Evaluation for AI Tutors [5.831342304669597]
  GRADEは、学生-教師対話における教育能力評価のためのオープンソースモデルの体系的研究である。 ゼロショット推論, LoRAファインチューニング, 合成拡張, CoT+Reasoning, シングルタスク対マルチタスクの定式化など, 5つの言語モデルにわたる120の構成を評価した。
  論文  参考訳（メタデータ） (2026-05-27T02:26:55Z)
• SFR-RAG: Towards Contextually Faithful LLMs [57.666165819196486]
  Retrieval Augmented Generation (RAG) は、外部コンテキスト情報を大言語モデル(LLM)と統合し、事実の精度と妥当性を高めるパラダイムである。 SFR-RAG(SFR-RAG)について述べる。 また、複数の人気かつ多様なRAGベンチマークをコンパイルする新しい評価フレームワークであるConBenchについても紹介する。
  論文  参考訳（メタデータ） (2024-09-16T01:08:18Z)
• Tool-Augmented Reward Modeling [58.381678612409]
  本稿では,外部環境へのアクセスによるRMの強化により,制約に対処するツール拡張された嗜好モデリング手法であるThemisを提案する。 我々の研究は、外部ツールをRMに統合し、様々な外部ソースとの相互作用を可能にすることを目的としている。 人間の評価では、テミスで訓練されたRLHFはベースラインと比較して平均32%の勝利率を得る。
  論文  参考訳（メタデータ） (2023-10-02T09:47:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。