論文の概要: CommitLLM: A Fine-Tuned Pipeline for Git Commit Message Generation
- arxiv url: http://arxiv.org/abs/2607.17532v1
- Date: Mon, 20 Jul 2026 04:11:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.49672
- Title: CommitLLM: A Fine-Tuned Pipeline for Git Commit Message Generation
- Title(参考訳): CommitLLM: Gitコミットメッセージ生成のための微調整パイプライン
- Abstract要約: CommitLLMは、コード差分から簡潔でコンベンショナルコミットに準拠したメッセージを生成する。
システムは、Mistral-7B-Instruct-v0.2のQLoRA微調整をCommitPackFTデータセット上で組み合わせる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Developers frequently write uninformative git commit messages such as "fix" or "update stuff", degrading the value of version-control history for code review, debugging, and onboarding. We present CommitLLM, a three-stage pipeline that generates concise, Conventional Commits-compliant messages from code diffs using a fine-tuned small language model. The system combines (1) QLoRA fine-tuning of Mistral-7B-Instruct-v0.2 on the CommitPackFT dataset, (2) constrained decoding to enforce brevity, and (3) deterministic post-processing to strip conversational artifacts and enforce format. On a 50-sample evaluation, CommitLLM achieves 98% format compliance (vs. 22% for vanilla Mistral), reduces average output length from 154.8 to 37.9 characters, and improves LLM-as-a-Judge scores from 1.97 to 3.68 out of 5. Notably, the post-processing layers contribute more to quality improvement than the fine-tuning itself, suggesting that for structured-output tasks, treating the LLM as a component in a deterministic pipeline is more effective than optimizing the model alone. The entire system runs on a single consumer GPU (NVIDIA T4, 16 GB VRAM).
- Abstract(参考訳): 開発者はしばしば"fix"や"update stuff"といった非形式的なgitコミットメッセージを書き、コードレビュー、デバッグ、オンボードでバージョン管理履歴の価値を低下させる。
我々は、細調整された小さな言語モデルを用いて、コード差分から簡潔でコンベンショナルコミュットに準拠したメッセージを生成する3段階パイプラインであるCommitLLMを提案する。
本システムは,(1)CommitPackFTデータセット上でのMistral-7B-Instruct-v0.2のQLoRA微調整,(2)簡潔性を強制するための制約付き復号化,(3)対話的アーティファクトを除去し,形式を強制する決定論的後処理とを組み合わせる。
50サンプル評価では、CommitLLMは98%のフォーマット準拠(バニラ・ミストラルでは22%)を達成し、平均出力長を154.8文字から37.9文字に減らし、LCM-as-a-Judgeスコアを5.97から3.68に改善した。
特に、後処理層は微調整自体よりも品質改善に寄与しており、構造化出力タスクでは、LLMを決定論的パイプラインのコンポーネントとして扱う方が、モデルのみを最適化するよりも効果的であることを示唆している。
システム全体が単一のコンシューマGPU(NVIDIA T4、16GB VRAM)で動作する。
関連論文リスト
- Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。
反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
論文 参考訳(メタデータ) (2026-09-02T08:10:22Z) - Benchmarking LLMs for Verilog Design Flows [6.24010225101442]
大規模言語モデル(LLM)は、コード生成において有望であるが、正しい合成可能なハードウェア記述言語(HDL)コードを生成する能力は、まだ適切にベンチマークされている。
本稿では,Verilog RTL 生成におけるオープンソース LLM の評価を行う再現可能なベンチマークプラットフォームを提案する。
このパイプラインは構文の妥当性を0%から70.43%に改善し、シミュレーションパスレートは3つのオープンソースモデルで51.8%に向上した。
論文 参考訳(メタデータ) (2026-07-23T21:00:38Z) - When Correct Isn't Usable: Improving Structured Output Reliability in Small Language Models [2.064923532131528]
デプロイされた言語モデルは、正しいものとフォーマットに準拠した出力を生成する必要がある。
本稿では,GSM8KとMATHという2つの数学的ベンチマークを用いて,この構造化出力信頼性ギャップについて検討する。
対象モデルへのブラックボックスAPIアクセスのみを必要とする反復的なシステムプロンプトであるAloLabを開発した。
論文 参考訳(メタデータ) (2026-05-04T09:07:44Z) - CODESTRUCT: Code Agents over Structured Action Spaces [14.039220358416104]
LLMベースのコードエージェントは、リポジトリを非構造化テキストとして扱い、脆いマッチング文字列を通じて編集を適用する。
我々は、エージェントがテキストスパンではなく名前付きASTエンティティを操作するような構造化されたアクション空間として再フレーミングを提案する。
私たちのフレームワークであるCODESTRUCTは、完全な構文単位を取得するためのreadCodeと、構文検証された変換をセマンティックプログラム要素に適用するためのEditCodeを提供します。
論文 参考訳(メタデータ) (2026-04-07T03:58:10Z) - Resource-Efficient Iterative LLM-Based NAS with Feedback Memory [49.44875022114861]
ニューラルアーキテクチャサーチ(NAS)はネットワーク設計を自動化するが、従来の手法ではかなりの計算資源を必要とする。
本稿では,大規模言語モデル(LLM)を活用して,畳み込みニューラルネットワークアーキテクチャを反復的に生成し,評価し,洗練するクローズドループパイプラインを提案する。
論文 参考訳(メタデータ) (2026-03-12T16:00:22Z) - CoRaCMG: Contextual Retrieval-Augmented Framework for Commit Message Generation [17.392708936075223]
Commit Message Generationは、コード差分から記述的なコミットメッセージを自動的に生成し、開発者の労力を削減し、メッセージ品質を向上させることを目的としている。
本稿では,3つのフェーズで構成されたCommit Message Generationのためのコンテキスト検索拡張フレームワークであるCoRaCMGを提案する。
CoRaCMGは、プロジェクト固有の用語やスタイルを検索したdiff-messageペアから学習することを可能にする。
論文 参考訳(メタデータ) (2025-09-22T19:00:04Z) - Generating High-Quality Datasets for Code Editing via Open-Source Language Models [49.01026966779838]
我々は,リアルなコード編集三脚を合成するオープンソースのパイプラインであるOpenCodeEditを紹介する。
パイプラインは簡潔な"遅延"命令とより詳細な"記述"命令の両方を生成し、データ品質と多様性を保証するために差分とトピックに基づいたフィルタリングを適用する。
OCEDataFTの細調整された3つのベースモデルは、CanItEditベンチマークで大幅なパフォーマンス向上をもたらし、相対パス@1は4.50%から20.79%まで改善された。
論文 参考訳(メタデータ) (2025-09-19T03:57:39Z) - Evaluating LLMs and Prompting Strategies for Automated Hardware Diagnosis from Textual User-Reports [0.43981305860983716]
大きな言語モデル(LLM)はそのような問題に対処する上で有望であることを示している。
本研究では,4つのプロンプト戦略を用いて,27のオープンソースモデル(1B-72Bパラメータ)と2つのプロプライエタリLSMを評価した。
3つのモデルはサイズと性能のバランスが良く、Mistral-small-24b-instructとllama-3.2-1b-instructと gemma-2-2b-itである。
論文 参考訳(メタデータ) (2025-07-01T13:46:00Z) - Drag-and-Drop LLMs: Zero-Shot Prompt-to-Weights [75.83625828306839]
textbfDrag-and-Drop LLMs (textitDnD)は、未ラベルのタスクプロンプトをLoRAの重み更新に直接マッピングすることで、タスク単位のトレーニングを廃止する。
ライトウェイトテキストエンコーダは、各プロンプトバッチを条件埋め込みに蒸留し、カスケードされた超畳み込みデコーダによって全LORA行列に変換する。
論文 参考訳(メタデータ) (2025-06-19T15:38:21Z) - MonkeyOCR: Document Parsing with a Structure-Recognition-Relation Triplet Paradigm [60.14048367611333]
MonkeyOCRはドキュメント解析のためのビジョン言語モデルである。
SRR(Structure-Recognition-Relation)三重項パラダイムを活用することで、最先端の技術の進歩を図っている。
論文 参考訳(メタデータ) (2025-06-05T16:34:57Z) - SWE-Fixer: Training Open-Source LLMs for Effective and Efficient GitHub Issue Resolution [56.9361004704428]
大規模言語モデル(LLM)は、様々な複雑なタスクにまたがる顕著な習熟度を示している。
SWE-Fixerは、GitHubの問題を効果的かつ効率的に解決するために設計された、新しいオープンソースフレームワークである。
我々は,SWE-Bench LiteとVerifiedベンチマークに対するアプローチを評価し,オープンソースモデル間の競合性能を実現する。
論文 参考訳(メタデータ) (2025-01-09T07:54:24Z) - Large Language Models Are Overparameterized Text Encoders [17.608805125623803]
大規模言語モデル(LLM)は、教師付きコントラスト訓練で微調整されたテキスト埋め込みモデルとして高い性能を示す。
我々は,LLMの最後の$p%のレイヤーを1000ステップの指導訓練前に刈り取ることで,メモリと推論時間の比例的に削減できることを示す。
論文 参考訳(メタデータ) (2024-10-18T16:26:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。