論文の概要: ConceptCoder: Improve Code Reasoning via Concept Learning

• arxiv url: http://arxiv.org/abs/2603.23470v1
• Date: Tue, 24 Mar 2026 17:37:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.61821
• Title: ConceptCoder: Improve Code Reasoning via Concept Learning
• Title（参考訳）: ConceptCoder: 概念学習によるコード推論の改善
• Authors: Md Mahbubur Rahman, Hengbo Tong, Wei Le,
• Abstract要約: ConceptCoderは、人間のコード検査をシミュレートする微調整方法である。 モデルはまずコードの概念を認識し、これらの概念の上に推論を実行するように訓練される。
• 参考スコア（独自算出の注目度）: 10.721967412642352
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have shown promising results for software engineering applications, but still struggle with code reasoning tasks such as vulnerability detection (VD). We introduce ConceptCoder, a fine-tuning method that simulates human code inspection: models are trained to first recognize code concepts and then perform reasoning on top of these concepts. In prior work, concepts are extracted by multimodal models or LLMs to explain vision and natural language models. Our work is the first to formulate concepts for code. We define code concepts as human-understandable semantic properties of code and train models to learn such concepts. Our evaluation shows that this approach significantly improves VD accuracy, from 66.32 to 72.15 F1 on average over 9 open-source LLMs. ConceptCoder achieves the best VD performance compared to state-of-the-art (SOTA) baselines, including fine-tuned SOTA open-source LLMs and prompted proprietary models such as GPT-5.2 and Claude-Opus-4.5. Our approach also scales: concepts defined from four types of vulnerabilities benefit general vulnerability datasets with 134 CWEs. We further demonstrate that concept-based fine-tuning generalizes beyond VD and improves branch prediction. We release our code and datasets at https://figshare.com/s/1decab8232c653b44f71.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ソフトウェアエンジニアリングアプリケーションには有望な結果を示しているが、脆弱性検出(VD)のようなコード推論タスクには依然として苦戦している。 本研究では,人間のコード検査をシミュレートする微調整手法であるConceptCoderを紹介した。 先行研究において、概念は視覚モデルと自然言語モデルを説明するためにマルチモーダルモデルまたはLLMによって抽出される。 私たちの仕事は、コードの概念を初めて定式化したものです。 我々は、コードの概念を、人間の理解可能な、コードのセマンティックな特性として定義し、そのような概念を学ぶためのモデルを訓練する。 提案手法は, 66.32から72.15 F1まで, 9個のオープンソースLCMを平均して, VD精度を大幅に向上することを示す。 ConceptCoderは、SOTA(State-of-the-art)ベースラインと比較して最高のVDパフォーマンスを実現し、細調整のSOTAオープンソースLLMや、GPT-5.2やClaude-Opus-4.5といったプロプライエタリなモデルを実現している。 4種類の脆弱性から定義された概念は、134のCWEを持つ一般的な脆弱性データセットの恩恵を受けます。 さらに、概念に基づく微調整がVDを超えて一般化し、分岐予測を改善することを実証する。 コードとデータセットはhttps://figshare.com/s/1decab8232c653b44f71で公開しています。

関連論文リスト

• Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
  言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。 近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。 入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
  論文  参考訳（メタデータ） (2026-01-20T09:57:26Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• VLG-CBM: Training Concept Bottleneck Models with Vision-Language Guidance [16.16577751549164]
  Concept Bottleneck Models (CBM) は解釈可能な予測を提供する。 CBMは人間の理解可能な概念を符号化し、モデルの判断を説明する。 本稿では,VLG-CBM(Vision-Language-Guided Concept Bottleneck Model)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T19:44:44Z)
• A Concept-Based Explainability Framework for Large Multimodal Models [52.37626977572413]
  本稿では,トークン表現に適用した辞書学習に基づくアプローチを提案する。 これらの概念は、視覚とテキストの両方に意味論的に根ざしていることを示す。 抽出したマルチモーダル概念は,テストサンプルの表現の解釈に有用であることを示す。
  論文  参考訳（メタデータ） (2024-06-12T10:48:53Z)
• Improving Concept Alignment in Vision-Language Concept Bottleneck Models [9.228586820098723]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、クラス予測を行う前に、イメージを人間の解釈可能な概念にマッピングする。 近年のアプローチでは、大規模言語モデル(LLM)にテキスト概念の生成を促すことでCBM構築を自動化する。 LLMによって生成されたものよりも、人間の専門家によって定義された概念でCBMを構築することが望まれる。
  論文  参考訳（メタデータ） (2024-05-03T03:02:00Z)
• Finer: Investigating and Enhancing Fine-Grained Visual Concept Recognition in Large Vision Language Models [57.95366341738857]
  詳細な分析では、命令調整されたLVLMはモダリティギャップを示し、同じ概念に対応するテキスト入力と視覚入力の相違を示す。 我々は,LVLMの細粒度視覚理解能力を評価するために,複数の属性中心評価ベンチマークであるFinerを提案し,説明可能性を大幅に改善した。
  論文  参考訳（メタデータ） (2024-02-26T05:43:51Z)
• Concept Distillation: Leveraging Human-Centered Explanations for Model Improvement [3.026365073195727]
  概念活性化ベクトル(Concept Activation Vectors, CAV)は、ある概念に対するモデルの感度と潜在的なバイアスを推定する。 微調整によりモデルバイアスを低減するため,CAVをポストホック解析からアンテホックトレーニングに拡張する。 本稿では,いくつかの分類問題に対する概念感受性トレーニングの応用について述べる。
  論文  参考訳（メタデータ） (2023-11-26T14:00:14Z)
• CodeT5+: Open Code Large Language Models for Code Understanding and Generation [72.1638273937025]
  大きな言語モデル (LLM) は膨大なソースコードで事前訓練されており、コードインテリジェンスにおいて顕著な進歩を遂げている。 CodeT5+は、コンポーネントモジュールを柔軟に組み合わせて、幅広い下流のコードタスクに適合させることができるコードのためのエンコーダ-デコーダLLMのファミリーである。 我々は、ゼロショット、微調整、命令調整を含む20以上のコード関連ベンチマークでCodeT5+を広範囲に評価した。
  論文  参考訳（メタデータ） (2023-05-13T14:23:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。