論文の概要: PassSum: Leveraging Paths of Abstract Syntax Trees and Self-Supervision for Code Summarization

• arxiv url: http://arxiv.org/abs/2610.15435v1
• Date: Sun, 11 Oct 2026 08:20:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 01:07:37.314205
• Title: PassSum: Leveraging Paths of Abstract Syntax Trees and Self-Supervision for Code Summarization
• Title（参考訳）: PassSum: 抽象構文木の活用パスとコード要約のための自己スーパービジョン
• Abstract要約: PassSumは、最先端のアプローチの欠点に対処するコード要約アプローチである。 効率的なAST符号化方法を含む新しい入力表現を用いる。 また、3つの事前学習目標を導入し、大量のラベルなしデータでモデルを事前学習します。
• 参考スコア（独自算出の注目度）: 30.07274283815733
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Code summarization is to provide a high-level comment for a code snippet that typically describes the function and intent of the given code. Recent years have seen the successful application of data-driven code summarization. To improve the performance of the model, numerous approaches use Abstract Syntax Trees (ASTs) to represent the structural information of the code, which is considered by most researchers to be the main factor that distinguishes code from natural language. Then, such data-driven methods are trained on large-scale labeled datasets to obtain a model with strong generalization capabilities that can be applied to new examples. Nevertheless, we argue that state-of-the-art approaches suffer from two key weaknesses: (1) inefficient encoding of ASTs; (2) reliance on a large labeled corpus for model training. As a result, such drawbacks lead to (1) oversized model, slow training, information loss and instability; (2) inability to be applied to programming languages with only a small amount of labeled data. In light of these weaknesses, we propose PassSum, a code summarization approach that addresses the aforementioned weaknesses via (1) a novel input representation which contains an efficient AST encoding method; (2) introducing three pre-training objectives and pre-training our model with a large amount of (easy-to-obtain) unlabeled data under the guidance of self-supervised learning. Experimental results on code summarization for Java, Python and Ruby methods demonstrate the superiority of PassSum to state-of-the-art methods. Further experiments demonstrate that the input representation we use has both temporal and spatial advantages in addition to performance leadership. In addition, pre-training is also shown to make the model more generalizable with less labeled data, and also to speed up the convergence of the model during training.
• Abstract（参考訳）: コードの要約は、通常、与えられたコードの関数と意図を記述するコードスニペットに対して、高いレベルのコメントを提供することである。 近年、データ駆動のコード要約が成功している。 モデルの性能を向上させるために、多くのアプローチでは抽象構文木(AST)を用いてコードの構造情報を表現している。 そして、そのようなデータ駆動手法を大規模ラベル付きデータセットで訓練し、新しい例に適用可能な強力な一般化能力を持つモデルを得る。 しかしながら,現状のアプローチは,(1)非効率なAST符号化,(2)大規模ラベル付きコーパスによるモデルトレーニングの信頼性という,2つの重大な弱点に悩まされている。 その結果、(1)過大なモデル、遅い訓練、情報損失、不安定性、(2)少量のラベル付きデータしか適用できないプログラミング言語に適用できないという欠点が生じた。 これらの弱点を踏まえて,(1)効率的なAST符号化手法を含む新しい入力表現,(2)事前学習目標の導入,および、自己教師型学習の指導の下で大量のラベルなしデータを事前学習することで,上記の弱点に対処するコード要約手法であるPassSumを提案する。 Java、Python、Rubyメソッドのコード要約に関する実験結果は、PassSumの最先端メソッドに対する優位性を実証している。 さらなる実験により、私たちが使用する入力表現は、パフォーマンスリーダーシップに加えて、時間的および空間的優位性を持つことが示された。 さらに、事前学習により、ラベル付きデータの少ないデータでモデルをより一般化し、トレーニング中にモデルの収束を早めることも示される。

関連論文リスト

• Readability-Robust Code Summarization via Meta Curriculum Learning [53.44612630063336]
  現実の世界では、コードが貧弱な構造や難読化され、モデルのパフォーマンスが著しく低下することが多い。 本稿では,可読性の低いコードに対するコード要約の堅牢性を向上する,新しい微調整手法であるRoFTCodeSumを提案する。
  論文  参考訳（メタデータ） (2026-01-09T02:38:24Z)
• Conditional Prototype Rectification Prompt Learning [32.533844163120875]
  本稿では, 基本事例のバイアスを補正し, 限られたデータを効果的に拡張するための, CPR(Prototype Rectification Prompt Learning)手法を提案する。 CPRは、いくつかのショット分類とベース・ツー・ニューな一般化タスクの両方において最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-04-15T15:43:52Z)
• Code Representation Learning At Scale [75.04686476303436]
  2段階の事前学習スキームを用いて,大量のコードデータを用いてコード表現学習を行う。 まず、マスキング言語モデリングにおけるランダム性と、プログラミング言語の構造的側面の両方を活用して、エンコーダを訓練する。 そして、教師なしの方法で強陰性かつ強正に構築された対照的な学習を通して表現を強化する。
  論文  参考訳（メタデータ） (2024-02-02T22:19:15Z)
• SparseCoder: Identifier-Aware Sparse Transformer for File-Level Code Summarization [51.67317895094664]
  本稿では,大規模なソースコードプロジェクトの理解と維持を支援するファイルレベルのコード要約について検討する。 長いコードシーケンスを効果的に処理するための識別子対応スパース変換器であるSparseCoderを提案する。
  論文  参考訳（メタデータ） (2024-01-26T09:23:27Z)
• Sparse Attention-Based Neural Networks for Code Classification [15.296053323327312]
  コード分類のためのスパース注意型ニューラルネットワーク(SACC)を提案する。 最初のステップでは、ソースコードは構文解析と前処理を行う。 サブツリーの符号化されたシーケンスは、分類のためにスパースアテンション機構を組み込んだTransformerモデルに入力される。
  論文  参考訳（メタデータ） (2023-11-11T14:07:12Z)
• XAL: EXplainable Active Learning Makes Classifiers Better Low-resource Learners [71.8257151788923]
  低リソーステキスト分類のための新しい説明可能なアクティブラーニングフレームワーク(XAL)を提案する。 XALは分類器に対して、推論を正当化し、合理的な説明ができないラベルのないデータを掘り下げることを推奨している。 6つのデータセットの実験では、XALは9つの強いベースラインに対して一貫した改善を達成している。
  論文  参考訳（メタデータ） (2023-10-09T08:07:04Z)
• CodeExp: Explanatory Code Document Generation [94.43677536210465]
  既存のコード・トゥ・テキスト生成モデルは、コードの高レベルな要約のみを生成する。 我々は、コードのための高品質な説明記述の基準を特定するために、人間の研究を行う。 タスクのための多段階微調整戦略とベースラインモデルを提案する。
  論文  参考訳（メタデータ） (2022-11-25T18:05:44Z)
• Exploring Representation-Level Augmentation for Code Search [50.94201167562845]
  我々は、データ処理やトレーニングを必要としない表現レベルでデータ(コードとクエリの両方)を増強する拡張手法について検討する。 大規模公開データセット上で,最先端のコード検索モデルを用いた表現レベル向上手法を実験的に評価した。
  論文  参考訳（メタデータ） (2022-10-21T22:47:37Z)
• Iterative Data Programming for Expanding Text Classification Corpora [9.152045698511506]
  実世界のテキスト分類タスクは、しばしば、取得するのに高価なラベル付きトレーニング例を必要とする。 機械教育の最近の進歩、特にデータプログラミングパラダイムは、トレーニングデータセットの迅速な作成を促進する。 近所の弱いモデルを生成することによってテキストデータセットを拡大するための,高速でシンプルなデータプログラミング手法を提案する。
  論文  参考訳（メタデータ） (2020-02-04T17:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。