論文の概要: RAPO-Sol: Retrieval-Augmented Preference Optimization for Repository-Level Solidity Code Generation

• arxiv url: http://arxiv.org/abs/2610.08429v1
• Date: Tue, 06 Oct 2026 14:29:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.041795
• Title: RAPO-Sol: Retrieval-Augmented Preference Optimization for Repository-Level Solidity Code Generation
• Title（参考訳）: RAPO-Sol:Repository-Level Solidity Code生成のための検索型参照最適化
• Abstract要約: リポジトリレベルのSolidityコード生成のための2段階のトレーニングフレームワークであるRAPO-Solを提案する。 RAFTは、各トレーニングインプットをSolidityの同様の例で拡張し、モデルが繰り返し発生するコントラクトレベルのパターンを学習するのに役立つ。 DPOは、近接しているがセマンティックに欠陥のある代替案よりも参照契約を優先するようにモデルを訓練する。
• 参考スコア（独自算出の注目度）: 2.832797938265397
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Smart contracts written in Solidity manage assets, permissions, and irreversible state changes, making code generation both useful and security-critical. Repository-level Solidity generation is challenging because models must synthesize complete contracts or libraries while preserving consistency across state variables, modifiers, events, inheritance, external calls, and access-control logic. We present RAPO-Sol, a two-stage training framework for repository-level Solidity code generation. First, Retrieval-Augmented Fine-Tuning (RAFT) augments each training input with similar Solidity examples, helping the model learn recurring contract-level patterns while remaining retrieval-free at inference time. Second, Direct Preference Optimization (DPO) trains the model to prefer reference contracts over close but semantically flawed alternatives. We construct rejected samples using Solidity Semantic-Anchor Perturbation (SAP), which perturbs validation statements, visibility modifiers, data-location keywords, context variables, payment operations, and low-level calls. Experiments on SolidityBench with CodeLlama-7B-Instruct, DeepSeek-Coder-6.7B-Instruct, and Qwen2.5-Coder-7B-Instruct show that RAFT consistently improves over supervised fine-tuning, while SAP-based DPO provides further gains in BLEU and SolidityScore. The full RAFT+DPO pipeline achieves the best performance across all three models, demonstrating complementary benefits from retrieval during training and Solidity-aware preference optimization without adding retrieval cost at inference.
• Abstract（参考訳）: Solidityで記述されたスマートコントラクトは、アセット、パーミッション、および不可逆な状態変更を管理し、コード生成を有用かつセキュリティクリティカルなものにします。 モデルでは、状態変数、修飾子、イベント、継承、外部呼び出し、アクセス制御ロジック間の一貫性を維持しながら、完全なコントラクトやライブラリを合成しなければならないため、リポジトリレベルのソリデーティ生成は難しい。 リポジトリレベルのSolidityコード生成のための2段階のトレーニングフレームワークであるRAPO-Solを提案する。 まず、Retrieval-Augmented Fine-Tuning (RAFT)は、各トレーニングインプットをSolidityの例で拡張し、モデルが推論時に検索不要のままで、繰り返し発生するコントラクトレベルのパターンを学習するのに役立つ。 第二に、直接選好最適化(DPO)は、近いがセマンティックに欠陥のある代替案よりも参照契約を優先するようにモデルを訓練する。 検証文、可視性修飾子、データロケーションキーワード、コンテキスト変数、支払い操作、低レベルの呼び出しを摂動するSAP(Solidity Semantic-Anchor Perturbation)を用いて、削除されたサンプルを構築する。 CodeLlama-7B-Instruct、DeepSeek-Coder-6.7B-Instruct、Qwen2.5-Coder-7B-InstructによるSolidityBenchの実験では、RAFTは教師付き微調整よりも一貫して改善され、SAPベースのDPOはBLEUとSolidityScoreのさらなる向上を提供する。 完全なRAFT+DPOパイプラインは、トレーニング中の検索と、推論時に検索コストを追加することなく、Solidityを意識した選好最適化による相補的なメリットを示すことで、3つのモデルで最高のパフォーマンスを達成する。

関連論文リスト

• RepoReasoner: Evaluating Repository-Level Code Reasoning Ability of Long-Context Language Models [54.53236295237077]
  リポジトリレベルのコード推論を評価するベンチマークであるRepoReasonerを紹介します。 出力予測は、ファイル間でのきめ細かいステートフルな実行推論を計測します。 Call Chain Predictionは、ノイズの多いコンテキスト下での高レベルのアーキテクチャ依存性の理解を評価する。
  論文  参考訳（メタデータ） (2026-07-28T17:12:41Z)
• Repository-Level Solidity Code Generation with Large Language Models: From Prompting to Fine-Tuning [10.22195567763592]
  Solidityスマートコントラクトは、生成されたコードが厳格な言語レベル、セキュリティ、ソフトウェアエンジニアリングの制約を満たす必要がある、高度なドメインを表している。 既存のベンチマークとメトリクスは、リポジトリレベルのSolidity生成には不十分です。 今回紹介するSolidityBenchは,5,470のリポジトリレベルのSolidityスマートコントラクトを,自然言語記述と組み合わせたベンチマークだ。
  論文  参考訳（メタデータ） (2026-06-18T09:28:30Z)
• Training LLMs for Multi-Step Tool Orchestration with Constrained Data Synthesis and Graduated Rewards [76.49428173793386]
  LLMは、中間出力を伝搬しながら、正しい順序で複数の依存APIを呼び出す必要がある。 既存の環境は、シミュレーションデータを使った単純なターン毎の関数呼び出しとバイナリ報酬に重点を置いている。 まず、実APIレスポンスの大規模キャッシュを背景とした強化学習環境を構築し、有効なマルチステップオーケストレーショントレースをサンプリングするデータ合成パイプラインを実現する。 第二に、正当性を原子の妥当性とオーケストレーションに分解する、段階的な報酬設計を提案する。
  論文  参考訳（メタデータ） (2026-03-25T18:31:39Z)
• DiffuRank: Effective Document Reranking with Diffusion Language Models [71.16830004674513]
  拡散言語モデル(dLLM)に基づいて構築されたフレームワークであるDiffuRankを提案する。 dLLMは、左から右への順序に制約されないより柔軟なデコーディングと生成プロセスをサポートする。 モデルサイズが類似した自己回帰LDMに匹敵する性能を示す。
  論文  参考訳（メタデータ） (2026-02-13T02:18:14Z)
• SynthCoder: A Synthetical Strategy to Tune LLMs for Code Completion [7.668823606571788]
  コード補完は、ソフトウェア工学における大規模言語モデル(LLM)の顕著な応用である。 本稿では,Fill-in-the-Middle(FIM)コード補完タスクにおける最先端技術を実現するために,業界をリードするプラクティスを統合するモデルであるSynthCoderを提案する。
  論文  参考訳（メタデータ） (2025-08-21T12:23:49Z)
• SolBench: A Dataset and Benchmark for Evaluating Functional Correctness in Solidity Code Completion and Repair [51.0686873716938]
  コード補完モデルによって生成されたSolidityスマートコントラクトの機能的正しさを評価するベンチマークであるSolBenchを紹介する。 本稿では,スマートコントラクトの機能的正当性を検証するための検索拡張コード修復フレームワークを提案する。 その結果、コード修復と検索技術は、計算コストを削減しつつ、スマートコントラクト完了の正しさを効果的に向上することを示した。
  論文  参考訳（メタデータ） (2025-03-03T01:55:20Z)
• COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement [80.18490952057125]
  反復改良は、複雑なタスクにおける大規模言語モデル(LLM)の能力を高める効果的なパラダイムとして登場した。 我々はこれらの課題を克服するために、コンテキストワイズ順序非依存言語モデリング(COrAL)を提案する。 当社のアプローチでは、管理可能なコンテキストウィンドウ内で複数のトークン依存関係をモデル化しています。
  論文  参考訳（メタデータ） (2024-10-12T23:56:19Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。