Fugu-MT 論文翻訳(概要): Secure Agentic Coding through Counterexample-Grounded Feedback

論文の概要: Secure Agentic Coding through Counterexample-Grounded Feedback

arxiv url: http://arxiv.org/abs/2610.25916v1
Date: Mon, 19 Oct 2026 07:18:34 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-21 21:58:47.324058
Title: Secure Agentic Coding through Counterexample-Grounded Feedback
Title（参考訳）: 反例回避フィードバックによる安全なエージェント符号化
Abstract要約: 本稿では,反例的検証フレームワークであるfalconを紹介する。テストタイムの修理では、ファルコンは代替のセキュリティ信号よりもはるかに強力な機能セキュリティゲインを得る。 RL報酬として、falconは静的分析を上回り、ホールドアウト機能セキュリティに関する報酬を学んだ。
参考スコア（独自算出の注目度）: 15.77284246123483
License: http://creativecommons.org/licenses/by/4.0/
Abstract: As coding models and agent harnesses become more capable, reliable security verification is becoming a central bottleneck. Improving secure code generation requires a signal whose reported progress remains aligned with actual program behavior under optimization; otherwise, an optimizer can improve the signal's verdict without removing the underlying vulnerability. Existing model-based approaches require models to either infer program behavior from source code or specify correct outcomes for adversarial tests, placing substantial reasoning demands on the security signal. We introduce \falcon{}, a counterexample-grounded verification framework that separates attack exploration from behavioral verification and connects them through execution traces of the program under test. In test-time repair, \falcon{} yields substantially stronger held-out functional-security gains than alternative security signals across secure code generation benchmarks, while preserving or improving functionality. As an RL reward, \falcon{} also outperforms static-analysis and learned rewards on held-out functional-security, even when all policies successfully optimize their respective training rewards. Combining \falcon{} with either proxy reward further improves held-out performance, suggesting that execution-grounded feedback can mitigate reward overoptimization while preserving useful guidance from existing security signals.
Abstract（参考訳）: コーディングモデルとエージェントハーネスがより有能になるにつれて、信頼性の高いセキュリティ検証が中心的なボトルネックになりつつある。セキュアなコード生成を改善するには、報告された進捗が最適化中の実際のプログラム動作と一致している信号が必要である。既存のモデルベースのアプローチでは、ソースコードからプログラムの振る舞いを推測するか、逆行テストの正しい結果を指定するか、セキュリティ信号に相当な推論要求を課すモデルが必要である。我々は,攻撃探索と行動検証を分離し,テスト対象のプログラムの実行トレースを通じてそれらを接続する,反例付き検証フレームワークである \falcon{} を紹介した。テスト時の修復において、 \falcon{}は、機能を維持するか改善する一方で、セキュアなコード生成ベンチマーク間の代替セキュリティ信号よりもはるかに強力な機能セキュリティゲインを得る。 RLの報酬として、すべてのポリシーがそれぞれのトレーニング報酬をうまく最適化できたとしても、静的分析や、ホールドアウト機能セキュリティに関する報酬よりも優れています。 falcon{}とプロキシの報酬を組み合わせることで、ホールドアウトのパフォーマンスがさらに向上し、既存のセキュリティ信号から有用なガイダンスを保ちながら、実行時のフィードバックによって報酬の過度な最適化を軽減できることが示唆されている。

関連論文リスト

When Do Intrinsic Rewards Work for Code Reasoning? A Comprehensive Study [77.64957118012423]
検証可能な報酬(RLVR)による強化学習は、大規模言語モデル推論において大きな進歩をもたらした。最近の研究は、多数決や信頼に基づくスコアなど、モデル自身の信号から報酬を導き出すことによって、この問題に対処している。本稿では,コード生成における本質的な報酬手法の体系的研究について述べる。
論文参考訳（メタデータ） (2026-06-18T19:15:50Z)
On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文参考訳（メタデータ） (2026-05-12T09:56:28Z)
Enhancing Agent Safety Judgment: Controlled Benchmark Rewriting and Analogical Reasoning for Deceptive Out-of-Distribution Scenarios [0.2578242050187029]
ROMEは、既知の安全でないトラジェクトリを偽評価インスタンスに書き換える、制御されたベンチマーク構築パイプラインである。 ARISEは、外部アナログベースからReActスタイルのアナログ安全軌道を抽出し、それらを構造化推論例として注入する検索誘導推論時間拡張である。
論文参考訳（メタデータ） (2026-05-05T00:21:00Z)
ACE: Self-Evolving LLM Coding Framework via Adversarial Unit Test Generation and Preference Optimization [28.464748466548965]
ACEは、ソルバ・アドバイザリーアーキテクチャに基づく自己進化型コード生成フレームワークである。実行中心の監視を通じて、アクティブな障害発見を優先する。 ACEは強いソルバよりも一貫して優れています。
論文参考訳（メタデータ） (2026-04-17T07:20:01Z)
SecCodePRM: A Process Reward Model for Code Security [18.20834502693226]
SecCodePRMは、コンテキスト対応のステップレベルのセキュリティスコアをコード軌道に沿って割り当てるプロセス報酬モデルである。フルコード脆弱性検出(VD)、部分コードVD、セキュアコード生成(CG)の3つのアプリケーションがある。
論文参考訳（メタデータ） (2026-02-11T02:00:19Z)
Secure Code Generation via Online Reinforcement Learning with Vulnerability Reward Model [60.60587869092729]
大規模言語モデル(LLM)は、ソフトウェア開発でますます使われているが、安全でないコードを生成する傾向は、現実世界のデプロイメントにとって大きな障壁である。機能保存型セキュアコード生成のためのオンライン強化学習フレームワークSecCoderXを提案する。
論文参考訳（メタデータ） (2026-02-07T07:42:07Z)
Semantics-Preserving Evasion of LLM Vulnerability Detectors [14.476903104601154]
LLMベースの脆弱性検知器は、セキュリティクリティカルなコードレビューにますますデプロイされている。セマンティクス保存脅威モデルに基づく検出時間整合性の評価を行った。異なる攻撃方法/キャリア間での関節の堅牢性の測定基準を導入する。
論文参考訳（メタデータ） (2026-01-30T20:54:27Z)
CVeDRL: An Efficient Code Verifier via Difficulty-aware Reinforcement Learning [57.24524263804788]
コード検証は、LLMベースのコード生成の検証後において重要な役割を果たす。既存の教師付き微調整手法は、データの不足、高い失敗率、推論効率の低下に悩まされている。機能的な報酬しか持たない単純RLは、難しいブランチやサンプルに対して効果的な単体テストを生成することができないことを示す。
論文参考訳（メタデータ） (2026-01-30T10:33:29Z)
ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文参考訳（メタデータ） (2026-01-15T08:23:38Z)
How Secure is Secure Code Generation? Adversarial Prompts Put LLM Defenses to the Test [9.85596630285833]
本稿では,最先端のセキュアなコード生成手法に関する,最初の体系的な逆監査について述べる。静的アナライザはセキュリティを7～21回過大評価し,37～60%が非機能である。これらの知見に基づいて,ロバストなセキュアなコード生成手法の構築と評価のためのベストプラクティスを提案する。
論文参考訳（メタデータ） (2026-01-11T22:28:21Z)
Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文参考訳（メタデータ） (2025-08-17T23:46:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。