論文の概要: AuraForge: Scaling Security Supervision for Training Coding Agents
- arxiv url: http://arxiv.org/abs/2610.00850v1
- Date: Thu, 01 Oct 2026 00:07:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.813735
- Title: AuraForge: Scaling Security Supervision for Training Coding Agents
- Title（参考訳）: AuraForge: コーディングエージェントのトレーニングのためのセキュリティスーパービジョンのスケーリング
- Abstract要約: 我々はAuraForgeを導入し、セキュアなコーディングエージェントを訓練するための実行可能なセキュリティテストを合成し、検証する。
本手法は,アタック指向テスト合成,言語拡張性タスク構築,報酬ハッキング対策を併用する。
- 参考スコア（独自算出の注目度）: 10.854053723458335
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Coding agents are now proficient enough to generate complex software applications from a single prompt. As their capabilities have grown, human oversight has increasingly shifted from line-by-line code review toward hands-off evaluation of outcomes. However, recent studies have shown that such a transition exposes a critical risk: functional correctness alone does not guarantee a secure implementation. Despite growing attention to code security, training safer coding agents remains challenging because reliable security supervision is difficult to obtain at scale from real-world repositories. We introduce AuraForge to synthesize and validate executable security tests for training secure coding agents. Our approach combines attack-oriented test synthesis, language-extensible task construction, and safeguards against reward hacking. Using AuraForge, we construct AuraGym, a multi-language and multi-CWE executable training gym: 679 executable feature-implementation tasks from 344 real-world repositories across Python, JavaScript, and TypeScript, covering 177 CWE categories. On the subset with human-written security tests, AuraForge produces about 3 times as many test cases on average and reduces the false-positive rate by 83.23%, allowing alternative secure implementations to receive correct supervision. Training Qwen3.5-4B with synthesized security tests gains larger improvements than human-written security tests (average 19.7 FuncPass and 6.2 SecPass vs. 14.9 FuncPass and 4.4 SecPass) on three languages. These results demonstrate that AuraForge provides more diverse and reliable security supervision to train secure coding agents.
- Abstract（参考訳）: コーディングエージェントは、単一のプロンプトから複雑なソフトウェアアプリケーションを生成するのに十分な技術を持っている。
彼らの能力が向上するにつれて、人間の監視は、行ごとのコードレビューから成果のハンズアウト評価へとシフトしている。
しかし、最近の研究では、そのような移行が重大なリスクを露呈していることが示されている:機能的正しさだけでは安全な実装は保証されない。
コードのセキュリティに注目が集まる一方で、信頼性の高いセキュリティ監視が現実のリポジトリから大規模に取得することが難しいため、より安全なコーディングエージェントのトレーニングは依然として困難である。
我々はAuraForgeを導入し、セキュアなコーディングエージェントを訓練するための実行可能なセキュリティテストを合成し、検証する。
本手法は,アタック指向テスト合成,言語拡張性タスク構築,報酬ハッキング対策を併用する。
AuraForgeを使って、AuraGymという多言語および多言語CWE実行可能なトレーニングジムを構築します。 Python、JavaScript、TypeScriptで344の現実世界リポジトリから679の実行可能な機能実装タスクを実行し、177のCWEカテゴリをカバーしています。
人間によるセキュリティテストのサブセットでは、AuraForgeは平均して3倍の数のテストケースを生成し、偽陽性率を83.23%削減し、代替の安全な実装が正しい監督を受けることができる。
合成されたセキュリティテストによるQwen3.5-4Bのトレーニングは、3つの言語での人間によるセキュリティテスト(平均19.7 FuncPassと6.2 SecPass対14.9 FuncPassと4.4 SecPass)よりも大幅に改善されている。
これらの結果は、AuraForgeがセキュアなコーディングエージェントをトレーニングするための、より多種多様な信頼性の高いセキュリティ監視を提供することを示している。
関連論文リスト
- SecureVibe: Making Vibe Coding More Secure [61.91825980991689]
SECUREVIBEは、コードセキュリティのための計画とテストを明確にターゲットとするトレーニングレシピである。
4つのセキュリティタスクとポストトレーニングメソッドを備えたセキュリティスイートの教師付き微調整が含まれている。
4つのベンチマークで2種類のセキュリティコーディングタスクのベースラインを上回ります。
論文 参考訳（メタデータ） (2026-09-29T22:10:28Z) - Trajectory-Level Security Debt in LLM Coding Agents [9.94610766766536]
セキュリティ負債ライン エージェントが新しいベストテストパス比に達すると、Integralは静的分析リスクを蓄積する。
2tool Common Weaknession (CWE)クラス契約はSWEベンチの3.9%で行われ、80プログラムベンチの26.2%は少なくとも90%の公式テストに合格している。
論文 参考訳（メタデータ） (2026-09-28T13:57:29Z) - RUBAS: Rubric-Based Reinforcement Learning for Agent Safety [93.80584563695646]
RUBASは、エージェント安全性のためのルーリックベースの強化学習フレームワークである。
エージェントの動作は、ツール使用の安全性、引数の安全性、応答の安全性、役に立つ4つの次元に分けられる。
実験により、RUBASは標準アライメントベースラインよりも安全性を向上し、ツール接地幻覚を低減し、競争力を維持することが示されている。
論文 参考訳（メタデータ） (2026-06-02T09:02:14Z) - Execution-Grounded Security Testing for Coding Agents in Software Engineering Pipelines [24.766671285910935]
コーディングエージェントはますますシステムオペレーションに統合されている。
これにより、セキュリティテストがシステムの問題になる。
この実行層セキュリティ境界を探索するための、実行地上のレッドチームテストフレームワークを提案する。
論文 参考訳（メタデータ） (2026-06-01T04:20:25Z) - BraveGuard: From Open-World Threats to Safer Computer-Use Agents [68.38397514360227]
BraveGuardは、オープンワールドの脅威信号とリアルエージェントの軌道からモデルを訓練するための自己進化型防衛フレームワークである。
我々は、Qwen3-GuardやLlama-Guardなど複数のガードバックボーンをトレーニングしてBraveGuardをインスタンス化し、トラジェクトリレベルのエージェントセーフティベンチマークの結果のガードを評価する。
論文 参考訳（メタデータ） (2026-05-31T11:16:18Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。
我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
論文 参考訳（メタデータ） (2026-01-30T08:29:01Z) - How Secure is Secure Code Generation? Adversarial Prompts Put LLM Defenses to the Test [9.85596630285833]
本稿では,最先端のセキュアなコード生成手法に関する,最初の体系的な逆監査について述べる。
静的アナライザはセキュリティを7～21回過大評価し,37～60%が非機能である。
これらの知見に基づいて,ロバストなセキュアなコード生成手法の構築と評価のためのベストプラクティスを提案する。
論文 参考訳（メタデータ） (2026-01-11T22:28:21Z) - SecureAgentBench: Benchmarking Secure Code Generation under Realistic Vulnerability Scenarios [17.276786247873613]
SecureAgentBenchは、セキュアなコード生成において、コードエージェントの機能を厳格に評価するために設計された105のコーディングタスクのベンチマークである。
その結果、(i)現在のエージェントがセキュアなコードを生成するのに苦労していることが示され、最高のパフォーマンスのエージェントであるDeepSeek-V3.1がサポートしているSWE-agentも15.2%の正安のソリューションしか達成していない。
論文 参考訳（メタデータ） (2025-09-26T09:18:57Z) - OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。
従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。
ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
論文 参考訳（メタデータ） (2025-07-08T16:18:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。