論文の概要: Adaptive Code Revision Attacks on AI Pull Request Reviewers
- arxiv url: http://arxiv.org/abs/2610.05399v1
- Date: Sun, 04 Oct 2026 17:34:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 14:04:31.747567
- Title: Adaptive Code Revision Attacks on AI Pull Request Reviewers
- Title（参考訳）: AIプルリクエストレビュアーに対するアダプティブコード修正攻撃
- Abstract要約: プルリクエストレビューは、新しいコードがユーザに到達する前にソフトウェアを保護する。
脆弱性のあるコードを提出するアタッカーに対して、フィードバックは、どのような変更が承認を確保するかも明らかにする。
既存のPR攻撃は、実行可能コードの修正を維持しながら、説得力のあるテキストやコメントを通じてそのような承認を求める。
これにより、攻撃者が修正されたコードの脆弱性を保持しながら、報告された問題を修正するためにフィードバックを使用できるかどうかが明らかになる。
- 参考スコア（独自算出の注目度）: 14.792495252879398
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pull-request review protects software before new code reaches users, helping prevent vulnerabilities that could expose users to attacks. AI agents increasingly perform these reviews and explain which problems need fixing. However, for an attacker submitting vulnerable code, this feedback also reveals what changes may secure approval. Existing PR attacks seek such approval through persuasive text and comments while keeping executable code fixed. This leaves unclear whether an attacker can use the feedback to repair the reported problem while preserving a vulnerability in the revised code. We therefore conduct an empirical study of this threat using AFCRA (Adaptive Feedback-guided Code Revision Attack). To distinguish successful attacks from genuine repairs, we construct AFCRA-Bench from 159 disclosed vulnerabilities, with executable exploits to verify vulnerabilities in code. Across five-round interactions with Sonnet 5 and GPT-5.5 reviewers, AFCRA reaches success rates 2.5x and 12.5x those of the strongest evaluated text- or comment-based attack. Case studies of these successes show how reviewers accept repairs of reported problems while overlooking surviving vulnerabilities. These findings establish feedback-guided code revision as a threat to automated PR review. To address this threat, we derive actionable implications for researchers, AI providers, PR reviewers, and PR authors on securing AI-assisted development.
- Abstract（参考訳）: プルリクエストレビューは、新しいコードがユーザに到達する前にソフトウェアを保護する。
AIエージェントは、これらのレビューを実行し、どの問題を修正する必要があるかを説明している。
しかしながら、攻撃者が脆弱性のあるコードを提出する場合、このフィードバックは、どのような変更が承認を確保できるかも明らかにする。
既存のPR攻撃は、実行可能コードの修正を維持しながら、説得力のあるテキストやコメントを通じてそのような承認を求める。
これにより、攻撃者が修正されたコードの脆弱性を保持しながら、報告された問題を修正するためにフィードバックを使用できるかどうかが明らかになる。
そこで我々は、AFCRA(Adaptive Feedback-guided Code Revision Attack)を用いて、この脅威を実証研究する。
AFCRA-Benchを159個の脆弱性から構築し,コード中の脆弱性を検証した。
Sonnet 5 や GPT-5.5 のレビュアーとの5ラウンドのやりとりの中で、AFCRA は最も評価の高いテキストベースまたはコメントベースの攻撃の2.5倍と12.5倍の成功率に達した。
これらの成功の事例研究は、生き残った脆弱性を見落としながら報告された問題の修復をレビュアーがどのように受け入れるかを示している。
これらの結果から,自動PRレビューの脅威として,フィードバック誘導型コードリビジョンが確立された。
この脅威に対処するために、研究者、AIプロバイダ、PRレビュアー、PR著者に対して、AI支援開発を確保するための実用的な意味を導き出します。
関連論文リスト
- MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes [79.56668124357292]
本稿では,プローブを用いた脆弱性レポート評価フレームワークを提案する。
報告されたエクスプロイトは、アプリケーションに対してそれを再生し、プローブを実行することで評価される。
プローブが既知の脆弱性ではなくセキュリティプロパティをエンコードしているため、プローブがいつ書かれたか分からない脆弱性を検出することができる。
論文 参考訳（メタデータ） (2026-09-21T01:21:06Z) - SEVRA-BENCH: Social Engineering of Vulnerabilities in Review Agents [21.409263140916327]
大規模言語モデル (LLM) レビュアーはプルリクエスト (PR) においてますます使われている。
これにより、静的な脆弱性検出やコード生成のベンチマークが対処しないという疑問が持ち上がる。
自動レビュアーがそのようなプルリクエストを承認する頻度を測定するベンチマークであるSEVRA-BENCHを紹介する。
論文 参考訳（メタデータ） (2026-06-11T16:35:56Z) - Measuring and Exploiting Confirmation Bias in LLM-Assisted Security Code Review [6.417595678110472]
ソフトウェアサプライチェーン攻撃において,確認バイアスがLSMベースの脆弱性検出に影響を及ぼすか,また,この障害モードを悪用できるかを検討する。
調査1では,5つのフレーミング条件下で4つの最先端モデルに対して評価された250個のCVE脆弱性/パッチペアに対する制御実験により,確認バイアスを定量化する。
調査2は、既知の脆弱性を再導入する敵のプルリクエストを模倣して、セキュリティの改善やプルリクエストメタデータによる緊急機能修正を実施可能であることを評価する。
論文 参考訳（メタデータ） (2026-03-19T10:40:27Z) - When "Correct" Is Not Safe: Can We Trust Functionally Correct Patches Generated by Code Agents? [32.85968956009615]
コードエージェントは、GitHubなどのプラットフォーム上のバグを自律的に修正することをますます信頼している。
本稿では,実世界のコードエージェントに対する新たなタイプの脅威を明らかにする。
我々は、SOTA LLM(例えば、ChatGPTとClaude)とエージェントの足場(例えば、SWE-agentとOpenHands)がこのFCV脅威に対して脆弱であることを示す。
論文 参考訳（メタデータ） (2025-10-15T17:16:36Z) - Bag of Tricks for Subverting Reasoning-based Safety Guardrails [62.139297207938036]
推論に基づくガードレールを覆い隠すジェイルブレイク手法の袋を提示する。
攻撃対象は白、グレー、ブラックボックスの設定で、無駄なテンプレート操作から完全に自動化された最適化までさまざまです。
論文 参考訳（メタデータ） (2025-10-13T16:16:44Z) - GitHub's Copilot Code Review: Can AI Spot Security Flaws Before You Commit? [0.0]
この研究は、セキュリティ脆弱性の検出においてGitHub Copilotが最近導入したコードレビュー機能の有効性を評価する。
期待に反して、私たちの結果は、Copilotのコードレビューが重大な脆弱性を検出するのに頻繁に失敗することを示している。
私たちの結果は、堅牢なソフトウェアセキュリティを保証するために、専用のセキュリティツールと手作業によるコード監査が引き続き必要であることを示している。
論文 参考訳（メタデータ） (2025-09-17T02:56:21Z) - Adversarial Bug Reports as a Security Risk in Language Model-Based Automated Program Repair [1.1677624591989955]
自動プログラム修復(APR)システムは、現代のソフトウェア開発にますます統合されている。
本稿では,敵のバグ報告によるセキュリティリスクについて検討する。
我々は、包括的脅威モデルを開発し、そのような攻撃に対する最先端のAPRシステムの脆弱性を評価するための実証的研究を行う。
論文 参考訳（メタデータ） (2025-09-04T09:41:57Z) - Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。
我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。
評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
論文 参考訳（メタデータ） (2025-06-06T17:33:33Z) - TextGuard: Provable Defense against Backdoor Attacks on Text
Classification [83.94014844485291]
テキスト分類に対するバックドア攻撃に対する最初の証明可能な防御であるTextGuardを提案する。
特にTextGuardは、(バックドアされた)トレーニングデータをサブトレーニングセットに分割し、各トレーニング文をサブ文に分割する。
本評価では,3つのベンチマークテキスト分類タスクにおけるTextGuardの有効性を示す。
論文 参考訳（メタデータ） (2023-11-19T04:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。