Fugu-MT 論文翻訳(概要): Security Impact of Coding Agent's Memory Files

論文の概要: Security Impact of Coding Agent's Memory Files

arxiv url: http://arxiv.org/abs/2610.38521v1
Date: Wed, 28 Oct 2026 09:33:08 GMT
ステータス: 翻訳完了
システム内更新日: 2026-11-03 10:22:52.901928
Title: Security Impact of Coding Agent's Memory Files
Title（参考訳）: 符号化エージェントのメモリファイルのセキュリティへの影響
Abstract要約: コーディングエージェントは、各セッションの開始時にCLAUDE.mdなどのプロジェクトメモリファイルを自動ロードし、信頼されたプロジェクトガイダンスとして扱う。安全でないコード生成のための攻撃面としてメモリファイルを研究する。
参考スコア（独自算出の注目度）: 1.240042112504577
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Coding agents automatically load project memory files such as CLAUDE.md at the start of every session and treat them as trusted project guidance. Anyone who can change such a file, for example through a pull request, can therefore steer the agent without ever touching the developer's prompt. We study memory files as an attack surface for insecure code generation and ask (1) whether a malicious memory file makes agents produce code that passes its tests but is vulnerable, and (2) whether agents disclose to the developer that the file shaped their code. For each of 12 CWE classes, we crafted two malicious memory files, a qualified variant that presents removing defensive checks as engineering best practice and a forceful variant that demands it. We ran Claude Code (Sonnet 5.5) and OpenCode (Qwen 3.8 27B, DeepSeek V4.1 Flash) on 36 SecRepoBench tasks with and without these files. The malicious files changed the rate of secure completions by -8 to +6 percentage points, with no consistent pattern across agents or variants. Agents differ sharply in what they tell the developer about the file. Claude Code names it in about two thirds of its final messages, whereas OpenCode mentions it almost exclusively in its reasoning trace, not in the final message the developer reads. Flagging the file as an attack does not reliably protect the code, as such agents still generated vulnerable code. We outline the larger studies needed to quantify this risk across agents and to design defenses.
Abstract（参考訳）: コーディングエージェントは、各セッションの開始時にCLAUDE.mdなどのプロジェクトメモリファイルを自動ロードし、信頼されたプロジェクトガイダンスとして扱う。そのため、例えばプルリクエストを通じてそのようなファイルを変更できる人は、開発者のプロンプトに触れることなくエージェントを操ることができる。安全でないコード生成のための攻撃面としてメモリファイルを研究し、(1)悪意のあるメモリファイルがテストに合格するが脆弱性のあるコードを生成するかどうかを問う。 12のCWEクラスごとに、2つの悪意あるメモリファイルを作成しました。私たちは、36のSecRepoBenchタスクでClaude Code(Sonnet 5.5)とOpenCode(Qwen 3.8 27B、DeepSeek V4.1 Flash)を実行しました。悪意のあるファイルは、安全な完了率を-8から+6に変更した。エージェントは、ファイルについて開発者に伝える内容で大きく異なる。 Claude Codeは、最後のメッセージの約3分の2でそれを命名するが、OpenCodeは、開発者が読む最後のメッセージではなく、その推論トレースにのみ言及している。攻撃としてファイルにフラグを付けることは、そのようなエージェントが依然として脆弱なコードを生成するため、確実にコードを保護しない。このリスクをエージェント間で定量化し、防御を設計するために必要な、より大きな研究の概要を概説する。

関連論文リスト

Compaction Laundering: Provenance Destruction in Context-Compacting Coding Agents [0.0]
私たちは、人気のあるオープンソースコーディングエージェントにおいて、このステップが悪用可能な信頼境界であることを示しています。エージェントが読み取ったものを何でも制御する攻撃者は、真の命令としてコンパクト化に耐えるユーザターンをフォージすることができる。コードレベルの前処理チェックを計測し、洗浄の77%をキャッチし、合法的な要約コンテンツの2%をデモする。
論文参考訳（メタデータ） (2026-10-21T15:24:23Z)
MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes [79.56668124357292]
本稿では,プローブを用いた脆弱性レポート評価フレームワークを提案する。報告されたエクスプロイトは、アプリケーションに対してそれを再生し、プローブを実行することで評価される。プローブが既知の脆弱性ではなくセキュリティプロパティをエンコードしているため、プローブがいつ書かれたか分からない脆弱性を検出することができる。
論文参考訳（メタデータ） (2026-09-21T01:21:06Z)
Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks [22.272681549351983]
我々は,Darwin Gdel Machine,Self-Improving Coding Agent,Hyperagentsの3つの自己修正型コーディングエージェントを攻撃した。我々は、ベンチマーク中毒攻撃を可能にするのに十分な脆弱性、ベンチマーク、モデル、エージェントの足場の特性を蒸留する。自己修正型コーディングエージェントは、このような攻撃に対してより回復力のあるように設計されなければならない、と我々は主張する。
論文参考訳（メタデータ） (2026-09-15T20:32:53Z)
Bad Memory: Evaluating Prompt Injection Risks from Memory in Agentic Systems [11.238342775567856]
サンドボックス合成作業空間を用いたメモリベースエージェントシステムにおけるインジェクションインジェクション攻撃について検討した。その結果、エージェントが信頼できない外部コンテンツを使って自分自身のメモリファイルを上書きすることは難しいが、これらのファイルにすでに組み込まれているペイロードは、現在のセッションと将来のセッションをうまく攻撃できることがわかった。
論文参考訳（メタデータ） (2026-07-16T06:13:48Z)
When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
論文参考訳（メタデータ） (2026-07-06T15:08:58Z)
Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens [65.53494487819053]
クローのようなAIエージェント(OpenClawなど)は、認証情報、ファイル、ツール、外部サービスへの永続的なアクセスを伴う、常にオンのプロセスである。我々はClawのようなエージェントをエージェントコンピュータシステムとして扱い、そのゲートウェイランタイムがOSのような仲介の役割を担っている。我々は、4つの攻撃面にわたる406の敵タスクのベンチマークであるSafeClawArenaを開発した。
論文参考訳（メタデータ） (2026-06-29T18:00:45Z)
The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
論文参考訳（メタデータ） (2025-12-01T07:05:23Z)
Agent READMEs: An Empirical Study of Context Files for Agentic Coding [8.019313057979522]
我々は1,925のリポジトリから2,303のエージェントコンテキストファイルを調べ、それらの構造、保守、およびコンテンツを特徴付ける。これらのファイルは静的なドキュメントではなく、コンフィグレーションコードのように進化し、頻繁で小さな追加によって維持される複雑で読みにくいアーティファクトであることが分かりました。これらの結果は、開発者がコンテキストファイルを使用してエージェントを機能させる一方で、エージェント記述コードの安全性やパフォーマンスを保証するためのガードレールはほとんど提供せず、ツールやプラクティスの改善の必要性を強調していることを示している。
論文参考訳（メタデータ） (2025-11-17T02:18:55Z)
When "Correct" Is Not Safe: Can We Trust Functionally Correct Patches Generated by Code Agents? [32.85968956009615]
コードエージェントは、GitHubなどのプラットフォーム上のバグを自律的に修正することをますます信頼している。本稿では,実世界のコードエージェントに対する新たなタイプの脅威を明らかにする。我々は、SOTA LLM(例えば、ChatGPTとClaude)とエージェントの足場(例えば、SWE-agentとOpenHands)がこのFCV脅威に対して脆弱であることを示す。
論文参考訳（メタデータ） (2025-10-15T17:16:36Z)
RedCode: Risky Code Execution and Generation Benchmark for Code Agents [50.81206098588923]
RedCodeはリスクの高いコード実行と生成のためのベンチマークである。 RedCode-Execは、危険なコード実行につながる可能性のある、挑戦的なプロンプトを提供する。 RedCode-Genは160のプロンプトに関数シグネチャとドキュメントを入力として提供し、コードエージェントが命令に従うかどうかを評価する。
論文参考訳（メタデータ） (2024-11-12T13:30:06Z)
ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。 3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
論文参考訳（メタデータ） (2024-07-12T10:59:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。