論文の概要: Trojan Horse: Automated Repository Poisoning against Coding Agents

• arxiv url: http://arxiv.org/abs/2610.23109v1
• Date: Fri, 16 Oct 2026 08:19:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.827262
• Title: Trojan Horse: Automated Repository Poisoning against Coding Agents
• Title（参考訳）: トロイの木馬、自動レポジトリで麻薬取締り
• Abstract要約: 私たちは、リポジトリ中毒のための最初の自動化フレームワークであるTrojanForgeを紹介します。 TrojanForgeは抽象構文木(AST)を通じてリポジトリ構造を解析し、エージェントの実行トレースをASTノードにマップする。 セキュリティレビューエージェントは、これらの候補をランク付けし、ペイロード実装の最も目立たない候補を選択する。 その後、ターゲットエージェントとの敵対的なプレイを通じて、TrojanForgeは、エージェント検出の原因を逆転させ、リポジトリ間で蓄積された成功体験を移譲することにより、疑似戦略を反復的に洗練する。
• 参考スコア（独自算出の注目度）: 11.249916142916426
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Coding agents are increasingly capable with autonomy, which exposes them to repository-level poisoning. Existing red-teaming studies remain restricted to manual selection for malicious payload locations and fixed disguise strategies, which cannot represent realistic repository poisoning. We present TrojanForge, the first automated framework for repository poisoning. TrojanForge parses repository structure through abstract syntax trees (AST) and maps agent execution traces onto AST nodes. A security review agent ranks these candidates and selects the least conspicuous ones for payload mounting. Then, through adversarial play with the target agent, TrojanForge iteratively refines disguise strategies by inverting the causes of agent detection, and transfers accumulated success experience across repositories. We further construct TrojanBench, a benchmark of 384 poisoned repositories spanning 6 domains and 9 programming languages. Extensive experiments show that TrojanForge achieves a stable poisoning success rate of over 60% with backdoor injection exceeding 90%. Comprehensive evaluation on TrojanBench across 4 harnesses and 12 models reveals that even commercial agents fail to defend against repository-level poisoning.
• Abstract（参考訳）: コーディングエージェントは自律性が高くなり、リポジトリレベルの毒に晒される。 既存のレッドチーム研究は、悪意のあるペイロードロケーションのマニュアル選択と、現実的なリポジトリ中毒を表現できない固定された偽装戦略に制限されている。 私たちは、リポジトリ中毒のための最初の自動化フレームワークであるTrojanForgeを紹介します。 TrojanForgeは抽象構文木(AST)を通じてリポジトリ構造を解析し、エージェントの実行トレースをASTノードにマップする。 セキュリティレビューエージェントは、これらの候補をランク付けし、ペイロード実装の最も目立たない候補を選択する。 その後、ターゲットエージェントとの敵対的なプレイを通じて、TrojanForgeは、エージェント検出の原因を逆転させ、リポジトリ間で蓄積された成功体験を移譲することにより、疑似戦略を反復的に洗練する。 さらに6つのドメインと9つのプログラミング言語にまたがる384の有毒リポジトリのベンチマークであるTrojanBenchを構築した。 徹底的な実験により、トロイジャンフォージは90%を超えるバックドア注射で60%以上の安定な中毒成功率を達成した。 4つのハーネスと12のモデルにわたるTrojanBenchの総合的な評価は、商用エージェントでさえリポジトリレベルの中毒を防げないことを示している。

関連論文リスト

• Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks [22.272681549351983]
  我々は,Darwin Gdel Machine,Self-Improving Coding Agent,Hyperagentsの3つの自己修正型コーディングエージェントを攻撃した。 我々は、ベンチマーク中毒攻撃を可能にするのに十分な脆弱性、ベンチマーク、モデル、エージェントの足場の特性を蒸留する。 自己修正型コーディングエージェントは、このような攻撃に対してより回復力のあるように設計されなければならない、と我々は主張する。
  論文  参考訳（メタデータ） (2026-09-15T20:32:53Z)
• From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors [89.92617739143846]
  ローカルエージェントハーネスにおけるマルチステップトロイの木馬攻撃を識別するベンチマークであるClawTrojanを紹介する。 そこで我々は,DASGuardを提案する。DASGuardは,コントロールライクなテキストをセンシティブなローカルファイルでスキャンし,その起源を辿り,信頼されたソースから派生しないコントロールコンテンツを除去する。 この結果から, DASGuardは, 実行時の攻撃ブロックと作業空間への衛生的コミットを組み合わせることで, 強力な動的防御を実現することがわかった。
  論文  参考訳（メタデータ） (2026-05-29T09:19:07Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Scanning Trojaned Models Using Out-of-Distribution Samples [8.701370432442216]
  ディープニューラルネットワークにおけるトロイの木馬(バックドア)は、その重要な実世界の応用のために重要である。 本稿では,TRODO (TROjan scan by Detection of adversarial shifts in Out-of-distriion sample) という新しい走査法を提案する。 TRODOはトロイの木馬とラベルのマッピングであり、敵対的に訓練されたトロイの木馬分類器にも有効である。
  論文  参考訳（メタデータ） (2025-01-28T18:53:14Z)
• Quarantine: Sparsity Can Uncover the Trojan Attack Trigger for Free [126.15842954405929]
  トロイの木馬攻撃はディープニューラルネットワーク(DNN)を脅かし、ほとんどのサンプルで正常に動作させるが、トリガーを付けた入力に対して操作された結果を生成する。 そこで我々は,まず,クリーンな入力において,ほぼ完全なトロイの木馬の情報のみを保存し,かつ,すでに孤立しているサブネットワークに埋め込まれたトリガを復元する,新しいトロイの木馬ネットワーク検出方式を提案する。
  論文  参考訳（メタデータ） (2022-05-24T06:33:31Z)
• PolicyCleanse: Backdoor Detection and Mitigation in Reinforcement Learning [19.524789009088245]
  マルチエージェント競争強化学習システムにおけるバックドア検出の問題を提案する。 PolicyCleanseは、活性化されたトロイの木馬のエージェントがいくつかの時間経過後に顕著に低下した性質に基づいている。 PolicyCleanseとともに、検出されたバックドアを効果的に緩和できる機械学習ベースのアプローチも設計します。
  論文  参考訳（メタデータ） (2022-02-08T02:49:09Z)
• A Synergetic Attack against Neural Network Classifiers combining Backdoor and Adversarial Examples [11.534521802321976]
  AdvTrojanと呼ばれる新たなステルス攻撃を実際に開始するために、敵の摂動と毒殺の脆弱性を共同で活用する方法を示します。 AdvTrojan は、(1) 慎重に製作された逆方向の摂動を推論中に入力例に注入し、2) モデルの訓練過程中にトロイの木戸を埋め込んだ場合にのみ起動できるため、ステルス性が高い。
  論文  参考訳（メタデータ） (2021-09-03T02:18:57Z)
• Odyssey: Creation, Analysis and Detection of Trojan Models [91.13959405645959]
  トロイの木馬攻撃は、一部のトレーニングサンプルにトリガーを挿入してトレーニングパイプラインを妨害し、トリガーを含むサンプルに対してのみ悪意ある動作をするようにモデルを訓練する。 既存のトロイの木馬検出器はトリガーの種類や攻撃について強い仮定をしている。 そこで本研究では,トロヤニング過程の影響を受け,本質的特性の分析に基づく検出器を提案する。
  論文  参考訳（メタデータ） (2020-07-16T06:55:00Z)
• An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks [59.42357806777537]
  トロイの木馬攻撃は、ハッカーが挿入した隠れトリガーパターンに依存する、デプロイされたディープニューラルネットワーク(DNN)を攻撃することを目的としている。 そこで本研究では,有毒データセットの再学習モデルによりトロイの木馬の挙動を注入する,従来と異なる学習自由攻撃手法を提案する。 提案したTrojanNetには,(1)小さなトリガパターンによって起動し,他の信号に対してサイレントを維持する,(2)モデルに依存しない,ほとんどのDNNに注入可能な,(3)攻撃シナリオを劇的に拡張する,(3)訓練不要のメカニズムは従来のトロイの木馬攻撃方法と比較して大規模なトレーニング作業の削減など,いくつかの優れた特性がある。
  論文  参考訳（メタデータ） (2020-06-15T04:58:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。