論文の概要: Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models
- arxiv url: http://arxiv.org/abs/2608.03009v1
- Date: Tue, 04 Aug 2026 01:42:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 07:04:20.68734
- Title: Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models
- Title（参考訳）: 小さな言語モデルで動く遠隔操作トロイの木馬
- Abstract要約: 局所展開型小型言語モデル(SLM)を用いたエージェントリモートアクセストロイの木馬(エージェントRTT)について検討する。
SLMはホストとネットワークの観測を解釈し、アクションを選択し、失敗したステップから回復し、外部オペレータへの依存を減らす。
我々は、この小さなモデルが自律的なサイバー意思決定をサポートするかどうかをテストする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic artificial intelligence raises a new security concern: cyber threats that reason, act, and adapt locally without continuous human direction. We examine this threat through an Agentic Remote Access Trojan (agentic RAT): a Remote Access Trojan augmented with a locally deployed Small Language Model (SLM). The SLM interprets host and network observations, selects actions, recovers from failed steps, and reduces reliance on an external operator. We implement the concept in a controlled, network-isolated lab built from Kali Linux, a Metasploitable2 target, LM Studio, and a local 8-billion-parameter Dolphin-family model. We then test whether a model this small can support autonomous cyber decision-making. This is architecturally feasible today. On commodity hardware, with no cloud service and no operator in the loop, the SLM closed the full observe-decide-act cycle: it interpreted ranked reconnaissance evidence supplied by the controller, selected actions, and obtained verified root-shell access on real vulnerable services. However, it is not yet operationally reliable. The same model hallucinated commands, misread output, and recovered from failure inconsistently, completing 10.9% of a deliberately strict checklist. That gap reflects the limits of today's small models, not a ceiling on the concept. As SLMs improve, agentic endpoint systems may become more practical, more autonomous, and harder to detect, straining existing monitoring, containment, and policy-enforcement mechanisms. Real-world incidents in 2025-2026 already show AI-driven intrusions moving from concept toward practice. That makes the local, self-contained variant we study a plausible near-term direction, not a hypothetical one.
- Abstract（参考訳）: エージェント人工知能(Agenic AI)は、新たなセキュリティ上の懸念を提起する。
本稿では,この脅威をエージェント・リモート・アクセス・トロイの木馬(エージェント・リモート・アクセス・トロイの木馬)を用いて検討する。
SLMはホストとネットワークの観測を解釈し、アクションを選択し、失敗したステップから回復し、外部オペレータへの依存を減らす。
我々は、Kali Linux、Metasploitable2ターゲット、LM Studio、およびローカル8ビリオンパラメーターDolphinファミリーモデルから構築された制御されたネットワーク分離ラボでこの概念を実装した。
そして、この小さなモデルが自律的なサイバー意思決定をサポートするかどうかをテストする。
これは今日、建築的に実現可能である。
一般のハードウェアでは、クラウドサービスが無く、ループにオペレーターがいないため、SLMは完全な監視・デシド・アクト・サイクルを閉じた。
しかし、まだ運用上の信頼性は低い。
同じモデルではコマンドを幻覚し、誤読出力を行い、失敗から回復し、意図的に厳格なチェックリストの10.9%を完了した。
このギャップは、コンセプトの天井ではなく、今日の小さなモデルの限界を反映しています。
SLMが向上するにつれて、エージェントエンドポイントシステムはより実用的で、より自律的になり、既存の監視、封じ込め、およびポリシー強化メカニズムを検出するのが難しくなる。
2025-2026年の現実世界のインシデントは、すでにAIによる侵入が概念から実践へと移行していることを示している。
これにより、局所的で自己完結した変種は、仮説ではなく、プラウチブルな短期的な方向を研究することになる。
関連論文リスト
- TrojanWorld: Backdooring World-Model Agents via Imagination Steering [65.38754125569848]
TrojanWorldは、世界モデルエージェントのためのバックドアフレームワークで、内部の想像力を操ることで攻撃者が特定した振る舞いを誘導する。
トリガーアクティベーションの下では、トロイジャンワールドは0.026までの目標アクション偏差を達成し、対応するクリーンパフォーマンスの少なくとも98.8%を維持している。
論文 参考訳（メタデータ） (2026-09-07T05:14:10Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - (A)iSpy: Parasitic Trojans for Machine Learning Infrastructure [7.1179345405416035]
現在の機械学習パイプラインは、グラフコンパイルとハードウェアアクセラレーションのためのサードパーティライブラリに大きく依存している。
A)iSpyは,アクティブな観察・実行パラダイムを通じてMLシステムを置換する寄生基盤である。
サブポピュレーションラベルのフリップ、アベイラビリティの破壊、推論ステージ操作などの補助攻撃を検証することで、機械学習ライフサイクルにおける幅広い実践性を実証する。
論文 参考訳（メタデータ） (2026-07-20T04:51:20Z) - Mako: A Self-Evolving Agentic Operating System (SE-AOS) for Autonomous Web Exploitation [0.0]
自己進化型エージェントオペレーティングシステム(SE-AOS)について紹介する。
Makoは、セキュリティ研究と自動Webエクスプロイトエンジンのための最初のSE-AOSインスタンスである。
論文 参考訳（メタデータ） (2026-07-13T09:07:30Z) - The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems [0.0]
本稿では,AIシステムのアーキテクチャ制御を実現するRustリファレンス実装であるUnfireable Safety Kernelを紹介する。
我々は,生きた,回避可能なAIシステム,決定論的,自己改善的な世界モデルを管理するカーネルを,逃げ出す敵に対して評価する。
論文 参考訳（メタデータ） (2026-06-24T17:32:27Z) - AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。
既存の安全機構は主に外部ガードレールに依存している。
我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文 参考訳（メタデータ） (2026-06-21T21:13:55Z) - From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors [89.92617739143846]
ローカルエージェントハーネスにおけるマルチステップトロイの木馬攻撃を識別するベンチマークであるClawTrojanを紹介する。
そこで我々は,DASGuardを提案する。DASGuardは,コントロールライクなテキストをセンシティブなローカルファイルでスキャンし,その起源を辿り,信頼されたソースから派生しないコントロールコンテンツを除去する。
この結果から, DASGuardは, 実行時の攻撃ブロックと作業空間への衛生的コミットを組み合わせることで, 強力な動的防御を実現することがわかった。
論文 参考訳（メタデータ） (2026-05-29T09:19:07Z) - When Child Inherits: Modeling and Exploiting Subagent Spawn in Multi-Agent Networks [4.0552376861221635]
我々は、サブエージェント継承のレンズを通して、現代のマルチエージェントネットワークをモデル化する。
我々の分析によると、現在のフレームワークは、安全でないメモリ継承、リソース制御の弱い、スポーニング後の古い状態、不適切な終了権限を通じて、信頼境界に違反する可能性がある。
論文 参考訳（メタデータ） (2026-05-08T20:27:23Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z) - Evil from Within: Machine Learning Backdoors through Hardware Trojans [51.81518799463544]
バックドアは、自動運転車のようなセキュリティクリティカルなシステムの整合性を損なう可能性があるため、機械学習に深刻な脅威をもたらす。
私たちは、機械学習のための一般的なハードウェアアクセラレーターに完全に存在するバックドアアタックを導入します。
我々は,Xilinx Vitis AI DPUにハードウェアトロイの木馬を埋め込むことにより,攻撃の実現可能性を示す。
論文 参考訳（メタデータ） (2023-04-17T16:24:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。