論文の概要: Safeguarding LLMs Against Misuse and AI-Driven Malware Using Steganographic Canaries

• arxiv url: http://arxiv.org/abs/2603.28655v1
• Date: Mon, 30 Mar 2026 16:40:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.514999
• Title: Safeguarding LLMs Against Misuse and AI-Driven Malware Using Steganographic Canaries
• Title（参考訳）: ステガノグラフィーカナリを用いた誤用とAI駆動型マルウェアに対するLLMの保護
• Abstract要約: AIを利用したマルウェアは、クラウドでホストされた生成AIサービスや大規模言語モデルを活用する傾向にある。 両方の脅威はAIサービスの取り込みバウンダリに収束するが、既存の防御はエンドポイントとネットワーク周辺に重点を置いている。 本稿では, 統計カナリアファイルに基づくフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 16.391742476325323
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI-powered malware increasingly exploits cloud-hosted generative-AI services and large language models (LLMs) as analysis engines for reconnaissance and code generation. Simultaneously, enterprise uploads expose sensitive documents to third-party AI vendors. Both threats converge at the AI service ingestion boundary, yet existing defenses focus on endpoints and network perimeters, leaving organizations with limited visibility once plaintext reaches an LLM service. To address this, we present a framework based on steganographic canary files: realistic documents carrying cryptographically derived identifiers embedded via complementary encoding channels. A pre-ingestion filter extracts and verifies these identifiers before LLM processing, enabling passive, format-agnostic detection without semantic classification. We support two modes of operation where Mode A marks existing sensitive documents with layered symbolic encodings (whitespace substitution, zero-width character insertion, homoglyph substitution), while Mode B generates synthetic canary documents using linguistic steganography (arithmetic coding over GPT-2), augmented with compatible symbolic layers. We model increasing document pre-processing and adversarial capability for both modes via a four-tier transport-transform taxonomy: All methods achieve 100% identifier recovery under benign and sanitization workflows (Tiers 1-2). The hybrid Mode B maintains 97% through targeted adversarial transforms (Tier 3). An end-to-end case study against an LLM-orchestrated ransomware pipeline confirms that both modes detect and block canary-bearing uploads before file encryption begins. To our knowledge, this is the first framework to systematically combine symbolic and linguistic text steganography into layered canary documents for detecting unauthorized LLM processing, evaluated against a transport-threat taxonomy tailored to AI malware.
• Abstract（参考訳）: AIを利用したマルウェアは、クラウドでホストされる生成AIサービスと大規模言語モデル(LLM)を、偵察とコード生成のための分析エンジンとして利用している。 同時に、企業は機密文書をサードパーティのAIベンダーに公開する。 どちらの脅威もAIサービスの取り込みバウンダリに収束するが、既存の防御はエンドポイントとネットワーク周辺に重点を置いており、平文がLLMサービスに到達すると、組織の可視性が制限される。 そこで本稿では,解析用カナリアファイルに基づくフレームワークを提案する。 プレインジェクションフィルタは、LLM処理の前にこれらの識別子を抽出し、検証し、意味分類なしで受動的で形式に依存しない検出を可能にする。 提案手法は,モードAが既存のセンシティブな文書に階層化された記号エンコーディング(ホワイトスペース置換,ゼロ幅文字挿入,ホモグリフ置換)を印字し,モードBが言語的ステガノグラフィー(GPT-2上でのパラメータ符号化)を用いて合成カナリア文書を生成する方式である。 我々は、4階層のトランスポート・トランスフォーメーション分類を用いて、両方のモードに対する文書前処理と敵対能力の増大をモデル化する: 良性および衛生的ワークフローの下で、すべてのメソッドが100%の識別子回復を達成する(Tiers 1-2)。 ハイブリッドモードBは、ターゲット対向変換により97%を維持している(Tier 3)。 LLM準拠のランサムウェアパイプラインに対するエンドツーエンドのケーススタディでは、両方のモードがファイル暗号化が始まる前にカナリア対応のアップロードを検出し、ブロックすることを確認している。 我々の知る限り、これは、AIマルウェアに適した輸送脅威分類法に対して評価された、無許可のLDM処理を検出するための階層化されたカナリア文書に、記号的および言語的テキストステガノグラフィーを体系的に組み合わせた最初のフレームワークである。

関連論文リスト

• SimSD: Simple Speculative Decoding in Diffusion Language Models [61.33773959352141]
  拡散大言語モデル (dLLMs) は、並列またはブロックワイド復号による高速な推論を提供する。 彼らのマスク付き言語モデリングの定式化は、標準的なトークンレベルの投機的復号法とは相容れないままである。 我々は,dLLMに時間的に有効なトークンレベルのコンテキストを付与する,SimSDと呼ばれるdLLMの投機的復号アルゴリズムを提案する。 提案手法は,平均生成品質を維持しつつ,最大7.46倍高い復号スループットを実現する。
  論文  参考訳（メタデータ） (2026-06-01T17:46:46Z)
• VectorSmuggle: Steganographic Exfiltration in Embedding Stores and a Cryptographic Provenance Defense [0.0]
  現代の検索拡張生成システム(RAG)は、センシティブなコンテンツを高次元の埋め込みに変換し、それらをベクトルデータベースに格納し、結果の数値的アーティファクトを不透明なものとして扱う。 これはステガノグラフィー・エクスプロイト・アタックのクラスを開放することを示している。 入力パイプラインへの書き込みアクセスを持つアタッカーは、埋め込み内にペイロードデータを隠蔽することができる。
  論文  参考訳（メタデータ） (2026-05-13T16:44:20Z)
• AsmRAG: LLM-Driven Malware Detection by Retrieving Functionally Similar Assembly Code [1.2183405753834562]
  本稿では,AsmRAGについて紹介する。 このシステムは、LLM(Code-specialized Large Language Model)を使用してアセンブリ関数を分析し、それらをセマンティックな埋め込みに変換する。 そこで本研究では,バイナリ内の悪意論理の一次単位を分離し,検証可能な法医学的証拠を抽出し,回避の試みに抵抗する密度重み付きアンカー選択機構を提案する。
  論文  参考訳（メタデータ） (2026-04-25T08:05:50Z)
• UniMark: Unified Adaptive Multi-bit Watermarking for Autoregressive Image Generators [1.7507301683087861]
  本稿では,自動回帰画像生成のためのトレーニングフリーで統一された透かしフレームワークを提案する。 textbf Semantic Grouping (ASG)、 textbfBlockwise Multi-bit。 3つのARモデルを用いた実験により、画像品質(FID)、透かし検出精度、マルチビットメッセージ抽出における最先端性能が得られた。
  論文  参考訳（メタデータ） (2026-04-12T16:22:24Z)
• DiffuGR: Generative Document Retrieval with Diffusion Language Models [80.78126312115087]
  本稿ではDiffuGRと呼ばれる拡散言語モデルを用いた生成文書検索を提案する。 推論のために、DiffuGRはDocIDトークンを並列に生成し、制御可能な多数のデノナイジングステップを通じてそれを洗練しようと試みている。 従来の左から右への自動回帰デコーディングとは対照的に、DiffuGRはより信頼性の高いDocIDトークンを生成するための新しいメカニズムを提供する。
  論文  参考訳（メタデータ） (2025-11-11T12:00:09Z)
• PADBen: A Comprehensive Benchmark for Evaluating AI Text Detectors Against Paraphrase Attacks [2.540711742769252]
  そこで本研究では,AIGT識別のために設計された検出システムに対して,繰り返しパラメタしたテキストが回避される理由について検討する。 パラフレーズ攻撃シナリオに対する検出ロバスト性を系統的に評価した最初のベンチマークであるPADBenを紹介する。
  論文  参考訳（メタデータ） (2025-11-01T05:59:46Z)
• Beyond Artificial Misalignment: Detecting and Grounding Semantic-Coordinated Multimodal Manipulations [56.816929931908824]
  マルチモーダルデータにおける意味的協調操作の検出の先駆者となった。 本稿では,RamDG(Retrieval-Augmented Manipulation Detection and Grounding)フレームワークを提案する。 我々のフレームワークは既存の手法よりも優れており、SAMMの精度は最先端の手法に比べて2.06%高い。
  論文  参考訳（メタデータ） (2025-09-16T04:18:48Z)
• StealthInk: A Multi-bit and Stealthy Watermark for Large Language Models [4.76514657698929]
  StealthInkは、大規模言語モデル(LLM)のためのステルスなマルチビット透かし方式である 元のテキスト配布を保存し、証明データの埋め込みを可能にする。 固定等誤り率で透かし検出に必要なトークン数に対する低い境界を導出する。
  論文  参考訳（メタデータ） (2025-06-05T18:37:38Z)
• Contextual Document Embeddings [77.22328616983417]
  本稿では,コンテキスト化された文書埋め込みのための2つの補完手法を提案する。 第一に、文書近傍を明示的にバッチ内コンテキスト損失に組み込む別のコントラスト学習目標である。 第二に、隣接する文書情報をエンコードされた表現に明示的にエンコードする新しいコンテキストアーキテクチャ。
  論文  参考訳（メタデータ） (2024-10-03T14:33:34Z)
• Supervised and Unsupervised Alignments for Spoofing Behavioral Biometrics [7.021534792043867]
  生体認証システムはユーザ固有の特性に基づいており、通常は埋め込みと呼ばれる高次元表現に符号化される。 我々は,アライメント手法を用いて,2つの行動バイオメトリックシステムに対してスプーフィング攻撃を行う。
  論文  参考訳（メタデータ） (2024-08-14T20:46:59Z)
• Bileve: Securing Text Provenance in Large Language Models Against Spoofing with Bi-level Signature [39.973130114073605]
  整合性チェックのための微細なシグネチャビットを埋め込んだバイレベルシグネチャスキームであるBileveを導入する。 Bileveは、検出中に5つのシナリオを区別し、テキストを確実にトレースし、LLMを制御する。
  論文  参考訳（メタデータ） (2024-06-04T03:58:14Z)
• SeqXGPT: Sentence-Level AI-Generated Text Detection [62.3792779440284]
  大規模言語モデル(LLM)を用いた文書の合成による文レベル検出の課題について紹介する。 次に,文レベルのAIGT検出機能として,ホワイトボックスLEMのログ確率リストを利用した textbfSequence textbfX (Check) textbfGPT を提案する。
  論文  参考訳（メタデータ） (2023-10-13T07:18:53Z)
• Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
  ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。 既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。 本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-07-31T10:22:33Z)
• Towards Codable Watermarking for Injecting Multi-bits Information to LLMs [86.86436777626959]
  大規模言語モデル(LLM)は、流布とリアリズムを増大させるテキストを生成する。 既存の透かし方式はエンコーディング非効率であり、多様な情報エンコーディングニーズに柔軟に対応できない。 テキスト透かしを複数ビットでカスタマイズ可能な情報を運ぶことができるCTWL (Codable Text Watermarking for LLMs) を提案する。
  論文  参考訳（メタデータ） (2023-07-29T14:11:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。