論文の概要: Weird Machine Compositors: Exploiting AI Orchestration at the Expression Layer

• arxiv url: http://arxiv.org/abs/2609.33413v1
• Date: Sun, 27 Sep 2026 09:49:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 17:08:53.382606
• Title: Weird Machine Compositors: Exploiting AI Orchestration at the Expression Layer
• Title（参考訳）: Weird Machine Compositors: 表現層でAIオーケストレーションを爆発させる
• Abstract要約: オーケストレーションプラットフォームは、サンドボックスの列挙とブロックを通じて、ユーザが提供する式を保護する。 これらのサンドボックスは、命令セットが基礎となる言語仕様である奇妙なマシンであることを実証する。 これらの発見は,オーケストレーション製品カテゴリ全体にわたって,サンドボックス障害の広範なパターンの中に置かれています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Orchestration platforms secure user-provided expressions through enumerate and block sandboxing: AST rewriting, runtime property blocklists, template sandbox environments. We demonstrate that these sandboxes are weird machines whose instruction set is the underlying language specification, and that the enumerate and block approach is unfixable, following the same trajectory that led to the deprecation of past sandboxing technologies such as Java's SecurityManager and vm2. We validate this claim through three rounds of escalating bypasses against n8n's expression sandbox (three CVEs, two CVSS 9.4, one unauthenticated), and frame these findings within a broader pattern of sandbox failures across the orchestration products category. We identify a trust laundering pattern where orchestration pipelines and applications move attacker controlled input from untrusted to fully credentialed through transformations that strip taint at each level. AI-assisted enumeration accelerates the discovery of these coverage gaps, compressing the timeline between a sandbox's deployment and its compromise. We provide an AST coverage analysis methodology, an accompanying open-source tool, and a defensive playbook that includes policy inversion (allowlist over blocklist) as a structural mitigation.
• Abstract（参考訳）: オーケストレーションプラットフォームは,列挙とブロックサンドボックスによるユーザ提供式 – AST書き換え,実行時プロパティブロックリスト,テンプレートサンドボックス環境 – を確保する。 これらのサンドボックスは、命令セットが基礎となる言語仕様である奇妙なマシンであり、列挙とブロックのアプローチは、JavaのSecurityManagerやvm2のような過去のサンドボックス技術の廃止につながったのと同じ軌道に従って、修正不可能であることを示す。 我々はこの主張を,n8nの発現サンドボックス(3つのCVE,2つのCVSS 9.4,1つの認証済み)に対する3ラウンドのエスカレートバイパスを通じて検証し,これらの知見を,オーケストレーション製品カテゴリー全体でより広範なサンドボックス障害パターンにまとめる。 オーケストレーションパイプラインやアプリケーションが攻撃者による制御された入力を信頼できないものから、各レベルでテナントを排除した変換を通じて完全に認証されたものへと移動させる、信頼の洗浄パターンを特定します。 AI支援の列挙は、これらのカバレッジギャップの発見を加速し、サンドボックスのデプロイメントと妥協の間のタイムラインを圧縮する。 本稿では,ASTカバレッジ分析手法,関連するオープンソースツール,および構造的緩和としてポリシー逆転(ブロックリスト上のロイヤリスト)を含む防衛プレイブックを提供する。

関連論文リスト

• SafeClawBench: Separating Semantic, Audit-Evidence, and Sandbox Harm in Tool-Using LLM Agents [31.978790013349947]
  SafeClawBenchは、600の制御された敵タスクを備えたツール使用エージェントセキュリティのためのベンチマークである。 5つのエージェントエンドポイントを4つのプロンプトレベルポリシーで評価する。 これらのエンドポイントは、異なる障害モードをキャプチャします。
  論文  参考訳（メタデータ） (2026-06-16T18:04:45Z)
• Quantifying Frontier LLM Capabilities for Container Sandbox Escape [1.6245103041408155]
  大規模言語モデル(LLM)は、コードの実行、ファイルの読み書き、ネットワークへのアクセスといったツールを使用して、自律的なエージェントとして機能するようになっている。 これらのリスクを軽減するため、エージェントは一般的にデプロイされ、独立した"サンドボックス"環境で評価される。 オープンベンチマークであるSANDBOXESCAPEBENCHを導入する。
  論文  参考訳（メタデータ） (2026-03-01T22:47:39Z)
• Multimodal Prompt Decoupling Attack on the Safety Filters in Text-to-Image Models [73.43013217318965]
  マルチモーダル・プロンプト・デカップリング・アタック(MPDA) MPDAは画像モダリティを使用して、元の安全でないプロンプトの有害なセマンティックコンポーネントを分離する。 ビジュアル言語モデルは、生成したNSFW画像と元の安全でないプロンプトとのセマンティック一貫性を確保するために画像キャプションを生成する。
  論文  参考訳（メタデータ） (2025-09-21T11:22:32Z)
• Empirical Security Analysis of Software-based Fault Isolation through Controlled Fault Injection [21.57370108666908]
  GoogleのV8ヒープサンドボックスは、ChromiumベースのすべてのブラウザとNode$.jsとElectron上に構築された数え切れないほど多くのユーザを保護する。 広く使われているにもかかわらず、そのようなSFI機構はセキュリティテストはほとんど行われていない。 本稿では,現代のSFI実装のセキュリティ境界をモデル化する新しいテスト手法を提案する。
  論文  参考訳（メタデータ） (2025-09-09T13:56:17Z)
• AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting [54.931241667414184]
  textbfAdaptive textbfShield Promptingを提案する。これは、MLLMを構造ベースのジェイルブレイク攻撃から守るための防御プロンプトで入力をプリペイドする。 我々の手法は、構造に基づくジェイルブレイク攻撃に対するMLLMの堅牢性を一貫して改善することができる。
  論文  参考訳（メタデータ） (2024-03-14T15:57:13Z)
• Certifying LLM Safety against Adversarial Prompting [70.96868018621167]
  大規模言語モデル(LLM)は、入力プロンプトに悪意のあるトークンを追加する敵攻撃に対して脆弱である。 我々は,認証された安全保証とともに,敵のプロンプトを防御する最初の枠組みである消去・チェックを導入する。
  論文  参考訳（メタデータ） (2023-09-06T04:37:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。