論文の概要: The Envelope Layer: An Underestimated Surface of LLM Agent Defense

• arxiv url: http://arxiv.org/abs/2610.37415v1
• Date: Tue, 27 Oct 2026 15:32:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.677549
• Title: The Envelope Layer: An Underestimated Surface of LLM Agent Defense
• Title（参考訳）: エンベロープ層:LLMエージェント防衛の過小評価面
• Abstract要約: 本稿では,セマンティックな違反率を主指標として,セマンティックな拒絶率を相補的基準として用いた。 封筒層のセキュリティ境界を2対2の因子実験とメモリ実験によって特徴づける。 その結果、エンベロープが本物である場合、強いラベルはセマンティックな違反率を一貫して減少させるが、弱いラベルはラベルのないベースラインよりも必ずしも良くないことがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prior work framed the envelope layer as the channel through which malicious content enters an agent, and established it as a defense surface independent of the LLM layer and the agent layer; however, that work only tested the envelope layer briefly and did not examine how label strength, envelope authenticity, scaffold differences, or existing memories affect defense effectiveness. Following its GDA Measurement methodology and the A/B/C/D outcome taxonomy, this paper takes the A2A-TIBA attack as the test vehicle, uses the semantic breach rate as the primary indicator with the semantic refusal rate as its complementary reference, and characterizes the security boundary of the envelope layer through a two-by-two factorial experiment and a memory experiment. The results show that: when the envelope is authentic, strong labels consistently reduce the semantic breach rate, whereas weak labels are not necessarily better than an unlabeled baseline; when the envelope can be forged, the benefit of strong labels is weakened and its direction varies across frontends; and memory has a larger effect than any label manipulation: success memory raises the semantic breach rate while failure memory lowers it, and most combinations that contain both experiences return to the no-memory baseline. Accordingly, this paper refines the envelope layer from a single admission channel into two levels, an admission channel plus a context assembly surface, and argues that its security boundary is not a fixed property of labels but a dynamic outcome jointly shaped by label claims, frontend permissions, and historical memory.
• Abstract（参考訳）: 従来の作業では, 悪意のある内容物がエージェントに侵入するチャネルとして封筒層をフレーム化し, LLM層とエージェント層とは独立な防御面として確立していたが, 封筒層を短時間で試験しただけで, ラベル強度, 封筒の真正性, 足場の違い, あるいは既存の記憶が防御効果にどう影響するかは明らかにしなかった。 GDA測定手法とA/B/C/D結果分類に続いて,本研究では,A2A-TIBA攻撃を試験車両として用い,セマンティック・リフレクション・レートを補完基準として,セマンティック・リフレクション・レートを主指標として使用し,2段階のファクター実験とメモリ実験により封筒層のセキュリティ境界を特徴づける。 その結果、エンベロープが本物である場合、強いラベルはセマンティックな違反率を一貫して低下させるが、弱いラベルはラベルのないベースラインよりも必ずしも良いとは限らないこと、エンベロープが偽造される場合、強いラベルの利点は弱くなり、その方向はフロントエンドによって異なること、そしてメモリはラベル操作よりも大きな効果を持つこと、成功メモリはセマンティックな違反率を高め、障害メモリはそれを低下させ、両方の経験を含むほとんどの組み合わせは、メモリベースラインに戻る。 そこで本稿では,封筒層を1つの入場チャネルから2つのレベル,入場チャネルとコンテキストアセンブリサーフェスに洗練し,そのセキュリティ境界はラベルの固定特性ではなく,ラベルクレーム,フロントエンドパーミッション,履歴記憶による動的結果であると主張している。

関連論文リスト

• The Label Complexity of Class-Conditional Coverage under Distribution Shift [0.614481021961242]
  整形予測は、分類器の予測セットが真理をカバーし、その証明が限界であることを示す。 多くの認識ベンチマークは、分散を評価にシフトさせ、トレーニングとテストの分割に相容れない条件を配置する。 本物のクロステーマのベンチマークでは、限界範囲は90%近く、最悪のクラスは70%程度である。
  論文  参考訳（メタデータ） (2026-07-20T15:54:45Z)
• LADSG: Label-Anonymized Distillation and Similar Gradient Substitution for Label Privacy in Vertical Federated Learning [15.24974575465626]
  VFL(Vertical Federated Learning)のための統一的で軽量な防衛フレームワークであるLADSG(Lallel-Anonymized Defense with Substitution Gradient)を提案する。 LADSGはまず、ソフト蒸留により真のラベルを匿名化し、セマンティックな露出を減らす。 6つの実世界のデータセットに対する大規模な実験により、LADSGは3種類のラベル推論攻撃の成功率を30～60%削減し、計算オーバーヘッドを最小限に抑え、その実用性を示している。
  論文  参考訳（メタデータ） (2025-06-07T10:10:56Z)
• LayerMatch: Do Pseudo-labels Benefit All Layers? [77.59625180366115]
  半教師付き学習はラベル付きデータの依存性を軽減するための有望なソリューションを提供する。 我々はGrad-ReLUとAvg-Clusteringという2つの層固有の擬似ラベル戦略を開発した。 提案手法は,標準的な半教師付き学習ベンチマークにおいて,例外的な性能を示す。
  論文  参考訳（メタデータ） (2024-06-20T11:25:50Z)
• Ambiguity-Resistant Semi-Supervised Learning for Dense Object Detection [98.66771688028426]
  本研究では,一段階検出器のためのAmbiguity-Resistant Semi-supervised Learning (ARSL)を提案する。 擬似ラベルの分類とローカライズ品質を定量化するために,JCE(Joint-Confidence Estimation)を提案する。 ARSLは、曖昧さを効果的に軽減し、MS COCOおよびPASCALVOC上で最先端のSSOD性能を達成する。
  論文  参考訳（メタデータ） (2023-03-27T07:46:58Z)
• Exploiting Completeness and Uncertainty of Pseudo Labels for Weakly Supervised Video Anomaly Detection [149.23913018423022]
  弱教師付きビデオ異常検出は、ビデオレベルのラベルのみを用いて、ビデオ内の異常事象を特定することを目的としている。 2段階の自己学習法は擬似ラベルの自己生成によって著しく改善されている。 本稿では,自己学習のための完全性と不確実性を利用した強化フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-08T05:53:53Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Label Leakage and Protection from Forward Embedding in Vertical Federated Learning [19.96017956261838]
  共有中間埋め込みからプライベートラベルを盗むことができる実用的なラベル推論手法を提案する。 ラベル攻撃の有効性は、中間埋め込みと対応するプライベートラベルとの相関から区別できない。
  論文  参考訳（メタデータ） (2022-03-02T22:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。