論文の概要: The Envelope Layer: An Underestimated Surface of LLM Agent Defense

• arxiv url: http://arxiv.org/abs/2610.37415v2
• Date: Fri, 30 Oct 2026 17:28:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.37132
• Title: The Envelope Layer: An Underestimated Surface of LLM Agent Defense
• Title（参考訳）: エンベロープ層:LLMエージェント防衛の過小評価面
• Abstract要約: 本稿では,A2A-TIBA攻撃を試験車両とし,封筒層のセキュリティ境界を特徴付ける。 その結果、真正の封筒の下では、強いラベルはセマンティックな侵害率を一貫して減少させることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prior work framed the envelope layer as the channel through which malicious content enters an agent, but did not examine the effects of label strength, envelope authenticity, scaffolds, or existing memories. Following its GDA Measurement and A/B/C/D adjudication, this paper takes the A2A-TIBA attack as the test vehicle and the semantic breach rate as the primary indicator, and characterizes the security boundary of the envelope layer through a 2x2 factorial experiment, a memory experiment, and control experiments (an unlabeled same-protocol baseline, a one-day interleaved control, and benign tasks). The results show that, under authentic envelopes, strong labels consistently reduce the semantic breach rate (-56 to -61 percentage points), and the benefit of weak labels is about a quarter to a half of that of strong labels; forging the envelope weakens the strong label's benefit (interaction OR = 2.10, p = 0.022) and its direction varies across frontends; the effect of memory valence exceeds that of any label manipulation; success memory raises the semantic breach rate and failure memory lowers it, while most conflict combinations return to the no-memory baseline; the interleaved control reproduces the direction that "unlabeled is worst"; and on benign tasks the cost of strong labels appears in layers across frontends and backends. Accordingly, this paper extends the envelope layer into "admission surface plus context assembly surface," whose security boundary is a dynamic outcome jointly shaped by label claims, frontend permissions, and historical memory.
• Abstract（参考訳）: 以前は、悪意のあるコンテンツがエージェントに入るチャネルとしてエンベロープ層をフレーム化していたが、ラベル強度、エンベロープの信頼性、足場、あるいは既存の記憶の影響は検討しなかった。 GDA測定とA/B/C/D適応に続いて、A2A-TIBA攻撃をテスト車両とし、セマンティック・違反率を主指標とし、2x2因子実験、メモリ実験、制御実験(ラベルなし同種ベースライン、ワンデイインターリーブ制御、良性タスク)を通じて封筒層のセキュリティ境界を特徴付ける。 その結果、信頼できるエンベロープの下では、強いラベルはセマンティックな侵害率(-56から-61パーセント)を一貫して減少させ、弱いラベルの利点は、強いラベルの約4分の1から半分であり、エンベロープを鍛造することで、強いラベルの利益が弱くなる(相互作用 OR = 2.10, p = 0.022)。 そこで,本論文では,封筒層を,ラベルクレーム,フロントエンドパーミッション,履歴記憶を連成した動的結果である「アドミッションサーフェス+コンテキストアセンブリサーフェス」に拡張する。

関連論文リスト

• The Label Complexity of Class-Conditional Coverage under Distribution Shift [0.614481021961242]
  整形予測は、分類器の予測セットが真理をカバーし、その証明が限界であることを示す。 多くの認識ベンチマークは、分散を評価にシフトさせ、トレーニングとテストの分割に相容れない条件を配置する。 本物のクロステーマのベンチマークでは、限界範囲は90%近く、最悪のクラスは70%程度である。
  論文  参考訳（メタデータ） (2026-07-20T15:54:45Z)
• LADSG: Label-Anonymized Distillation and Similar Gradient Substitution for Label Privacy in Vertical Federated Learning [15.24974575465626]
  VFL(Vertical Federated Learning)のための統一的で軽量な防衛フレームワークであるLADSG(Lallel-Anonymized Defense with Substitution Gradient)を提案する。 LADSGはまず、ソフト蒸留により真のラベルを匿名化し、セマンティックな露出を減らす。 6つの実世界のデータセットに対する大規模な実験により、LADSGは3種類のラベル推論攻撃の成功率を30～60%削減し、計算オーバーヘッドを最小限に抑え、その実用性を示している。
  論文  参考訳（メタデータ） (2025-06-07T10:10:56Z)
• LayerMatch: Do Pseudo-labels Benefit All Layers? [77.59625180366115]
  半教師付き学習はラベル付きデータの依存性を軽減するための有望なソリューションを提供する。 我々はGrad-ReLUとAvg-Clusteringという2つの層固有の擬似ラベル戦略を開発した。 提案手法は,標準的な半教師付き学習ベンチマークにおいて,例外的な性能を示す。
  論文  参考訳（メタデータ） (2024-06-20T11:25:50Z)
• Ambiguity-Resistant Semi-Supervised Learning for Dense Object Detection [98.66771688028426]
  本研究では,一段階検出器のためのAmbiguity-Resistant Semi-supervised Learning (ARSL)を提案する。 擬似ラベルの分類とローカライズ品質を定量化するために,JCE(Joint-Confidence Estimation)を提案する。 ARSLは、曖昧さを効果的に軽減し、MS COCOおよびPASCALVOC上で最先端のSSOD性能を達成する。
  論文  参考訳（メタデータ） (2023-03-27T07:46:58Z)
• Exploiting Completeness and Uncertainty of Pseudo Labels for Weakly Supervised Video Anomaly Detection [149.23913018423022]
  弱教師付きビデオ異常検出は、ビデオレベルのラベルのみを用いて、ビデオ内の異常事象を特定することを目的としている。 2段階の自己学習法は擬似ラベルの自己生成によって著しく改善されている。 本稿では,自己学習のための完全性と不確実性を利用した強化フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-08T05:53:53Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Label Leakage and Protection from Forward Embedding in Vertical Federated Learning [19.96017956261838]
  共有中間埋め込みからプライベートラベルを盗むことができる実用的なラベル推論手法を提案する。 ラベル攻撃の有効性は、中間埋め込みと対応するプライベートラベルとの相関から区別できない。
  論文  参考訳（メタデータ） (2022-03-02T22:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。