論文の概要: Inference-Layer Security: Defending Against Adversarial Inference and Infrastructure Abuse

• arxiv url: http://arxiv.org/abs/2609.38239v1
• Date: Tue, 29 Sep 2026 01:55:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.414562
• Title: Inference-Layer Security: Defending Against Adversarial Inference and Infrastructure Abuse
• Title（参考訳）: 推論層セキュリティ: 逆推論とインフラの悪用に対する防御
• Abstract要約: 仮説的フロンティア実験室Five Elements Inc。 パブリックなラベル付きLLM利用データセットは存在しないため、現実的に基盤付けられたユーザセッションのラベル付きデータセットを生成する構造因果モデル(SCM)を導入する。 このデータセットでは、各ユーザセッションを良性または悪意があり、攻撃タイプによって悪意のあるものとして分類する、実用的な勾配検出をトレーニングしています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A Technical Report: Operating a large language model (LLM) as a service requires more than inference infrastructure: the provider must also defend against adversarial interactions that seek to exploit the service, including jailbreaking for harmful use, sophisticated denial of service, and distillation attacks. We study this problem at the inference layer, using a hypothetical frontier lab, Five Elements Inc., as a running example. Because no public labelled dataset of adversarial LLM usage exists, we introduce a structural causal model (SCM) that generates a realistically grounded, labelled dataset of user-sessions, with coordinated multi-account campaigns, platform feedback, and three tiers of label observability. On this dataset we train a practical gradient-boosted detector that classifies each user-session as benign or malicious and, if malicious, by attack type. Against oracle labels the detector very nearly solves the binary task (AUPRC $0.993$), yet against the operational labels a real Trust & Safety team would hold, the same model scores an AUPRC of only $0.313$: the detector is more accurate than the labels used to evaluate it. For attack-type attribution, a naive argmax is dominated by the $98\%$ benign prior (macro-F1 $0.295$), whereas a simple thresholded decision engine raises macro-F1 to $0.489$ without sacrificing accuracy. The dataset is publicly released.
• Abstract（参考訳）: A Technical Report: サービスとして大規模言語モデル(LLM)を運用するには、推論インフラストラクチャ以上のものが必要になる。 仮説的フロンティア実験室であるFive Elements Inc. を実例として, この問題を推論層で検討した。 パブリックなラベル付きLLM利用データセットは存在しないため,マルチアカウントキャンペーンやプラットフォームフィードバック,3段階のラベル可観測性を備えた,現実的に基盤付けられたラベル付きユーザセッションデータセットを生成する構造因果モデル(SCM)を導入する。 このデータセットでは、各ユーザセッションを良性または悪意があり、攻撃タイプによって悪意のあるものとして分類する、実用的な勾配検出をトレーニングしています。 オラクルのラベルに対して、検出器はバイナリータスク(AUPRC $0.993$)をほとんど解決しないが、実際のトラスト・アンド・セーフティチームが保持する運用ラベルに対して、同じモデルではAUPRCのスコアは0.313ドルである。 攻撃型属性では、単純なしきい値決定エンジンがマクロF1を精度を犠牲にすることなく0.489$に上げるのに対し、素早いargmaxは9,8\%のベニグ前値(macro-F1$0.295$)で支配される。 データセットは公開されています。

関連論文リスト

• Business Compromise Detection with Agentic AI and LLM-driven Knowledge Discovery [16.04666098629773]
  LLM(Large Language Model)エージェントは、整合性の強制を約束するが、ハードケースに対する幻覚的なミスはビジネス上の摩擦を引き起こす。 自律エージェントは、強いリコール重信号抽出器であるが、信頼性の低い最終アービターであり、不明瞭な決定の精度を許容している。 そこで我々は,このエージェントを,構造化され解釈可能な信号ベクトルを出力し,決定をニューロシンボリックな段階に委譲する研究者として,FOIL-IEによって発見された記号規則,ネイブベイズ校正層,データ調整された矛盾層として保持する。
  論文  参考訳（メタデータ） (2026-09-26T14:05:25Z)
• IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
  経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。 IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
  論文  参考訳（メタデータ） (2026-02-26T07:21:02Z)
• The Erasure Illusion: Stress-Testing the Generalization of LLM Forgetting Evaluation [15.252787015786796]
  機械学習は、訓練されたモデルから特定のデータの影響を取り除くことを目的としている。 現在のアンラーニングメトリクスは、特定のアンラーニングデータセットでモデルのパフォーマンス劣化を監視して成功を測定する。 我々は,Large Language Models (LLMs) に対して,この評価パラダイムは不十分であり,誤解を招く可能性があると主張している。
  論文  参考訳（メタデータ） (2025-12-22T04:42:41Z)
• OS-Harm: A Benchmark for Measuring Safety of Computer Use Agents [60.78202583483591]
  コンピュータ使用エージェントの安全性を計測する新しいベンチマークであるOS-Harmを紹介する。 OS-HarmはOSWorld環境上に構築されており、故意のユーザ誤用、インジェクション攻撃、モデル誤動作の3つのカテゴリでモデルをテストすることを目指している。 我々は、フロンティアモデルに基づいてコンピュータ利用エージェントを評価し、その安全性に関する洞察を提供する。
  論文  参考訳（メタデータ） (2025-06-17T17:59:31Z)
• OSLO: One-Shot Label-Only Membership Inference Attacks [29.40766098090706]
  One-Shot Label-Only (OSLO) メンバシップ推論攻撃 (MIAs) 我々は,One-Shot Label-Only (OSLO) メンバシップ推論攻撃 (MIAs) を導入する。
  論文  参考訳（メタデータ） (2024-05-27T09:21:40Z)
• Data-Free Hard-Label Robustness Stealing Attack [67.41281050467889]
  本稿では,Data-Free Hard-Label Robustness Stealing(DFHL-RS)攻撃について紹介する。 ターゲットモデルのハードラベルをクエリするだけで、モデル精度とロバスト性の両方を盗むことができる。 本手法は,AutoAttackに対して77.86%,頑健な39.51%の精度を実現する。
  論文  参考訳（メタデータ） (2023-12-10T16:14:02Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)
• Unlearnable Clusters: Towards Label-agnostic Unlearnable Examples [128.25509832644025]
  インターネット上の視覚的プライバシー漏洩に対して、未学習の例(UE)を開発することへの関心が高まっている。 UEは、目に見えないが学習不可能なノイズを付加したトレーニングサンプルであり、機械学習モデルの不正なトレーニングを防ぐことができる。 本稿では,無学習クラスタ (UC) と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-12-31T04:26:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。