論文の概要: Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use

• arxiv url: http://arxiv.org/abs/2610.04985v1
• Date: Sun, 04 Oct 2026 06:09:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 07:20:43.092033
• Title: Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
• Title（参考訳）: Jevの隠れたリスク: セキュリティ、プライバシ、デュアル使用に関する実証的研究
• Abstract要約: Jevは、自然言語の質問を、低レイテンシとコストで型付き回答と確率に変換する。 我々は、公式のJev APIとNanoJevを使用して、この新興利用のセキュリティとプライバシへの影響について検討する。 我々の経験的評価は、Jevが検査されたセキュリティとプライバシーの脅威に弱いままであることを示している。
• 参考スコア（独自算出の注目度）: 22.76550110476251
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Jev turns natural-language questions into typed answers and probabilities with low latency and cost, enabling applications to route requests and select tools. While this interface allows Jev to integrate naturally into application workflows as a decision layer, the security and privacy implications of this emerging use remain largely unexplored. To address this gap, we conduct the first systematic study of these implications using the official Jev API and NanoJev, a local model with controllable training data and updates, focusing on three research questions: (1) What security threats arise when Jev is deployed as an application decision layer? (2) What private information can Jev reveal despite returning constrained typed outputs? (3) How can Jev's general-purpose decision capability be used for beneficial purposes or misused? Jev's decisions depend on application state and may be influenced by user-provided inputs. We therefore adapt prompt injection and adversarial suffixes to manipulate its decisions. Open-source Jev distribution and updates introduce supply-chain risks, which we examine by implanting backdoors in NanoJev through training data poisoning. Since Jev's outputs reflect both application state and information learned during training, we further adapt membership, private attribute, and internal knowledge inference attacks to recover sensitive information despite its constrained output format. Finally, Jev can serve as a general-purpose decision oracle for defensive and malicious workflows. We examine this dual use through four detection tasks covering prompt injection, jailbreak inputs, harmful content, and AI-generated text, alongside misuse scenarios involving jailbreak and model extraction. Our empirical evaluation shows that Jev remains vulnerable to the examined security and privacy threats, while its decision capability can support beneficial and malicious uses.
• Abstract（参考訳）: Jevは、自然言語の質問を低レイテンシとコストで型付き回答と確率に変換し、リクエストのルーティングとツールの選択を可能にする。 このインターフェースにより、Jevはアプリケーションワークフローを決定層として自然に統合できるが、この新たな利用のセキュリティとプライバシに関する影響は、まだ明らかになっていない。 このギャップに対処するために、私たちは、公式のJev APIとNanoJevを使用して、これらの影響を初めて体系的に研究しました。 2)制約付き型付き出力を返すにもかかわらず、Jevはどんなプライベート情報を公開することができるのか? (3)Jevの汎用的意思決定能力は、有益な目的や誤用にどのように利用できるか? Jevの決定はアプリケーションの状態に依存し、ユーザが提供する入力に影響される可能性がある。 そこで我々は、迅速な注射と敵の接尾辞を適応させ、その決定を操る。 オープンソースのJev配布と更新はサプライチェーンのリスクを導入し、NanoJevにバックドアを埋め込んでデータ中毒の訓練を行う。 Jevの出力は、トレーニング中に学んだアプリケーション状態と情報の両方を反映しているため、制約された出力フォーマットにもかかわらず機密情報を復元するために、メンバシップ、プライベート属性、内部知識推論攻撃をさらに適応させる。 最後に、Jevは防御的で悪意のあるワークフローのための汎用的な決定のオラクルとして機能する。 我々は、この二重利用を、4つの検出タスクを通して検証し、迅速な注入、ジェイルブレイク入力、有害コンテンツ、AI生成テキスト、およびジェイルブレイクとモデル抽出を含む誤用シナリオを含む。 我々の経験的評価は、Jevが検査されたセキュリティとプライバシーの脅威に対して脆弱なままであり、その決定能力は有益で悪意のある使用をサポートすることができることを示している。

関連論文リスト

• SecJev: Bringing Security Expertise to System One Decision Models [9.833223904195675]
  セキュリティには、複雑な観察と明確なポリシーを決定に変換するモデルが必要です。 セキュリティに特化した、Jevライクな意思決定モデルの最初のファミリーであるSecJevを紹介します。 SecJev-Corpusは、14のタスクと8つのソースにまたがって、ソースラベルの予測と明示的な政治評価を統合する。
  論文  参考訳（メタデータ） (2026-10-02T09:57:05Z)
• Jev in the Wild: A Data-Driven Analysis of the Jev Model's Functionality, Applications and Ecosystem [0.8921166277011348]
  Jevは、選択、二項判定、スコアで自然言語の質問に答える、高速で低コストな意思決定モデルである。 GitHubから収集した2,170の公開プロジェクトの大規模なデータ駆動分析を行います。 新しいプロジェクトと既存のリポジトリとの統合によって、Jevのパブリックエコシステムは急速に成長しています。
  論文  参考訳（メタデータ） (2026-09-24T17:46:08Z)
• Calibrated Decision Models for Autonomous Penetration-Testing Harnesses: JEV and Laya as System One Decision Layers for LLM-Driven Pentest Agents [0.0]
  システム1決定モデルが自律的な浸透テストハーネスをどのようにサポートするかを検討する。 本稿では,TypeSafe System One (Jev) とそれのないものと13の脆弱性を含むWebターゲットとを比較した探索的NeuroSploitケーススタディを提案する。 ドメイン適応型System OneモデルであるRaveを提案し、そのトレーニングデータ、評価プロトコル、およびハーネス保証に対する潜在的影響について概説する。
  論文  参考訳（メタデータ） (2026-09-24T02:47:20Z)
• Evaluating Language Model Reasoning about Confidential Information [95.64687778185703]
  言語モデルが文脈的堅牢性を示すか、文脈依存型安全仕様に準拠する能力を示すかを検討する。 我々は,ユーザ要求がいつ承認されたか,言語モデルが正しく判断できるかどうかを測定するベンチマーク(PasswordEval)を開発した。 現在のオープンソースとクローズドソースのモデルでは、一見単純な作業に苦労しています。
  論文  参考訳（メタデータ） (2025-08-27T15:39:46Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• EIA: Environmental Injection Attack on Generalist Web Agents for Privacy Leakage [40.82238259404402]
  敵環境におけるジェネラリストWebエージェントのプライバシーリスクに関する最初の研究を行う。 まず,Webサイト上での攻撃に対する現実的な脅威モデルを提示し,ユーザ固有のPIIを盗むか,あるいはユーザ要求全体に対して,敵対的な2つのターゲットを検討する。 我々は、Mind2Webから様々なPIIカテゴリを含む177のアクションステップを収集し、これまでで最も有能なジェネラリストWebエージェントフレームワークの1つを使用して実験を行う。
  論文  参考訳（メタデータ） (2024-09-17T15:49:44Z)
• Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models [53.701148276912406]
  Vision-Large-Language-models (VLMs) は自動運転において大きな応用可能性を持っている。 BadVLMDriverは、物理的オブジェクトを使用して実際に起動できる自動運転のためのVLMに対する最初のバックドア攻撃である。 BadVLMDriverは、赤い風船を持った歩行者に突如、加速を誘導する攻撃の成功率を92%達成する。
  論文  参考訳（メタデータ） (2024-04-19T14:40:38Z)
• JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models [123.66104233291065]
  ジェイルブレイク攻撃は、大きな言語モデル(LLM)が有害、非倫理的、またはその他の不快なコンテンツを生成する原因となる。 これらの攻撃を評価することは、現在のベンチマークと評価テクニックの収集が適切に対処していない、多くの課題を提示します。 JailbreakBenchは、以下のコンポーネントを備えたオープンソースのベンチマークである。
  論文  参考訳（メタデータ） (2024-03-28T02:44:02Z)
• Can Sensitive Information Be Deleted From LLMs? Objectives for Defending Against Extraction Attacks [73.53327403684676]
  本稿では,モデル重みから直接センシティブな情報を削除する作業を研究するためのアタック・アンド・ディフェンスフレームワークを提案する。 モデル重み付けへの直接的編集について検討する。この手法は、削除された情報が将来的な攻撃によって抽出されないことを保証すべきである。 我々のホワイトボックスやブラックボックス攻撃は、編集されたモデルの38%から「削除された」情報を復元できるので、ROMEのような最先端のモデル編集方法でさえ、GPT-Jのようなモデルから事実情報を真に消し去るのに苦労している。
  論文  参考訳（メタデータ） (2023-09-29T17:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。