論文の概要: Safeguard-Conditioned Uplift: Measuring Utility-Risk Frontiers for Dual-Use Biology Assistants
- arxiv url: http://arxiv.org/abs/2607.13039v1
- Date: Fri, 12 Jun 2026 00:57:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-19 21:54:20.407529
- Title: Safeguard-Conditioned Uplift: Measuring Utility-Risk Frontiers for Dual-Use Biology Assistants
- Title（参考訳）: 安全確保型隆起:デュアルユースバイオロジーアシスタントのためのユーティリティ・リスクフロンティアの測定
- Abstract要約: 人手によるユーティリティリスクフロンティアを通じて、デプロイされたアクセス条件を比較するためのプロトコルであるセーフガード条件アップリフトを紹介します。
私は108タスクのサロゲートベンチマークでClaude Sonnet 4.6とGemini 3.5 Flashを補助的なプロンプト、安全プロンプト、および外部から保護されたアシスタントで評価します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety evaluations for dual-use biology assistants often measure base-model capability, refusal behavior, or jailbreak success. These metrics miss a deployment question: for a fixed base model, how does the access condition users actually see change benign utility and harmful actionable assistance? I introduce safeguard-conditioned uplift, a protocol for comparing deployed access conditions through a human-judged utility-risk frontier. I evaluate Claude Sonnet 4.6 and Gemini 3.5 Flash under helpful prompting, safety prompting, and an external safeguarded assistant on a 108-task surrogate benchmark, with the headline claim restricted to a locked 18-task held-out split. In a 600-row blinded human audit, the safeguarded assistant reduces harmful actionability relative to helpful prompting by -0.063 over 49 matched response pairs, with bootstrap 95% interval [-0.117, -0.011], while correctness changes by +0.009 with interval [-0.057, +0.077]. Adaptive, Test-B, cue-ablation, and controller-baseline checks support the measurement story but also show non-dominance: safety prompting is often strongest for Claude, while external control helps more for Gemini and can reduce benign utility. The contribution is not a universal defense. It is a deployment-level evaluation target, plus a learned risk-budgeted calibration procedure, for measuring how user-facing access conditions move the utility-risk frontier.
- Abstract（参考訳）: 二重用途生物学アシスタントの安全性評価は、しばしばベースモデル能力、拒絶行動、脱獄の成功を測定する。
これらのメトリクスは、デプロイの疑問を見逃している: 固定ベースモデルの場合、アクセス条件のユーザが実際、変更の便宜と有害なアクション可能なアシストをどう見ているか?
人手によるユーティリティリスクフロンティアを通じて、デプロイされたアクセス条件を比較するためのプロトコルであるセーフガード条件アップリフトを紹介します。
私は108タスクのサロゲートベンチマークでClaude Sonnet 4.6とGemini 3.5 Flashを補助的なプロンプト、安全プロンプト、および外部から保護されたアシスタントとして評価し、ヘッドラインのクレームはロックされた18タスクのホールドアウトスプリットに限定された。
600列の盲目人間監査において、保護されたアシスタントは、49対の対応対に対して-0.063以上の補助的作用に対して、ブートストラップ95%間隔 [-0.117, -0.011] で、正確性は+0.009の間隔 [-0.057, +0.077] で変化し、有害な作用性を低下させる。
Adaptive, Test-B, cue-ablation, and controller-baseline checks support the measurement story but also not-dominance: safety prompting are most for Claude, and external control help more for Gemini and can reduce beign utility。
貢献は普遍的な防衛ではない。
これは、ユーザ対面アクセス条件がユーティリティリスクフロンティアをどのように移動させるかを測定するために、デプロイメントレベルの評価ターゲットに加えて、学習されたリスク予算のキャリブレーション手順である。
関連論文リスト
- Unpredictable Safety: Domain-Dependent Compliance and the Transparency Gap in Open-Weight LLMs [0.0]
オープンウェイトLLMにおけるドメイン依存型安全挙動について検討する。
コンプライアンス率は14.7%(人身売買)から85.7%(監視設計)に変化している。
その結果、現在の安全メカニズムには、信頼できるAIデプロイメントに必要な透明性と一貫性が欠如していることが示されている。
論文 参考訳（メタデータ） (2026-06-01T22:41:32Z) - Measuring Safety Alignment Effects in Autonomous Security Agents [3.93181912653522]
セキュリティエージェントは、レポジトリを検査し、ツールを呼び出し、認証されたサンドボックス内で脆弱性証拠を生成する必要がある。
固定ツール、決定論的成功予測、リアクションルール、グラウンドチェックを備えた30のローカル脆弱性分析タスクのトレースベースのベンチマークを示す。
自律型セキュリティエージェントの安全性アライメント効果をシステムレベルで測定し, 拒絶, 不安全行動, ツール信頼性, 根拠を分離する。
論文 参考訳（メタデータ） (2026-05-19T11:55:54Z) - Ablating Safety: Mechanisms for Removing Alignment in Language Models for Security Applications [3.93181912653522]
安全に配慮した言語モデルは、言葉が誤用に似ているサイバーセキュリティ要求を拒否することが多い。
これはセキュリティ評価を曖昧なものにする: 失敗した答えは、能力の欠如や、政治介入の拒絶を反映しているかもしれない。
我々は, 拒否, 試行率, 検証済みセキュリティ成功, 一般能力維持, 不安定性, スコープ外不安全コンプライアンスをSecurity-ARで評価した。
論文 参考訳（メタデータ） (2026-05-17T12:18:20Z) - Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。
既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。
安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
論文 参考訳（メタデータ） (2026-05-14T12:13:08Z) - AERIC: Anticipatory Hidden-State Monitoring for Implicit Harmful Dialogue [0.4779196219827507]
現在の言語モデルでは、有害な継続を避けるためにリスクを早期に検出しなければなりません。
安全モニタが通常の復号時に発生する隠蔽状態を読み取ることができるが、ベースモデルへの追加のフォワードパスを起動しない予測的同パス監視について検討する。
AERICは, 短水平ハザード予測, サポート感度抑制, 即時条件付残留スコアを同一パスの指数的移動平均決定規則の下で組み合わせた, 暗黙的有害対話のための移動指向型隠れ状態アプローチである。
論文 参考訳（メタデータ） (2026-05-13T14:18:29Z) - Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。
この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。
全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
論文 参考訳（メタデータ） (2026-04-08T23:47:29Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳（メタデータ） (2026-03-29T18:52:01Z) - Steerability of Instrumental-Convergence Tendencies in LLMs [0.5922488908114023]
AIシステムの2つの特性として、能力(システムができること)とステアビリティ(steerability)について検討する。
我々は、認可されたステアビリティ(意図された行動に確実に到達する)と許可されていないステアビリティを区別する。
この区別は、AIモデルの基本的な安全性とセキュリティのジレンマを強調している。
論文 参考訳（メタデータ） (2026-01-04T16:15:59Z) - A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。
我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。
本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
論文 参考訳（メタデータ） (2025-10-03T07:01:45Z) - Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。
安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。
複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文 参考訳（メタデータ） (2025-08-17T23:46:36Z) - WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。
WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文 参考訳（メタデータ） (2024-06-26T16:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。