論文の概要: Not fit for Purpose: A critical analysis of the 'Five Safes'
- arxiv url: http://arxiv.org/abs/2011.02142v1
- Date: Wed, 4 Nov 2020 05:41:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-25 07:39:47.406088
- Title: Not fit for Purpose: A critical analysis of the 'Five Safes'
- Title（参考訳）: 目的に合わない:「5つの安全」の批判的分析
- Authors: Chris Culnane, Benjamin I. P. Rubinstein, David Watts
- Abstract要約: 5つの安全は基本的に欠陥がある、と我々は主張する。
既存の法的保護と安全概念の承認から切り離されている。
これは、結果のデータの共有が'安全'のベストプラクティスや公共の利益のために行われるという自信をほとんど示さない。
- 参考スコア（独自算出の注目度）: 14.122934697054259
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Adopted by government agencies in Australia, New Zealand and the UK as policy
instrument or as embodied into legislation, the 'Five Safes' framework aims to
manage risks of releasing data derived from personal information. Despite its
popularity, the Five Safes has undergone little legal or technical critical
analysis. We argue that the Fives Safes is fundamentally flawed: from being
disconnected from existing legal protections and appropriation of notions of
safety without providing any means to prefer strong technical measures, to
viewing disclosure risk as static through time and not requiring repeat
assessment. The Five Safes provides little confidence that resulting data
sharing is performed using 'safety' best practice or for purposes in service of
public interest.
- Abstract（参考訳）: オーストラリア、ニュージーランド、イギリスの政府機関が政策手段として採用し、あるいは法律に具体化された「5つの安全」フレームワークは、個人情報からデータを公開するリスクを管理することを目的としている。
その人気にもかかわらず、ファイブ・セーフズは法的あるいは技術的な批判的な分析をほとんど受けていない。
既存の法的保護から切り離されていることや、強力な技術的措置を優先する手段を提供することなしに安全概念の確保から、開示リスクを経時的に静的に見ること、繰り返し評価を必要としないことまでである。
Five Safesは、結果のデータ共有が'安全'のベストプラクティスや公共の利益のために行われるという自信をほとんど提供しない。
関連論文リスト
- Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z) - Breach By A Thousand Leaks: Unsafe Information Leakage in `Safe' AI Responses [42.136793654338106]
モデル出力の不可避な情報漏洩に基づく新しい安全性評価フレームワークを提案する。
我々は,情報検閲の安全性を確保するために,防衛機構が情報検閲を確実にする必要があることを示す。
論文 参考訳（メタデータ） (2024-07-02T16:19:25Z) - Emerging Safety Attack and Defense in Federated Instruction Tuning of Large Language Models [51.85781332922943]
フェデレートラーニング(FL)は、複数のパーティが直接データ共有を必要とせずに、共同で大きな言語モデル(LLM)を微調整することを可能にする。
我々は、シンプルでステルス的で効果的な安全攻撃手法を提案することにより、FedITにおける安全性アライメントの脆弱性を初めて明らかにした。
論文 参考訳（メタデータ） (2024-06-15T13:24:22Z) - ALERT: A Comprehensive Benchmark for Assessing Large Language Models' Safety through Red Teaming [64.86326523181553]
ALERTは、新しいきめ細かいリスク分類に基づいて安全性を評価するための大規模なベンチマークである。
脆弱性を特定し、改善を通知し、言語モデルの全体的な安全性を高めることを目的としている。
論文 参考訳（メタデータ） (2024-04-06T15:01:47Z) - The Art of Defending: A Systematic Evaluation and Analysis of LLM
Defense Strategies on Safety and Over-Defensiveness [56.174255970895466]
大規模言語モデル(LLM)は、自然言語処理アプリケーションにおいて、ますます重要な役割を担っている。
本稿では,SODE(Safety and Over-Defensiveness Evaluation)ベンチマークを提案する。
論文 参考訳（メタデータ） (2023-12-30T17:37:06Z) - Technocracy, pseudoscience and performative compliance: the risks of
privacy risk assessments. Lessons from NIST's Privacy Risk Assessment
Methodology [0.0]
プライバシ・リスク・アセスメントは、組織がプライバシ・バイ・デザインを実装することを奨励する、客観的で原則化された方法として評価されてきた。
既存のガイドラインや手法はあいまいであり、プライバシーの害に関する実証的な証拠はほとんどない。
実用的で技術的アプローチの限界と落とし穴を強調します。
論文 参考訳（メタデータ） (2023-08-24T01:32:35Z) - A Counterfactual Safety Margin Perspective on the Scoring of Autonomous
Vehicles' Riskiness [52.27309191283943]
本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。
本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
論文 参考訳（メタデータ） (2023-08-02T09:48:08Z) - Foveate, Attribute, and Rationalize: Towards Physically Safe and
Trustworthy AI [76.28956947107372]
包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。
安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。
実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
論文 参考訳（メタデータ） (2022-12-19T17:51:47Z) - Do Software Security Practices Yield Fewer Vulnerabilities? [6.6840472845873276]
本研究の目的は、専門家や研究者がどのセキュリティプラクティスを採用するべきかを判断するのを支援することである。
4つのセキュリティプラクティスが、脆弱性数に影響を与える最も重要なプラクティスでした。
パッケージの総セキュリティスコアが増加するにつれて、報告された脆弱性の数は減少した。
論文 参考訳（メタデータ） (2022-10-20T20:04:02Z) - Bayes Security: A Not So Average Metric [20.60340368521067]
セキュリティシステムのデザイナは、ディファレンシャルプライバシ(DP)から派生したような最悪のセキュリティ指標を好む。
本稿では,暗号の優位性に触発されたセキュリティ指標ベイズセキュリティについて検討する。
論文 参考訳（メタデータ） (2020-11-06T14:53:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。