論文の概要: SoK: Safer Digital-Safety Research Involving At-Risk Users
- arxiv url: http://arxiv.org/abs/2309.00735v1
- Date: Fri, 1 Sep 2023 21:15:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-07 01:36:12.626521
- Title: SoK: Safer Digital-Safety Research Involving At-Risk Users
- Title（参考訳）: sok: リスクの高いユーザによる安全なデジタルセーフティ研究
- Authors: Rosanna Bellini, Emily Tseng, Noel Warford, Alaa Daffalla, Tara
Matthews, Sunny Consolvo, Jill Palzkill Woelfer, Patrick Gage Kelley,
Michelle L. Mazurek, Dana Cuomo, Nicola Dell, and Thomas Ristenpart
- Abstract要約: コンピュータのセキュリティとプライバシーに関する研究は、リスクの高いユーザーのデジタル安全のニーズを満たす方法を理解するために不可欠である。
成長する研究者コミュニティが使用する14の研究リスクと36の安全プラクティスを引き出すために,196の学術研究の分析を行った。
本稿では,リスクの高いユーザリサーチの報告,研究,資金提供に関する今後の研究分野を提案する。
- 参考スコア（独自算出の注目度）: 43.45078079505055
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Research involving at-risk users -- that is, users who are more likely to
experience a digital attack or to be disproportionately affected when harm from
such an attack occurs -- can pose significant safety challenges to both users
and researchers. Nevertheless, pursuing research in computer security and
privacy is crucial to understanding how to meet the digital-safety needs of
at-risk users and to design safer technology for all. To standardize and
bolster safer research involving such users, we offer an analysis of 196
academic works to elicit 14 research risks and 36 safety practices used by a
growing community of researchers. We pair this inconsistent set of reported
safety practices with oral histories from 12 domain experts to contribute
scaffolded and consolidated pragmatic guidance that researchers can use to
plan, execute, and share safer digital-safety research involving at-risk users.
We conclude by suggesting areas for future research regarding the reporting,
study, and funding of at-risk user research
- Abstract（参考訳）: リスクの高いユーザー、すなわち、デジタル攻撃を受けたり、そのような攻撃による被害を受けたりした場合に不当に影響を受けやすいユーザーを含む研究は、ユーザーと研究者双方に重大な安全上の課題をもたらす可能性がある。
それでも、コンピュータセキュリティとプライバシの研究を追求することは、リスクの高いユーザーのデジタル安全のニーズを満たす方法を理解し、より安全なテクノロジーを設計する上で不可欠である。
このようなユーザによる安全な研究の標準化と促進を目的として,14の研究リスクと36の安全実践を研究者コミュニティが求めるために,196の学術論文の分析を行った。
我々は、この一貫性のない安全慣行と12人のドメインの専門家の口頭履歴を組み合わせることで、研究者がリスクの高いユーザーによる安全なデジタル安全研究の計画、実行、共有に使用できる、足場的で統合された実践的ガイダンスを提供する。
我々は,at-riskユーザ研究の報告,研究,資金に関する今後の研究分野の提案により結論づける。
関連論文リスト
- Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。
我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
論文 参考訳（メタデータ） (2024-07-31T17:59:24Z) - Insider Threats Mitigation: Role of Penetration Testing [0.0]
本研究は,インサイダー脅威防御の重要部分としての浸透試験の知識の向上を目的とする。
我々は、異なる業界で浸透テストがどのように使われているか、実世界の実装を用いたケーススタディについて検討し、企業が克服すべき障害と制約について議論する。
論文 参考訳（メタデータ） (2024-07-24T15:14:48Z) - Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。
彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。
本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
論文 参考訳（メタデータ） (2024-02-06T18:54:07Z) - Beyond the Safeguards: Exploring the Security Risks of ChatGPT [3.1981440103815717]
大きな言語モデル(LLM)の人気が高まると、安全性、セキュリティリスク、倫理的影響に対する懸念が高まっている。
本稿では、悪意のあるテキストやコード生成、プライベートデータ開示、不正なサービス、情報収集、非倫理的コンテンツの生成など、ChatGPTに関連するさまざまなセキュリティリスクの概要について述べる。
論文 参考訳（メタデータ） (2023-05-13T21:01:14Z) - Towards Safer Generative Language Models: A Survey on Safety Risks,
Evaluations, and Improvements [76.80453043969209]
本調査では,大規模モデルに関する安全研究の枠組みについて述べる。
まず、広範囲にわたる安全問題を導入し、その後、大型モデルの安全性評価手法を掘り下げる。
トレーニングからデプロイメントまで,大規模なモデルの安全性を高めるための戦略について検討する。
論文 参考訳（メタデータ） (2023-02-18T09:32:55Z) - Foveate, Attribute, and Rationalize: Towards Physically Safe and
Trustworthy AI [76.28956947107372]
包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。
安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。
実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
論文 参考訳（メタデータ） (2022-12-19T17:51:47Z) - Getting Users Smart Quick about Security: Results from 90 Minutes of
Using a Persuasive Toolkit for Facilitating Information Security Problem
Solving by Non-Professionals [2.4923006485141284]
ビジネスパースペクティブとセキュリティパースペクティブの優先順位の違いにより、セキュリティにおけるユーザエンゲージメントのバランスの取れたレベルを達成するのは難しい。
当社は,同社のセキュリティ脆弱性に関する構造化された議論にユーザを巻き込む,説得力のあるソフトウェアツールキットを開発した。
本報告では,非専門職がツールキットの短期的利用を通じて,セキュリティ問題に対する認識について検討する。
論文 参考訳（メタデータ） (2022-09-06T11:37:21Z) - SoK: A Framework for Unifying At-Risk User Research [18.216554583064063]
リスクの高いユーザは,ディジタルセキュリティやプライバシ,安全上の脅威を経験する人たちです。
本稿では,85論文の多岐にわたるメタ分析に基づいて,リスクの高いユーザを推論する枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-13T22:27:24Z) - Human Factors in Security Research: Lessons Learned from 2008-2018 [8.255966566768484]
我々は、人間のエラーが多くのシステムに同時に影響しうる専門家の重要集団に関する研究に焦点をあてる。
我々は、セキュリティとプライバシーに関する過去10年間のヒューマンファクター調査を分析し、557の関連出版物を特定した。
論文 参考訳（メタデータ） (2021-03-24T15:58:05Z) - Epidemic mitigation by statistical inference from contact tracing data [61.04165571425021]
我々は,個人が感染するリスクを推定するためにベイズ推定法を開発した。
本稿では,感染防止のための検査・隔離戦略を最適化するために,確率論的リスク推定手法を提案する。
我々のアプローチは、最近接触した個人間の通信のみを必要とする、完全に分散されたアルゴリズムに変換されます。
論文 参考訳（メタデータ） (2020-09-20T12:24:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。