論文の概要: SoK: A Framework for Unifying At-Risk User Research
- arxiv url: http://arxiv.org/abs/2112.07047v1
- Date: Mon, 13 Dec 2021 22:27:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-04 16:13:54.047421
- Title: SoK: A Framework for Unifying At-Risk User Research
- Title(参考訳): SoK:At-Riskユーザリサーチを統合するフレームワーク
- Authors: Noel Warford and Tara Matthews and Kaitlyn Yang and Omer Akgul and
Sunny Consolvo and Patrick Gage Kelley and Nathan Malkin and Michelle L.
Mazurek and Manya Sleeper and Kurt Thomas
- Abstract要約: リスクの高いユーザは,ディジタルセキュリティやプライバシ,安全上の脅威を経験する人たちです。
本稿では,85論文の多岐にわたるメタ分析に基づいて,リスクの高いユーザを推論する枠組みを提案する。
- 参考スコア(独自算出の注目度): 18.216554583064063
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: At-risk users are people who experience elevated digital security, privacy,
and safety threats because of what they do, who they are, where they are, or
who they are with. In this systematization work, we present a framework for
reasoning about at-risk users based on a wide-ranging meta-analysis of 85
papers. Across the varied populations that we examined (e.g., children,
activists, women in developing regions), we identified 10 unifying contextual
risk factors--such as oppression or stigmatization and access to a sensitive
resource--which augment or amplify digital-safety threats and their resulting
harms. We also identified technical and non-technical practices that at-risk
users adopt to attempt to protect themselves from digital-safety threats. We
use this framework to discuss barriers that limit at-risk users' ability or
willingness to take protective actions. We believe that the security, privacy,
and human-computer interaction research and practitioner communities can use
our framework to identify and shape research investments to benefit at-risk
users, and to guide technology design to better support at-risk users.
- Abstract(参考訳): リスクの高いユーザは,ディジタルセキュリティやプライバシ,安全上の脅威を経験する人たちです。
本稿では,85論文の広範なメタ分析に基づいて,リスクのあるユーザを推論する枠組みを提案する。
調査対象とした多様な集団(子ども、活動家、発展途上国の女性など)にわたって、抑圧や便秘化、センシティブなリソースへのアクセスなど、デジタル・セーフティの脅威を増大または増幅する10のコンテキスト的リスク要因を特定した。
また、リスクの高いユーザーがデジタルセーフティの脅威から身を守るために採用する技術的および非技術的プラクティスも特定しました。
我々はこの枠組みを用いて、リスクの高いユーザーの能力や保護措置を取る意思を制限する障壁について議論する。
セキュリティ、プライバシ、人間とコンピュータのインタラクションに関する研究と実践者のコミュニティは、私たちのフレームワークを使って、調査投資を特定し、形作り、リスクの高いユーザに利益をもたらします。
関連論文リスト
- Affirmative safety: An approach to risk management for high-risk AI [6.133009503054252]
高いリスクを持つAIシステムを開発または展開するエンティティは、肯定的な安全性の証拠を示すために必要であるべきだ、と私たちは主張する。
本稿では,モデル開発者が一定のリスクを規制基準値以下に維持する証拠を提示しなければならない,高度なAIのためのリスク管理手法を提案する。
論文 参考訳(メタデータ) (2024-04-14T20:48:55Z) - Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。
彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。
本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
論文 参考訳(メタデータ) (2024-02-06T18:54:07Z) - Mind the Gap: Securely modeling cyber risk based on security deviations
from a peer group [2.7910505923792646]
本稿では,特定の経済セクターにおいて,ピアに対するサイバー姿勢とサイバーリスクを推定する新たな枠組みを提案する。
我々は、組織とその仲間間の重み付けされたセキュリティギャップを表す、Defense Gap Indexと呼ばれる新しいトップライン変数を導入する。
このアプローチを,25の大企業から収集したデータを用いて,特定の分野に適用する。
論文 参考訳(メタデータ) (2024-02-06T17:22:45Z) - PsySafe: A Comprehensive Framework for Psychological-based Attack,
Defense, and Evaluation of Multi-agent System Safety [73.51336434996931]
大規模言語モデル(LLM)で拡張されたマルチエージェントシステムは、集団知能において重要な能力を示す。
しかし、悪意のある目的のためにこのインテリジェンスを誤用する可能性があり、重大なリスクが生じる。
本研究では,エージェント心理学を基盤とした枠組み(PsySafe)を提案し,エージェントのダークパーソナリティ特性がリスク行動にどう影響するかを明らかにする。
実験の結果,エージェント間の集団的危険行動,エージェントが危険な行動を行う際の自己反射,エージェントの心理的評価と危険な行動との相関など,いくつかの興味深い現象が明らかになった。
論文 参考訳(メタデータ) (2024-01-22T12:11:55Z) - Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。
化学科学における誤用の実例を取り上げる。
我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文 参考訳(メタデータ) (2023-12-11T18:50:57Z) - SoK: Safer Digital-Safety Research Involving At-Risk Users [43.45078079505055]
コンピュータのセキュリティとプライバシーに関する研究は、リスクの高いユーザーのデジタル安全のニーズを満たす方法を理解するために不可欠である。
成長する研究者コミュニティが使用する14の研究リスクと36の安全プラクティスを引き出すために,196の学術研究の分析を行った。
本稿では,リスクの高いユーザリサーチの報告,研究,資金提供に関する今後の研究分野を提案する。
論文 参考訳(メタデータ) (2023-09-01T21:15:39Z) - "My sex-related data is more sensitive than my financial data and I want
the same level of security and privacy": User Risk Perceptions and Protective
Actions in Female-oriented Technologies [6.5268245109828005]
生殖体のデジタル化は、人々が親密な健康を知り、取り組むのを支援するために、最先端技術に無数の関与をしてきた。
FemTech製品やシステムは、他の当事者と処理、保存、共有される幅広い親密なデータを収集する。
我々は、この産業の「データ・ハングリー」の性質と適切な保護機構の欠如が、複雑な害やエージェントの可能性の低下につながるかを探る。
論文 参考訳(メタデータ) (2023-06-09T15:16:30Z) - On the Security Risks of Knowledge Graph Reasoning [71.64027889145261]
我々は、敵の目標、知識、攻撃ベクトルに応じて、KGRに対するセキュリティ脅威を体系化する。
我々は、このような脅威をインスタンス化する新しいタイプの攻撃であるROARを提示する。
ROARに対する潜在的な対策として,潜在的に有毒な知識のフィルタリングや,対向的な拡張クエリによるトレーニングについて検討する。
論文 参考訳(メタデータ) (2023-05-03T18:47:42Z) - Foveate, Attribute, and Rationalize: Towards Physically Safe and
Trustworthy AI [76.28956947107372]
包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。
安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。
実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
論文 参考訳(メタデータ) (2022-12-19T17:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。