論文の概要: Watching the watchers: bias and vulnerability in remote proctoring software

• arxiv url: http://arxiv.org/abs/2205.03009v1
• Date: Fri, 6 May 2022 04:36:25 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-19 16:42:36.562985
• Title: Watching the watchers: bias and vulnerability in remote proctoring software
• Title（参考訳）: watching the watchers: リモートプロトタイピングソフトウェアのバイアスと脆弱性
• Authors: Ben Burgess, Avi Ginsberg, Edward W. Felten, Shaanan Cohney
• Abstract要約: 州委員会はこれらのソフトウェアを、法律と医療のライセンス試験に利用している。 これら複雑なソフトウェアの使用には、試験の完全性、試験手続きの公正性、試験テッカーのセキュリティとプライバシの3つの重要な懸念がある。 私たちはこれらのプロクタリングスイートをリバースエンジニアリングし、高いセキュリティの約束にもかかわらず、そのアンチチーティング対策はすべて、自明に回避可能であることに気付きました。
• 参考スコア（独自算出の注目度）: 1.616324161545663
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Educators are rapidly switching to remote proctoring and examination software for their testing needs, both due to the COVID-19 pandemic and the expanding virtualization of the education sector. State boards are increasingly utilizing these software for high stakes legal and medical licensing exams. Three key concerns arise with the use of these complex software: exam integrity, exam procedural fairness, and exam-taker security and privacy. We conduct the first technical analysis of each of these concerns through a case study of four primary proctoring suites used in U.S. law school and state attorney licensing exams. We reverse engineer these proctoring suites and find that despite promises of high-security, all their anti-cheating measures can be trivially bypassed and can pose significant user security risks. We evaluate current facial recognition classifiers alongside the classifier used by Examplify, the legal exam proctoring suite with the largest market share, to ascertain their accuracy and determine whether faces with certain skin tones are more readily flagged for cheating. Finally, we offer recommendations to improve the integrity and fairness of the remotely proctored exam experience.
• Abstract（参考訳）: 新型コロナウイルス(COVID-19)のパンデミックと教育分野の仮想化が拡大しているため、教育者はテストのニーズに応じて、リモートプロクターや検査ソフトウェアに急速に切り替えている。 州委員会はこれらのソフトウェアを、法律と医療のライセンス試験に利用している。 これら複雑なソフトウェアの使用には、試験の完全性、試験手続きの公正性、試験テッカーのセキュリティとプライバシの3つの重要な懸念がある。 本研究は、米国法学校と州検事免許試験で使用される4つの主要検事スイートのケーススタディを通じて、これらの懸念事項について、最初の技術的分析を行う。 私たちはこれらのプロクタリングスイートをリバースエンジニアリングし、高いセキュリティの約束にもかかわらず、その対策はすべて自明に回避され、ユーザセキュリティの重大なリスクをもたらす可能性があることに気付きました。 筆者らは,最大市場シェアの法定試験検定検定スイートであるExpamplifyで使用されている分類器とともに,現在の顔認識分類器を評価し,その精度を確認し,特定の肌色のある顔が不正行為に容易にフラグ付けされているかどうかを判定する。 最後に,遠隔検定経験の完全性と公平性を改善するための勧告を提案する。

関連論文リスト

• AI-assisted Gaze Detection for Proctoring Online Exams [6.743433721135328]
  高額のオンライン試験では、潜在的なルール違反を検知し、テストの安全性を確保することが重要である。 本研究では,テストテイクがスクリーンから遠ざかっているかどうかを検知する作業について検討する。 本稿では,AIを利用した視線検出システムを提案する。これにより,プロクターは異なる映像フレームをナビゲートし,テストテイクが同じ方向を向いている映像フレームを発見することができる。
  論文  参考訳（メタデータ） (2024-09-25T13:31:37Z)
• Security Challenges of Complex Space Applications: An Empirical Study [0.0]
  複雑な宇宙アプリケーションの開発と管理におけるセキュリティ上の課題について検討する。 インタビューでは、ソフトウェアアーティファクトの検証、デプロイされたアプリケーションの検証、セキュリティ障害の単一ポイント、信頼されたステークホルダによるデータ改ざんという、4つの重要なセキュリティ課題について論じています。 私は、宇宙や防衛産業におけるソフトウェア完全性検証のより良い方法を可能にする新しいDevSecOps戦略、プラクティス、ツールの今後の研究を提案します。
  論文  参考訳（メタデータ） (2024-08-15T10:02:46Z)
• A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
  一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。 我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。 これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
  論文  参考訳（メタデータ） (2024-03-07T20:55:08Z)
• Understanding Hackers' Work: An Empirical Study of Offensive Security Practitioners [0.0]
  攻撃的なセキュリティテストは、潜在的な脆弱性を積極的に発見する一般的な方法である。 ホワイトハットハッカーの慢性的な欠如は、ソフトウェアの十分なセキュリティテストカバレッジを妨げている。 自動化の研究は、セキュリティテストの効率を改善することによって、この問題を緩和しようとする。
  論文  参考訳（メタデータ） (2023-08-14T10:35:26Z)
• Security Defect Detection via Code Review: A Study of the OpenStack and Qt Communities [7.2944322548786715]
  セキュリティ欠陥は、コードレビューでは議論されていない。 レビューの半数以上が、開発者がセキュリティ欠陥を修正するための明確な修正戦略/ソリューションを提供しています。 開発者とレビュアーの相違は、セキュリティ欠陥を解決しない主な原因である。
  論文  参考訳（メタデータ） (2023-07-05T14:30:41Z)
• Educators' Perspectives of Using (or Not Using) Online Exam Proctoring [14.885556070794392]
  新型コロナウイルス(COVID-19)のパンデミックで教育の状況が変わり、遠隔プロクターツールの利用が増えた。 本研究では,学生のセキュリティとプライバシを遠隔試験の要件とどのようにバランスさせるかを検討する。
  論文  参考訳（メタデータ） (2023-02-24T23:50:37Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• Pre-trained Encoders in Self-Supervised Learning Improve Secure and Privacy-preserving Supervised Learning [63.45532264721498]
  自己教師付き学習は、ラベルのないデータを使ってエンコーダを事前訓練するための新しいテクニックである。 我々は、事前訓練されたエンコーダがセキュア・プライバシ保護型学習アルゴリズムの限界に対処できるかどうかを理解するための、最初の体系的、原則的な測定研究を行う。
  論文  参考訳（メタデータ） (2022-12-06T21:35:35Z)
• Biometrics: Trust, but Verify [49.9641823975828]
  バイオメトリック認識は、世界中のさまざまなアプリケーションに爆発しました。 生体認証システムの様々なサブモジュールに関する多くの顕著な問題と懸念があります。
  論文  参考訳（メタデータ） (2021-05-14T03:07:25Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)
• Adversarial EXEmples: A Survey and Experimental Evaluation of Practical Attacks on Machine Learning for Windows Malware Detection [67.53296659361598]
  EXEmplesは、比較的少ない入力バイトを摂動することで、機械学習に基づく検出をバイパスすることができる。 我々は、機械学習モデルに対する過去の攻撃を包含し、一般化するだけでなく、3つの新たな攻撃を含む統一フレームワークを開発する。 これらの攻撃はFull DOS、Extended、Shiftと呼ばれ、DOSヘッダをそれぞれ操作し、拡張し、第1セクションの内容を変更することで、敵のペイロードを注入する。
  論文  参考訳（メタデータ） (2020-08-17T07:16:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。