論文の概要: Everyday algorithm auditing: Understanding the power of everyday users
in surfacing harmful algorithmic behaviors
- arxiv url: http://arxiv.org/abs/2105.02980v2
- Date: Tue, 24 Aug 2021 19:53:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-01 07:32:04.577730
- Title: Everyday algorithm auditing: Understanding the power of everyday users
in surfacing harmful algorithmic behaviors
- Title（参考訳）: 日々のアルゴリズム監査:有害なアルゴリズム行動に直面する日常生活者の力を理解する
- Authors: Hong Shen, Alicia DeVos, Motahhare Eslami, Kenneth Holstein
- Abstract要約: 本稿では,日常的なアルゴリズム監査の概念について検討し,問題のあるマシンの動作を検出し,理解し,疑問を呈するプロセスを提案する。
日常のユーザは、より集中的に組織された監査形態による検知を不要にする問題のあるマシン行動に直面するのに強力である、と我々は主張する。
- 参考スコア（独自算出の注目度）: 8.360589318502816
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A growing body of literature has proposed formal approaches to audit
algorithmic systems for biased and harmful behaviors. While formal auditing
approaches have been greatly impactful, they often suffer major blindspots,
with critical issues surfacing only in the context of everyday use once systems
are deployed. Recent years have seen many cases in which everyday users of
algorithmic systems detect and raise awareness about harmful behaviors that
they encounter in the course of their everyday interactions with these systems.
However, to date little academic attention has been granted to these bottom-up,
user-driven auditing processes. In this paper, we propose and explore the
concept of everyday algorithm auditing, a process in which users detect,
understand, and interrogate problematic machine behaviors via their day-to-day
interactions with algorithmic systems. We argue that everyday users are
powerful in surfacing problematic machine behaviors that may elude detection
via more centrally-organized forms of auditing, regardless of users' knowledge
about the underlying algorithms. We analyze several real-world cases of
everyday algorithm auditing, drawing lessons from these cases for the design of
future platforms and tools that facilitate such auditing behaviors. Finally, we
discuss work that lies ahead, toward bridging the gaps between formal auditing
approaches and the organic auditing behaviors that emerge in everyday use of
algorithmic systems.
- Abstract（参考訳）: 研究機関は、偏見と有害な行動に対するアルゴリズムシステム監査のための公式なアプローチを提案している。
正式な監査アプローチは大きな影響を与えてきたが、システムのデプロイが完了すると、日常使用のコンテキストでのみ問題が発生するため、大きな盲点に陥りがちである。
近年,アルゴリズムシステムの日常的使用者が,これらのシステムとの日常的な相互作用の中で遭遇する有害な行為を検知し,意識を高めるケースが増えている。
しかし、これまでのところ、このボトムアップでユーザ主導の監査プロセスにはほとんど学術的な注意が払われていない。
本稿では,アルゴリズムシステムとの日々のインタラクションを通じて問題のある機械の動作を検出し,理解し,問合せを行うプロセスである,日々のアルゴリズム監査の概念を提案し,検討する。
我々は,ユーザのアルゴリズムに関する知識によらず,より中央集権的な監査形態による検出を不要とする,問題のあるマシン動作を克服する上で,日常的なユーザは強力である,と論じる。
我々は、日常的なアルゴリズム監査の現実的な事例を分析し、これらの事例から将来のプラットフォームや監査行動を促進するツールの設計の教訓を導き出す。
最後に,形式的監査アプローチと,アルゴリズムシステムの日常的利用において生じる有機的監査行動とのギャップを埋めるために,先行する作業について論じる。
関連論文リスト
- Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - Online Corrupted User Detection and Regret Minimization [49.536254494829436]
現実世界のオンラインウェブシステムでは、複数のユーザがシステムに順次到着する。
乱れた行動から未知のユーザ関係を学習・活用するために,LOCUDという重要なオンライン学習問題を提案する。
我々はRCLUB-WCUの推測ユーザ関係に基づく新しいオンライン検出アルゴリズムOCCUDを考案した。
論文 参考訳（メタデータ） (2023-10-07T10:20:26Z) - Who Audits the Auditors? Recommendations from a field scan of the
algorithmic auditing ecosystem [0.971392598996499]
AI監査エコシステムの最初の包括的なフィールドスキャンを提供する。
私たちは、新たなベストプラクティスと、一般的になりつつある方法やツールを特定します。
これらの監査の質と影響を改善するための政策勧告を概説する。
論文 参考訳（メタデータ） (2023-10-04T01:40:03Z) - Interactive System-wise Anomaly Detection [66.3766756452743]
異常検出は様々なアプリケーションにおいて基本的な役割を果たす。
既存のメソッドでは、インスタンスがデータとして容易に観察できないシステムであるシナリオを扱うのが難しい。
システム埋め込みを学習するエンコーダデコーダモジュールを含むエンドツーエンドアプローチを開発する。
論文 参考訳（メタデータ） (2023-04-21T02:20:24Z) - From Explanation to Action: An End-to-End Human-in-the-loop Framework
for Anomaly Reasoning and Management [15.22568616519016]
ALARMは、異常採掘サイクルを包括的にサポートするエンドツーエンドフレームワークである。
異常な説明と、ヒューマン・イン・ザ・ループ・プロセスのための対話型GUIを提供する。
我々は、金融業界の詐欺アナリストによる一連のケーススタディを通じて、ALARMの有効性を実証する。
論文 参考訳（メタデータ） (2023-04-06T20:49:36Z) - System Cards for AI-Based Decision-Making for Public Policy [5.076419064097733]
本研究では,人工知能に基づく意思決定システムの公式監査のためのシステム説明責任ベンチマークを提案する。
これは、(i)データ、(ii)モデル、(iii)コード、(iv)システム、および(a)開発、(b)評価、(c)緩和、(d)保証に焦点を当てた行からなる4つの4つの4つの行列にまとめられた56の基準からなる。
論文 参考訳（メタデータ） (2022-03-01T18:56:45Z) - Learning Physical Concepts in Cyber-Physical Systems: A Case Study [72.74318982275052]
本稿では,時系列データにおける物理概念の学習方法に関する研究の現状について概説する。
また,3タンクシステムの例を用いて,最先端技術から最も重要な手法を分析した。
論文 参考訳（メタデータ） (2021-11-28T14:24:52Z) - Problematic Machine Behavior: A Systematic Literature Review of
Algorithm Audits [0.0]
このレビューは、PRISMAガイドラインに従い、62のアルゴリズム監査研究を生んだ500以上の英文記事のレビューです。
研究は、主に行動(差別、歪み、搾取、誤判定)によって合成され、組織されます。
この論文は、監査の成功の共通要素を提供し、幅広い研究の文脈でアルゴリズム監査について議論することで締めくくっている。
論文 参考訳（メタデータ） (2021-02-03T19:21:11Z) - Detecting Suspicious Events in Fast Information Flows [0.0]
HALFADO と呼ばれる計算式フェザーライトと直感的なアルゴリズムを記述します。
HALFADOは人間の判断の比較的少数の例に基づいて複雑な記入項目の高周波流れの疑わしいでき事を検出するために設計されています。
本研究では,(1)ソーシャルメディアプラットフォームから収集されたテキストメッセージの流れにおけるヘイトスピーチメッセージの検出,(2)金融取引の流れにおける不正取引の検出におけるトランザクション監視システム(TMS)の2つの課題に対して,HALFADOの有効性を解説する。
論文 参考訳（メタデータ） (2021-01-07T08:19:25Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳（メタデータ） (2020-10-19T13:09:31Z) - Run2Survive: A Decision-theoretic Approach to Algorithm Selection based
on Survival Analysis [75.64261155172856]
生存分析(SA)は、自然に検閲されたデータをサポートし、アルゴリズムランタイムの分散モデルを学習するためにそのようなデータを使用する適切な方法を提供する。
我々は、アルゴリズム選択に対する洗練された決定論的アプローチの基礎として、そのようなモデルを活用し、Run2Surviveを疑う。
標準ベンチマークASlibによる広範な実験では、我々のアプローチは競争力が高く、多くの場合、最先端のASアプローチよりも優れていることが示されている。
論文 参考訳（メタデータ） (2020-07-06T15:20:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。