論文の概要: Learning About Algorithm Auditing in Five Steps: Scaffolding How High School Youth Can Systematically and Critically Evaluate Machine Learning Applications

• arxiv url: http://arxiv.org/abs/2412.06989v3
• Date: Fri, 10 Jan 2025 19:05:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-14 14:29:18.236050
• Title: Learning About Algorithm Auditing in Five Steps: Scaffolding How High School Youth Can Systematically and Critically Evaluate Machine Learning Applications
• Title（参考訳）: 5段階のアルゴリズム監査に関する学習: 高校生が機械学習アプリケーションをどのように体系的かつ批判的に評価できるかを問う
• Authors: Luis Morales-Navarro, Yasmin B. Kafai, Lauren Vogelstein, Evelyn Yu, Danaë Metaxa,
• Abstract要約: アルゴリズム監査は、アルゴリズムシステムの不透明な内部動作と外部からの外部影響を理解する方法である。 本稿では,若者を監査アルゴリズムで支援できる5つのステップを提案する。
• 参考スコア（独自算出の注目度）: 0.41942958779358674
• License:
• Abstract: While there is widespread interest in supporting young people to critically evaluate machine learning-powered systems, there is little research on how we can support them in inquiring about how these systems work and what their limitations and implications may be. Outside of K-12 education, an effective strategy in evaluating black-boxed systems is algorithm auditing-a method for understanding algorithmic systems' opaque inner workings and external impacts from the outside in. In this paper, we review how expert researchers conduct algorithm audits and how end users engage in auditing practices to propose five steps that, when incorporated into learning activities, can support young people in auditing algorithms. We present a case study of a team of teenagers engaging with each step during an out-of-school workshop in which they audited peer-designed generative AI TikTok filters. We discuss the kind of scaffolds we provided to support youth in algorithm auditing and directions and challenges for integrating algorithm auditing into classroom activities. This paper contributes: (a) a conceptualization of five steps to scaffold algorithm auditing learning activities, and (b) examples of how youth engaged with each step during our pilot study.
• Abstract（参考訳）: 若者が機械学習を利用したシステムを批判的に評価することへの関心は広くあるが、これらのシステムがどのように機能し、その制限や影響がどのようなものであるかを問う際に、それらをサポートする方法についてはほとんど研究されていない。 K-12教育以外で、ブラックボックスシステムを評価する効果的な戦略はアルゴリズム監査であり、アルゴリズムシステムの不透明な内部動作と外部からの外部影響を理解する方法である。 本稿では, 専門家研究者のアルゴリズム監査の実施方法と, エンドユーザーが, 学習活動に組み込むと, 若者を監査アルゴリズムで支援できる5つのステップを提案する方法について述べる。 学校外ワークショップにおいて、各ステップに関わったティーンエイジャーのチームが、ピアデザインのジェネレーティブAI TikTokフィルタを監査したケーススタディを提示する。 我々は,アルゴリズム監査における若者を支援するための足場の種類と,アルゴリズム監査を教室活動に統合する上での課題について論じる。 この論文は、次のように貢献する。 (a)学習活動を監査する足場アルゴリズムの5段階の概念化、及び (b) パイロット研究において, 若者が各ステップでどのように交際したかの例。

関連論文リスト

• Youth as Peer Auditors: Engaging Teenagers with Algorithm Auditing of Machine Learning Applications [0.44998333629984877]
  本稿では、若年層を機械学習(ML)を利用したアプリケーションの監査者として位置づける。 2週間のワークショップで、13人の若者(14～15歳)がMLベースのアプリケーションを設計し、監査した。
  論文  参考訳（メタデータ） (2024-04-08T21:15:26Z)
• Benchmarking Actor-Critic Deep Reinforcement Learning Algorithms for Robotics Control with Action Constraints [9.293472255463454]
  本研究では,行動制約付き強化学習(RL)アルゴリズムの評価のためのベンチマークを提案する。 複数のロボット制御環境にまたがる既存のアルゴリズムとその新しい変種を評価する。
  論文  参考訳（メタデータ） (2023-04-18T05:45:09Z)
• Teachable Reinforcement Learning via Advice Distillation [161.43457947665073]
  外部教師が提供した構造化アドバイスから学習する「教育可能な」意思決定システムに基づく対話型学習のための新しい指導パラダイムを提案する。 我々は、アドバイスから学ぶエージェントが、標準的な強化学習アルゴリズムよりも人的監督力の少ない新しいスキルを習得できることを示す。
  論文  参考訳（メタデータ） (2022-03-19T03:22:57Z)
• Scaling up Search Engine Audits: Practical Insights for Algorithm Auditing [68.8204255655161]
  異なる地域に数百の仮想エージェントを配置した8つの検索エンジンの実験を行った。 複数のデータ収集にまたがる研究インフラの性能を実証する。 仮想エージェントは,アルゴリズムの性能を長時間にわたって監視するための,有望な場所である,と結論付けている。
  論文  参考訳（メタデータ） (2021-06-10T15:49:58Z)
• Everyday algorithm auditing: Understanding the power of everyday users in surfacing harmful algorithmic behaviors [8.360589318502816]
  本稿では,日常的なアルゴリズム監査の概念について検討し,問題のあるマシンの動作を検出し,理解し,疑問を呈するプロセスを提案する。 日常のユーザは、より集中的に組織された監査形態による検知を不要にする問題のあるマシン行動に直面するのに強力である、と我々は主張する。
  論文  参考訳（メタデータ） (2021-05-06T21:50:47Z)
• Learning from Task Descriptions [24.588252048132862]
  本稿では,NLPシステム構築のためのフレームワークについて紹介する。 タスク指向評価のために構築された、新しい英語データセットであるZESTを用いて、このフレームワークをインスタンス化する。 現状のT5モデルはZESTで12%のスコアを獲得し、NLP研究者にとって大きな課題を残している。
  論文  参考訳（メタデータ） (2020-11-16T17:25:24Z)
• Mastering Rate based Curriculum Learning [78.45222238426246]
  学習の進行という概念には、学習者のサンプル効率の低下につながるいくつかの欠点があると主張する。 本稿では,習得率の概念に基づく新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-14T16:34:01Z)
• Designing for Critical Algorithmic Literacies [11.6402289139761]
  計算アルゴリズムを問う子どもの能力は重要になっている。 成長する研究機関は、子供たちが自分の生活を形成するアルゴリズムシステムを理解し、尋問し、批判するために使用できる知的なツールを記述するために、一連の「文学」を表現しようと試みている。 我々は、子どもたちがアルゴリズムの仕組みだけでなく、批判し、疑問を抱くことができるようにするための4つの設計原則を提示している。
  論文  参考訳（メタデータ） (2020-08-04T17:51:02Z)
• A Brief Look at Generalization in Visual Meta-Reinforcement Learning [56.50123642237106]
  メタ強化学習アルゴリズムの一般化性能を評価する。 これらのアルゴリズムは、困難なタスクで評価された場合、強いオーバーフィッティングを示すことができる。
  論文  参考訳（メタデータ） (2020-06-12T15:17:17Z)
• Provably Efficient Exploration for Reinforcement Learning Using Unsupervised Learning [96.78504087416654]
  強化学習(RL)問題における効率的な探索に教師なし学習を用い,本パラダイムが有効であるかどうかを考察する。 本稿では,教師なし学習アルゴリズムと非線形表RLアルゴリズムという,2つのコンポーネント上に構築された汎用的なアルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-15T19:23:59Z)
• Curriculum Learning for Reinforcement Learning Domains: A Framework and Survey [53.73359052511171]
  強化学習(Reinforcement Learning, RL)は、エージェントが限られた環境フィードバックしか持たないシーケンシャルな意思決定タスクに対処するための一般的なパラダイムである。 本稿では、RLにおけるカリキュラム学習(CL)の枠組みを提案し、既存のCLメソッドを仮定、能力、目標の観点から調査・分類する。
  論文  参考訳（メタデータ） (2020-03-10T20:41:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。