論文の概要: Learning AI Auditing: A Case Study of Teenagers Auditing a Generative AI Model
- arxiv url: http://arxiv.org/abs/2508.04902v1
- Date: Wed, 06 Aug 2025 21:57:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-08 18:59:39.655747
- Title: Learning AI Auditing: A Case Study of Teenagers Auditing a Generative AI Model
- Title（参考訳）: 学習型AI監査 : 生成型AIモデルを監査するティーンエイジャーのケーススタディ
- Authors: Luis Morales-Navarro, Michelle Gan, Evelyn Yu, Lauren Vogelstein, Yasmin B. Kafai, Danaé Metaxa,
- Abstract要約: 14代の若者(14～15歳)を対象に2週間の参加型デザインワークショップを開催した。
彼らは、インタラクティブなTikTokフィルタを作成するツールであるTikTokのエフェクトハウスの背後にある生成AIモデルを監査した。
調査の結果,参加者は活動を通じて参加し,創造的であり,独立して新たな考察と探求を行った。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This study investigates how high school-aged youth engage in algorithm auditing to identify and understand biases in artificial intelligence and machine learning (AI/ML) tools they encounter daily. With AI/ML technologies being increasingly integrated into young people's lives, there is an urgent need to equip teenagers with AI literacies that build both technical knowledge and awareness of social impacts. Algorithm audits (also called AI audits) have traditionally been employed by experts to assess potential harmful biases, but recent research suggests that non-expert users can also participate productively in auditing. We conducted a two-week participatory design workshop with 14 teenagers (ages 14-15), where they audited the generative AI model behind TikTok's Effect House, a tool for creating interactive TikTok filters. We present a case study describing how teenagers approached the audit, from deciding what to audit to analyzing data using diverse strategies and communicating their results. Our findings show that participants were engaged and creative throughout the activities, independently raising and exploring new considerations, such as age-related biases, that are uncommon in professional audits. We drew on our expertise in algorithm auditing to triangulate their findings as a way to examine if the workshop supported participants to reach coherent conclusions in their audit. Although the resulting number of changes in race, gender, and age representation uncovered by the teens were slightly different from ours, we reached similar conclusions. This study highlights the potential for auditing to inspire learning activities to foster AI literacies, empower teenagers to critically examine AI systems, and contribute fresh perspectives to the study of algorithmic harms.
- Abstract（参考訳）: 本研究では,高校生がアルゴリズム監査によって,人工知能と機械学習(AI/ML)ツールのバイアスを特定し,理解する方法について検討する。
AI/ML技術は若者の生活にますます統合されているため、技術的知識と社会的影響の認識の両方を構築するために、十代の若者にAIリテラシーを装備する必要がある。
アルゴリズム監査(AI監査とも呼ばれる)は伝統的に、潜在的に有害なバイアスを評価するために専門家によって採用されてきたが、最近の研究は、非専門家のユーザが監査に生産的に参加できることを示唆している。
我々は14代の若者(14～15歳)と2週間の参加型デザインワークショップを行い、対話型TikTokフィルタを作成するツールであるTikTokのエフェクトハウスの背後にある生成AIモデルを監査した。
本研究では,10代の若者が監査にどのようにアプローチしたかを説明するケーススタディとして,監査方法の決定から,多様な戦略を用いたデータ分析,その結果の伝達までについて述べる。
調査の結果、参加者は活動を通じて関与し創造的であり、専門的な監査では珍しく、年齢に関する偏見などの新たな考察を独立に提起し、探求していることがわかった。
ワークショップの参加者が監査において一貫性のある結論に達するかどうかを調べる手段として,アルゴリズム監査の専門知識について考察した。
その結果, 人種, 性別, 年齢表現の変化が10代で明らかとなったが, 同様の結論が得られた。
この研究は、AIリテラシーを育むための学習活動を促すための監査の可能性を強調し、十代の若者にAIシステムを批判的に調査し、アルゴリズム的な害の研究に新たな視点を貢献する可能性を強調している。
関連論文リスト
- ChatGPT produces more "lazy" thinkers: Evidence of cognitive engagement decline [0.0]
本研究では,生成型人工知能(AI)ツールが学術書記作業における学生の認知活動に与える影響について検討した。
その結果,ChatGPT群ではコントロール群に比べて認知エンゲージメントスコアが有意に低かった。
これらの結果は、AI支援が認知的オフロードにつながる可能性があることを示唆している。
論文 参考訳（メタデータ） (2025-06-30T18:41:50Z) - Investigating Middle School Students Question-Asking and Answer-Evaluation Skills When Using ChatGPT for Science Investigation [18.913112043551045]
ChatGPTのようなジェネレーティブAI(GenAI)ツールは、幅広いタスクを探索し、対処することができる。
本研究では,中学生が効果的な質問をし,ChatGPT反応を批判的に評価する能力について検討した。
論文 参考訳（メタデータ） (2025-05-02T08:38:17Z) - Investigating Youth AI Auditing [19.255894775715817]
本研究では,18歳未満の若者が責任あるAI(RAI)に有意義に関与する可能性を探る。
若年者関連ユビキタスAIにおける問題行動の同定方法について検討した。
その結果,若年者は,その専門知識,生活経験,年齢に関する知識によって形成され,質的な洞察に寄与できることがわかった。
論文 参考訳（メタデータ） (2025-02-25T19:02:26Z) - Learning About Algorithm Auditing in Five Steps: Scaffolding How High School Youth Can Systematically and Critically Evaluate Machine Learning Applications [0.41942958779358674]
アルゴリズム監査は、アルゴリズムシステムの不透明な内部動作と外部からの外部影響を理解する方法である。
本稿では,若者を監査アルゴリズムで支援できる5つのステップを提案する。
論文 参考訳（メタデータ） (2024-12-09T20:55:54Z) - Let people fail! Exploring the influence of explainable virtual and robotic agents in learning-by-doing tasks [45.23431596135002]
本研究は,古典的対パートナー意識による説明が学習作業中の人間の行動とパフォーマンスに与える影響を比較検討した。
その結果, パートナー意識による説明は, 関係する人工エージェントの種類によって, 参加者に異なる影響を及ぼした。
論文 参考訳（メタデータ） (2024-11-15T13:22:04Z) - ExACT: Teaching AI Agents to Explore with Reflective-MCTS and Exploratory Learning [78.42927884000673]
ExACTは、エージェントアプリケーションのためのo1のようなモデルを構築するために、テスト時間検索と自己学習を組み合わせるアプローチである。
リフレクティブモンテカルロ木探索(Reflective Monte Carlo Tree Search, R-MCTS)は、AIエージェントがその場で意思決定空間を探索する能力を高めるために設計された新しいテストタイムアルゴリズムである。
次に,探索学習(Exploratory Learning)という,外部探索アルゴリズムに頼らずに,エージェントに推論時間での探索を教える新しい学習戦略を紹介する。
論文 参考訳（メタデータ） (2024-10-02T21:42:35Z) - Youth as Peer Auditors: Engaging Teenagers with Algorithm Auditing of Machine Learning Applications [0.44998333629984877]
本稿では、若年層を機械学習(ML)を利用したアプリケーションの監査者として位置づける。
2週間のワークショップで、13人の若者(14～15歳)がMLベースのアプリケーションを設計し、監査した。
論文 参考訳（メタデータ） (2024-04-08T21:15:26Z) - Social network analysis for personalized characterization and risk
assessment of alcohol use disorders in adolescents using semantic
technologies [42.29248343585333]
アルコール使用障害(AUD)は、世界中の公衆衛生機関にとって大きな関心事である。
本稿では、知識モデルの構築方法を示し、従来の手法を用いて得られた結果と、この完全自動化モデルとの比較を行う。
論文 参考訳（メタデータ） (2024-02-14T16:09:05Z) - Human-centered NLP Fact-checking: Co-Designing with Fact-checkers using Matchmaking for AI [46.40919004160953]
我々は、ファクトチェッカー、デザイナ、NLP研究者との共同設計手法であるMatchmaking for AIを調査し、技術によってファクトチェッカーが対処すべきことを特定する。
22人のプロのファクトチェッカーによる共同設計セッションでは、"北の星"を提供する11のアイデアセットが得られました。
私たちの研究は、人間中心の事実チェック研究と実践とAIの共同設計研究の両方に、新たな洞察を与えています。
論文 参考訳（メタデータ） (2023-08-14T15:31:32Z) - An Uncommon Task: Participatory Design in Legal AI [64.54460979588075]
われわれは10年以上前に行われた法律分野における、注目に値する、未調査のAI設計プロセスについて検討する。
インタラクティブなシミュレーション手法によって,コンピュータ科学者と弁護士が共同設計者になれることを示す。
論文 参考訳（メタデータ） (2022-03-08T15:46:52Z) - Personalized Education in the AI Era: What to Expect Next? [76.37000521334585]
パーソナライズ学習の目的は、学習者の強みに合致する効果的な知識獲得トラックをデザインし、目標を達成するために弱みをバイパスすることである。
近年、人工知能(AI)と機械学習(ML)の隆盛は、パーソナライズされた教育を強化するための新しい視点を広げています。
論文 参考訳（メタデータ） (2021-01-19T12:23:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。