論文の概要: Ah, that's the great puzzle: On the Quest of a Holistic Understanding of the Harms of Recommender Systems on Children
- arxiv url: http://arxiv.org/abs/2405.02050v1
- Date: Fri, 03 May 2024 12:30:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-11 01:28:22.519840
- Title: Ah, that's the great puzzle: On the Quest of a Holistic Understanding of the Harms of Recommender Systems on Children
- Title（参考訳）: 子どもに対するレコメンダーシステムのハームの全体的理解の探求について
- Authors: Robin Ungruh, Maria Soledad Pera,
- Abstract要約: 子どもたちは様々なメディアアイテムをオンラインで目にするが、その多くは主に大人向けのレコメンデーターシステム(RS)によって選ばれる。
このことは、子どもの発達の脆弱な段階と幸福への潜在的なリスクを考慮すれば、そのようなコンテンツが適切かどうかという疑問を提起する。
我々は,RSが子どもに与える影響について,より包括的な調査を行うよう,研究者,実践者,政策立案者に呼びかける。
- 参考スコア（独自算出の注目度）: 2.0718016474717196
- License:
- Abstract: Children come across various media items online, many of which are selected by recommender systems (RS) primarily designed for adults. The specific nature of the content selected by RS to display on online platforms used by children - although not necessarily targeting them as a user base - remains largely unknown. This raises questions about whether such content is appropriate given children's vulnerable stages of development and the potential risks to their well-being. In this position paper, we reflect on the relationship between RS and children, emphasizing the possible adverse effects of the content this user group might be exposed to online. As a step towards fostering safer interactions for children in online environments, we advocate for researchers, practitioners, and policymakers to undertake a more comprehensive examination of the impact of RS on children - one focused on harms. This would result in a more holistic understanding that could inform the design and deployment of strategies that would better suit children's needs and preferences while actively mitigating the potential harm posed by RS; acknowledging that identifying and addressing these harms is complex and multifaceted.
- Abstract（参考訳）: 子どもたちは様々なメディアアイテムをオンラインで目にするが、その多くは主に大人向けのレコメンデーターシステム(RS)によって選ばれる。
RSが選択したコンテンツの特徴は、子どもが使用するオンラインプラットフォーム(必ずしもユーザーベースとしてターゲットにしているわけではないが)に表示される。
このことは、子どもの発達の脆弱な段階と幸福への潜在的なリスクを考慮すれば、そのようなコンテンツが適切かどうかという疑問を提起する。
本稿では, RSと子どもの関係を考察し, 利用者集団がオンラインに露出する可能性のあるコンテンツの有害な影響を強調した。
オンライン環境における子どもの安全なインタラクションを促進するためのステップとして、我々は研究者、実践者、政策立案者に対して、子どもに対するRSの影響をより包括的に調査することを推奨する。
これは、子供のニーズや好みに合った戦略の設計と展開を通知すると同時に、RSがもたらす潜在的な害を積極的に軽減する、より包括的な理解をもたらす。
関連論文リスト
- Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。
リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
論文 参考訳（メタデータ） (2024-08-16T17:23:43Z) - Security Advice for Parents and Children About Content Filtering and
Circumvention as Found on YouTube and TikTok [2.743215038883957]
YouTubeやTikTokで見られるように、コンテンツフィルタリングと回避に関する両親や子供たちのアドバイスを検討する。
その結果、これらのビデオのうち、約4分の3は正確であり、残りの4分の1は事実的不正確なアドバイスを含んでいることがわかった。
子どもを対象とするビデオは、両親を対象とするビデオよりも、誤動作しやすく、有害な行動をとるリスクが高まる傾向にある。
論文 参考訳（メタデータ） (2024-02-05T18:12:33Z) - A safety risk assessment framework for children's online safety based on
a novel safety weakness assessment approach [0.43512163406552007]
本稿では,成長するデジタルランドスケープの文脈において,子どものオンライン安全の問題に対処する。
本研究では,子どものオンライン安全に焦点をあてた安全リスク評価手法を提案する。
論文 参考訳（メタデータ） (2024-01-26T08:50:15Z) - PsySafe: A Comprehensive Framework for Psychological-based Attack, Defense, and Evaluation of Multi-agent System Safety [70.84902425123406]
大規模言語モデル(LLM)で拡張されたマルチエージェントシステムは、集団知能において重要な能力を示す。
しかし、悪意のある目的のためにこのインテリジェンスを誤用する可能性があり、重大なリスクが生じる。
本研究では,エージェント心理学を基盤とした枠組み(PsySafe)を提案し,エージェントのダークパーソナリティ特性がリスク行動にどう影響するかを明らかにする。
実験の結果,エージェント間の集団的危険行動,エージェントが危険な行動を行う際の自己反射,エージェントの心理的評価と危険な行動との相関など,いくつかの興味深い現象が明らかになった。
論文 参考訳（メタデータ） (2024-01-22T12:11:55Z) - On the conformance of Android applications with children's data
protection regulations and safeguarding guidelines [3.8029070240258687]
子ども向けのアプリでさえ、法律やガイダンスに従わない。
このコンプライアンスの欠如は、身体的または精神的な危害を引き起こす道を作るのに寄与する。
論文 参考訳（メタデータ） (2023-05-15T09:46:56Z) - On the Security Risks of Knowledge Graph Reasoning [71.64027889145261]
我々は、敵の目標、知識、攻撃ベクトルに応じて、KGRに対するセキュリティ脅威を体系化する。
我々は、このような脅威をインスタンス化する新しいタイプの攻撃であるROARを提示する。
ROARに対する潜在的な対策として,潜在的に有毒な知識のフィルタリングや,対向的な拡張クエリによるトレーニングについて検討する。
論文 参考訳（メタデータ） (2023-05-03T18:47:42Z) - Mitigating Covertly Unsafe Text within Natural Language Systems [55.26364166702625]
制御されていないシステムは、怪我や致命的な結果につながるレコメンデーションを生成する。
本稿では,身体的危害につながる可能性のあるテキストのタイプを識別し,特に未発見のカテゴリを確立する。
論文 参考訳（メタデータ） (2022-10-17T17:59:49Z) - Imagining new futures beyond predictive systems in child welfare: A
qualitative study with impacted stakeholders [89.6319385008397]
児童福祉システムに影響を及ぼした利害関係者35名を対象に,7つのデザインワークショップを開催した。
対象者は,現在のPRMが児童福祉における既存の問題を持続的又は悪化させることを懸念した。
参加者は、データとデータ駆動ツールを使って、影響のあるコミュニティをより良くサポートする方法を提案した。
論文 参考訳（メタデータ） (2022-05-18T13:49:55Z) - StoryBuddy: A Human-AI Collaborative Chatbot for Parent-Child
Interactive Storytelling with Flexible Parental Involvement [61.47157418485633]
私たちは、インタラクティブなストーリーテリング体験を作成するためのAI対応システムであるStoryBuddyを開発した。
ユーザスタディでは、StoryBuddyのユーザビリティを検証し、将来の親とAIのコラボレーションシステムの設計上の洞察を提案した。
論文 参考訳（メタデータ） (2022-02-13T04:53:28Z) - SoK: A Framework for Unifying At-Risk User Research [18.216554583064063]
リスクの高いユーザは,ディジタルセキュリティやプライバシ,安全上の脅威を経験する人たちです。
本稿では,85論文の多岐にわたるメタ分析に基づいて,リスクの高いユーザを推論する枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-13T22:27:24Z) - Understanding parents' perceptions of children's cybersecurity awareness
in Norway [3.590867023672793]
ノルウェー在住の両親25人と10歳から15歳までの子どもを対象に調査を行った。
結果は、親の視点からの子供に対するサイバーセキュリティの認識の必要性のリスト、子供のための学習リソースのリスト、そして家庭におけるサイバーセキュリティを確保するための親にとっての課題のリストを含む。
将来の研究は、サイバーセキュリティのリスク、ニーズ、解決策に対する子どもや両親の認識に寄与するサイバーセキュリティ理論と実践を定義することに焦点を当てるべきである。
論文 参考訳（メタデータ） (2021-08-05T10:42:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。