論文の概要: SkillBot: Identifying Risky Content for Children in Alexa Skills
- arxiv url: http://arxiv.org/abs/2102.03382v1
- Date: Fri, 5 Feb 2021 19:07:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-09 15:30:21.708833
- Title: SkillBot: Identifying Risky Content for Children in Alexa Skills
- Title（参考訳）: SkillBot:Alexaスキルで子どもの危険コンテンツを特定する
- Authors: Tu Le, Danny Yuxing Huang, Noah Apthorpe, Yuan Tian
- Abstract要約: 子どもたちはVPAの豊富な機能から恩恵を受けるが、VPAエコシステムの新たなリスクにさらされる。
VPAアプリと自動的に対話する自然言語処理ベースのシステムを構築している。
危険コンテンツを持つ28の子供指向アプリを特定し、重複しないアプリの振る舞いのデータセットを31,966個増加させています。
- 参考スコア（独自算出の注目度）: 4.465104643266321
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many households include children who use voice personal assistants (VPA) such
as Amazon Alexa. Children benefit from the rich functionalities of VPAs and
third-party apps but are also exposed to new risks in the VPA ecosystem (e.g.,
inappropriate content or information collection). To study the risks VPAs pose
to children, we build a Natural Language Processing (NLP)-based system to
automatically interact with VPA apps and analyze the resulting conversations to
identify contents risky to children. We identify 28 child-directed apps with
risky contents and maintain a growing dataset of 31,966 non-overlapping app
behaviors collected from 3,434 Alexa apps. Our findings suggest that although
voice apps designed for children are subject to more policy requirements and
intensive vetting, children are still vulnerable to risky content. We then
conduct a user study showing that parents are more concerned about VPA apps
with inappropriate content than those that ask for personal information, but
many parents are not aware that risky apps of either type exist. Finally, we
identify a new threat to users of VPA apps: confounding utterances, or voice
commands shared by multiple apps that may cause a user to invoke or interact
with a different app than intended. We identify 4,487 confounding utterances,
including 581 shared by child-directed and non-child-directed apps.
- Abstract（参考訳）: 多くの家庭には、Amazon Alexaなどの音声パーソナルアシスタント(VPA)を使用する子供たちがいます。
子どもたちはVPAやサードパーティアプリの豊富な機能から恩恵を受けるが、VPAエコシステム(不適切なコンテンツや情報収集など)の新たなリスクにさらされる。
VPAが子どもにもたらすリスクを調査するために、自然言語処理(NLP)ベースのシステムを構築し、VPAアプリと自動的に対話し、その結果の会話を分析し、子供にとって危険なコンテンツを特定します。
3,434のAlexaアプリから収集された31,966の非オーバーラップアプリ行動のデータセットを維持します。
以上の結果から,子ども向けの音声アプリは,より政策要件や集中的な審査の対象となっているものの,子どもは依然として危険なコンテンツに弱いことが示唆された。
その後、個人情報を求めるよりも不適切なコンテンツを持つVPAアプリに親が関心を持っていることを示すユーザー調査を実施しますが、多くの親はどちらのタイプの危険なアプリが存在することを認識していません。
最後に、vbaアプリのユーザに対する新たな脅威を特定します。複数のアプリが共有する発話や音声コマンドを組み合わせることで、ユーザが意図したよりも別のアプリを起動したり、操作したりする可能性があるのです。
児童向けおよび非児童向けアプリで共有される581種を含む,4,487種が混在する発話を同定した。
関連論文リスト
- PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - "Don't forget to put the milk back!" Dataset for Enabling Embodied Agents to Detect Anomalous Situations [49.66220439673356]
私たちは、SafetyDetectと呼ばれる新しいデータセットを作成しました。
SafetyDetectデータセットは1000の異常なホームシーンで構成されている。
提案手法は,シーンのグラフ表現とシーン内のオブジェクト間の関係の両方とともに,大規模言語モデル(LLM)を利用する。
論文 参考訳（メタデータ） (2024-04-12T21:56:21Z) - Security Advice for Parents and Children About Content Filtering and
Circumvention as Found on YouTube and TikTok [2.743215038883957]
YouTubeやTikTokで見られるように、コンテンツフィルタリングと回避に関する両親や子供たちのアドバイスを検討する。
その結果、これらのビデオのうち、約4分の3は正確であり、残りの4分の1は事実的不正確なアドバイスを含んでいることがわかった。
子どもを対象とするビデオは、両親を対象とするビデオよりも、誤動作しやすく、有害な行動をとるリスクが高まる傾向にある。
論文 参考訳（メタデータ） (2024-02-05T18:12:33Z) - Targeted and Troublesome: Tracking and Advertising on Children's
Websites [10.066090482189015]
児童向けウェブサイトにおけるトラッカー,指紋認証スクリプト,広告の有病率を測定した。
その結果、子ども向けウェブサイトの約90%が1つ以上のトラッカーを内蔵しており、約27%がターゲット広告を含んでいることがわかった。
次に、広告から抽出した画像とテキストの両方を処理するMLパイプラインを開発することにより、児童向けウェブサイト上の不適切な広告を識別する。
論文 参考訳（メタデータ） (2023-08-09T11:37:39Z) - Towards Usable Parental Control for Voice Assistants [6.827452316943251]
私たちは、現在のペアレンタルコントロール機能について、彼らが何を好み、嫌いかを知るために、親調査を実施します。
親は、子どもの活動、子どものセキュリティ機能へのアクセスの容易化、ユーザーインターフェースの改善など、より視覚的な情報を必要としている。
論文 参考訳（メタデータ） (2023-03-09T00:26:42Z) - 'Beach' to 'Bitch': Inadvertent Unsafe Transcription of Kids' Content on
YouTube [13.116806430326513]
有名な自動音声認識(ASR)システムは、YouTube Kidsのビデオの書き起こしをしながら、子供にとって非常に不適切なテキストコンテンツを生成できる。
我々は、既存の最先端のASRシステムが子供に不適切なコンテンツを幻覚させるような、第一級のオーディオデータセットをリリースする。
論文 参考訳（メタデータ） (2022-02-17T19:19:09Z) - StoryBuddy: A Human-AI Collaborative Chatbot for Parent-Child
Interactive Storytelling with Flexible Parental Involvement [61.47157418485633]
私たちは、インタラクティブなストーリーテリング体験を作成するためのAI対応システムであるStoryBuddyを開発した。
ユーザスタディでは、StoryBuddyのユーザビリティを検証し、将来の親とAIのコラボレーションシステムの設計上の洞察を提案した。
論文 参考訳（メタデータ） (2022-02-13T04:53:28Z) - Analysis of Longitudinal Changes in Privacy Behavior of Android
Applications [79.71330613821037]
本稿では,プライバシに関して,Androidアプリが時間とともにどのように変化してきたかを検討する。
HTTPSの採用、アプリが他のインストール済みアプリのデバイスをスキャンするかどうか、プライバシに敏感なデータに対するパーミッションの使用、ユニークな識別子の使用について検討する。
アプリがアップデートを受け続けるにつれて、プライバシ関連の振る舞いは時間とともに改善され、アプリによって使用されるサードパーティライブラリが、プライバシに関するより多くの問題に責任を負っていることが分かっています。
論文 参考訳（メタデータ） (2021-12-28T16:21:31Z) - "Money makes the world go around'': Identifying Barriers to Better
Privacy in Children's Apps From Developers' Perspectives [28.40988446675355]
子ども向けアプリの業界は、子供のプライバシーを犠牲にして成長している。
これらのアプリは、子供のデータを複数のデータトラッカーや広告ネットワークに定期的に開示する。
私たちは、なぜこれが起きているのか、どのように開発者がプラクティスを変えるのかを調査するために、混合メソッドのアプローチを使用しました。
論文 参考訳（メタデータ） (2021-11-29T15:27:55Z) - Stop Bugging Me! Evading Modern-Day Wiretapping Using Adversarial
Perturbations [47.32228513808444]
ボイスオーバーIP(VoIP)会話のための大量監視システムは、プライバシーに大きなリスクをもたらす。
本稿では、VoIP会話のプライバシー保護のための逆学習に基づくフレームワークを提案する。
論文 参考訳（メタデータ） (2020-10-24T06:56:35Z) - Mind the GAP: Security & Privacy Risks of Contact Tracing Apps [75.7995398006171]
GoogleとAppleは共同で,Bluetooth Low Energyを使用した分散型コントラクトトレースアプリを実装するための公開通知APIを提供している。
実世界のシナリオでは、GAP設計は(i)プロファイリングに脆弱で、(ii)偽の連絡先を生成できるリレーベースのワームホール攻撃に弱いことを実証する。
論文 参考訳（メタデータ） (2020-06-10T16:05:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。