論文の概要: White Paper -- Objectionable Online Content: What is harmful, to whom,
and why
- arxiv url: http://arxiv.org/abs/2104.03903v1
- Date: Wed, 27 Jan 2021 02:34:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-13 19:40:47.365816
- Title: White Paper -- Objectionable Online Content: What is harmful, to whom,
and why
- Title(参考訳): ホワイトペーパー -- 不快なオンラインコンテンツ: 有害なもの、誰に、そしてなぜ
- Authors: Thamar Solorio, Mahsa Shafaei, Christos Smailis, Brad J. Bushman,
Douglas A. Gentile, Erica Scharrer, Laura Stockdale, Ioannis Kakadiaris
- Abstract要約: このホワイトペーパーは、ヒューストン大学(UH)研究チームにおける不快な内容に関する著者の議論を要約している。
対象コンテンツを検出するための自動マルチモーダルアプローチの研究を支援するために、オンラインビデオの広範なリポジトリを構築するための戦略を概説する。
- 参考スコア(独自算出の注目度): 6.55104879972868
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This White Paper summarizes the authors' discussion regarding objectionable
content for the University of Houston (UH) Research Team to outline a strategy
for building an extensive repository of online videos to support research into
automated multimodal approaches to detect objectionable content. The workshop
focused on defining what harmful content is, to whom it is harmful, and why it
is harmful.
- Abstract(参考訳): このホワイトペーパーは、ヒューストン大学研究チーム(UH)の反対コンテンツに関する著者の議論を要約し、反対コンテンツを検出するための自動マルチモーダルアプローチの研究を支援するために、オンラインビデオの広範なリポジトリを構築するための戦略を概説する。
ワークショップは、有害コンテンツが何で、誰に有害で、なぜ有害かを定義することに焦点を当てた。
関連論文リスト
- Identifying and Mitigating the Security Risks of Generative AI [179.2384121957896]
本稿では,GenAIによる双対ジレンマに関するGoogleのワークショップの成果を報告する。
GenAIはまた、攻撃者が新しい攻撃を生成し、既存の攻撃のベロシティと有効性を高めるためにも使用できる。
この話題について,コミュニティの短期的,長期的目標について論じる。
論文 参考訳(メタデータ) (2023-08-28T18:51:09Z) - Seeing Seeds Beyond Weeds: Green Teaming Generative AI for Beneficial
Uses [25.401338754059644]
GPTやDALL-Eのような大規模な生成AIモデル(GM)は、一般的な広義の目的のためにコンテンツを生成するように訓練されている。
GMがコンテンツをフィルタリングすると、有害なものとともに有益なユースケースを防ぎます。
近年, 有害なコンテンツを生成するために, GMコンテントフィルタをバイパスする方法が提案されている。
論文 参考訳(メタデータ) (2023-05-30T21:52:33Z) - Mitigating Covertly Unsafe Text within Natural Language Systems [55.26364166702625]
制御されていないシステムは、怪我や致命的な結果につながるレコメンデーションを生成する。
本稿では,身体的危害につながる可能性のあるテキストのタイプを識別し,特に未発見のカテゴリを確立する。
論文 参考訳(メタデータ) (2022-10-17T17:59:49Z) - A Dataset on Malicious Paper Bidding in Peer Review [84.68308372858755]
悪意あるレビュアーは、紙の割り当てを非倫理的に操作するために戦略的に入札した。
この問題を緩和するための方法の作成と評価への重要な障害は、悪意ある紙入札に関する公開データの欠如である。
我々は、参加者に正直に、悪意的に入札するよう指示されたモックカンファレンス活動から収集された、新しいデータセットをリリースする。
論文 参考訳(メタデータ) (2022-06-24T20:23:33Z) - TeamX@DravidianLangTech-ACL2022: A Comparative Analysis for Troll-Based
Meme Classification [21.32190107220764]
ネット上の有害コンテンツは ソーシャルメディアプラットフォーム、政府機関、政策立案者、社会全体の間で 懸念を高めました
有害コンテンツに基づくオンラインコンテンツは、その1つで、挑発的、攻撃的、あるいは威圧的なメッセージを、視聴者を誤解させる意図で投稿する、というものだ。
本研究は,テキスト,ビジュアル,マルチモーダルコンテンツを用いて,トロルに基づくミーム分類の比較分析を行った。
論文 参考訳(メタデータ) (2022-05-09T16:19:28Z) - Handling and Presenting Harmful Text [10.359716317114815]
テキストデータは深刻な危害のリスクを引き起こす可能性がある。
これらの害は、誤情報、ヘイトスピーチ、人種的ステレオタイプという3つの軸に沿って分類することができる。
NLPでは、テキストの害がどのように扱われ、提示され、議論されるべきかという未解決の問題である。
我々は,テキスト害の研究を反映するリソースであるtextscHarmCheck を導入し,実践的なアドバイスを提供する。
論文 参考訳(メタデータ) (2022-04-29T17:34:12Z) - Detecting Harmful Content On Online Platforms: What Platforms Need Vs.
Where Research Efforts Go [44.774035806004214]
オンラインプラットフォーム上の有害コンテンツには、ヘイトスピーチ、攻撃的言語、いじめとハラスメント、誤情報、スパム、暴力、グラフィックコンテンツ、性的虐待、自己被害など、さまざまな形態がある。
オンラインプラットフォームは、そのようなコンテンツを、社会的危害を抑えるため、法律に従うために、ユーザーのためにより包括的な環境を作るために、緩和しようとしている。
現在、オンラインプラットフォームが抑制しようとしている有害なコンテンツの種類と、そのようなコンテンツを自動的に検出する研究努力との間には、隔たりがある。
論文 参考訳(メタデータ) (2021-02-27T08:01:10Z) - White Paper: Challenges and Considerations for the Creation of a Large
Labelled Repository of Online Videos with Questionable Content [49.4838932200676]
本稿では,問題のあるコンテンツに注釈付けされたオンラインビデオの広範なリポジトリを構築するための批判的考察について要約する。
主な議論ポイントは、1)AIコミュニティにとって価値のあるリポジトリをもたらす適切なラベルの種類、2)コレクションとアノテーションプロセスの設計方法、およびその潜在的な影響を最大化するためにコーパスの配布方法、3)アノテータに対するトラウマのリスクを低減するために私たちが取るべきアクションである。
論文 参考訳(メタデータ) (2021-01-25T16:19:24Z) - From Standard Summarization to New Tasks and Beyond: Summarization with
Manifold Information [77.89755281215079]
テキスト要約は、原文書の短く凝縮した版を作成することを目的とした研究分野である。
現実世界のアプリケーションでは、ほとんどのデータは平易なテキスト形式ではない。
本稿では,現実のアプリケーションにおけるこれらの新しい要約タスクとアプローチについて調査する。
論文 参考訳(メタデータ) (2020-05-10T14:59:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。