論文の概要: Disinformation, Stochastic Harm, and Costly Filtering: A Principal-Agent Analysis of Regulating Social Media Platforms

• arxiv url: http://arxiv.org/abs/2106.09847v1
• Date: Thu, 17 Jun 2021 23:27:43 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-21 13:59:22.832278
• Title: Disinformation, Stochastic Harm, and Costly Filtering: A Principal-Agent Analysis of Regulating Social Media Platforms
• Title（参考訳）: disinformation, stochastic harm, and costly filtering: a principal-agent analysis of regulating social media platforms
• Authors: Shehroze Khan and James R. Wright
• Abstract要約: Facebookなどのソーシャルメディアプラットフォームにおける偽情報の拡散は社会に有害である。 偽情報のフィルタリングは、フィルタリングアルゴリズムの実装や手作業によるフィルタリングに限らず、費用がかかる。 有害なコンテンツのコストは他の団体によって負担されるため、プラットフォームは社会的に最適なレベルでフィルタリングするインセンティブを持っていない。
• 参考スコア（独自算出の注目度）: 2.9747815715612713
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The spread of disinformation on social media platforms such as Facebook is harmful to society. This harm can take the form of a gradual degradation of public discourse; but it can also take the form of sudden dramatic events such as the recent insurrection on Capitol Hill. The platforms themselves are in the best position to prevent the spread of disinformation, as they have the best access to relevant data and the expertise to use it. However, filtering disinformation is costly, not only for implementing filtering algorithms or employing manual filtering effort, but also because removing such highly viral content impacts user growth and thus potential advertising revenue. Since the costs of harmful content are borne by other entities, the platform will therefore have no incentive to filter at a socially-optimal level. This problem is similar to the problem of environmental regulation, in which the costs of adverse events are not directly borne by a firm, the mitigation effort of a firm is not observable, and the causal link between a harmful consequence and a specific failure is difficult to prove. In the environmental regulation domain, one solution to this issue is to perform costly monitoring to ensure that the firm takes adequate precautions according a specified rule. However, classifying disinformation is performative, and thus a fixed rule becomes less effective over time. Encoding our domain as a Markov decision process, we demonstrate that no penalty based on a static rule, no matter how large, can incentivize adequate filtering by the platform. Penalties based on an adaptive rule can incentivize optimal effort, but counterintuitively, only if the regulator sufficiently overreacts to harmful events by requiring a greater-than-optimal level of filtering.
• Abstract（参考訳）: Facebookなどのソーシャルメディアプラットフォームにおける偽情報の拡散は社会に有害である。 この危害は公共の言説の段階的な劣化の形をとるが、キャピトルヒルでの最近の暴動のような突然の劇的な出来事の形式を取ることもある。 プラットフォーム自体が、関連するデータやそれを使用する専門知識に最適なアクセス権を持つため、偽情報の拡散を防止する最善の位置にある。 しかし、フィルタリングのアルゴリズムの実装や手作業によるフィルタリングを行うためだけでなく、そのようなバイラルなコンテンツを削除することがユーザーの成長と広告収入に影響を及ぼすため、非情報のフィルタリングはコストがかかる。 有害コンテンツのコストは他の団体によって負担されるため、プラットフォームは社会的に最適なレベルでフィルタリングするインセンティブを持たない。 この問題は、企業によって有害事象のコストが直接負担されることがなく、企業の緩和努力が観察不可能であり、有害な結果と特定の失敗との因果関係の証明が困難である環境規制の問題と類似している。 環境規制分野において、この問題の1つの解決策は、企業が所定の規則に従って適切な予防措置をとることを保証するために、コストのかかる監視を行うことである。 しかし、不正情報の分類は実行可能であり、したがって一定のルールは時間とともに効果が低下する。 ドメインをMarkov決定プロセスとしてエンコードすることで、静的なルールに基づくペナルティが、プラットフォームによる適切なフィルタリングをインセンティブ化できることを実証します。 アダプティブ・ルールに基づくペナルティは、最適な努力をインセンティブにすることができるが、直観的には、レギュレータが適切なレベルのフィルタリングを必要とすることによって有害な事象に十分に過度に反応する場合に限る。

関連論文リスト

• On the Use of Proxies in Political Ad Targeting [49.61009579554272]
  我々は、主要な政治広告主がプロキシ属性をターゲットとして緩和を回避したことを示す。 本研究は政治広告の規制に関する議論に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-10-18T17:15:13Z)
• A User-Driven Framework for Regulating and Auditing Social Media [94.70018274127231]
  アルゴリズムフィルタリングは、フレキシブルでユーザ主導のベースラインに対して規制されるべきである。 プラットフォームフィルタのフィードには,それぞれのベースラインフィードと「類似した」情報コンテンツが含まれる必要がある。 プラットフォームがこの要件を尊重するかどうかをチェックする監査手順を提案する。
  論文  参考訳（メタデータ） (2023-04-20T17:53:34Z)
• Explainable Abuse Detection as Intent Classification and Slot Filling [66.80201541759409]
  我々は、システムがデータ検査だけで乱用を構成する事象を確実に学習できるという非現実的な期待を捨て、政策対応による悪用検出の概念を導入する。 目的分類とスロットフィリングのためのアーキテクチャは、モデル決定の根拠を提供しながら、悪用検出にどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2022-10-06T03:33:30Z)
• Mathematical Framework for Online Social Media Auditing [5.384630221560811]
  ソーシャルメディアプラットフォーム(SMP)は、報酬の最大化を目的として、ユーザのフィードを構成するコンテンツを選択する手段として、アルゴリズムフィルタリング(AF)を利用する。 ユーザのフィードに表示されるコンテンツを選択的に選択することは、ユーザの意思決定にある程度、マイナーまたはメジャーの影響を与える可能性がある。 我々は,この枠組みを数学的に定式化し,データ駆動型統計監査手法の構築に利用した。
  論文  参考訳（メタデータ） (2022-09-12T19:04:14Z)
• Having your Privacy Cake and Eating it Too: Platform-supported Auditing of Social Media Algorithms for Public Interest [70.02478301291264]
  ソーシャルメディアプラットフォームは、情報や機会へのアクセスをキュレートするので、公衆の言論を形成する上で重要な役割を果たす。 これまでの研究では、これらのアルゴリズムが偏見や差別的な結果をもたらすことを示すためにブラックボックス法が用いられてきた。 本稿では,提案法の目標を満たすプラットフォーム支援型監査手法を提案する。
  論文  参考訳（メタデータ） (2022-07-18T17:32:35Z)
• Pile of Law: Learning Responsible Data Filtering from the Law and a 256GB Open-Source Legal Dataset [46.156169284961045]
  我々は, フィルター材料におけるトレードオフに直接対処する法則に基づくフィルタリングへのアプローチを提案する。 まず、256GBのオープンソース英語および行政データのデータセットであるPile of Lawを収集、利用可能にします。 第二に、政府が有毒または私的コンテンツを含めることを規制するために開発した法規範を精査する。 第3に、Pile of Lawが研究者に、このようなフィルタリングルールを直接データから学習する機会を提供する方法を示します。
  論文  参考訳（メタデータ） (2022-07-01T06:25:15Z)
• Second layer data governance for permissioned blockchains: the privacy management challenge [58.720142291102135]
  新型コロナウイルス(COVID-19)やエボラウイルス(エボラ出血熱)のようなパンデミックの状況では、医療データを共有することに関連する行動は、大規模な感染を避け、死亡者を減らすために重要である。 この意味において、許可されたブロックチェーン技術は、スマートコントラクトが管理する不変で統一された分散データベースを通じて、データのオーナシップ、透明性、セキュリティを提供する権利をユーザに与えるために登場します。
  論文  参考訳（メタデータ） (2020-10-22T13:19:38Z)
• Regulating algorithmic filtering on social media [14.873907857806357]
  ソーシャルメディアプラットフォームは、食事の選択から投票の好みまで、ユーザの認識と決定に影響を与える能力を持っている。 多くの人はフィルタリングアルゴリズムの規制を要求しているが、規則の設計と強制は依然として難しい。 規制がプラットフォームに高いパフォーマンスコストを課さない条件があることが分かりました。
  論文  参考訳（メタデータ） (2020-06-17T04:14:20Z)
• ETHOS: an Online Hate Speech Detection Dataset [6.59720246184989]
  本稿では,YouTube と Reddit のコメントに基づいて,Final-Eight クラウドソーシングプラットフォームを用いて検証した,バイナリとマルチラベルの2種類のテキストデータセットである 'ETHOS' を紹介する。 我々の重要な前提は、そのような時間のかかるプロセスから少量のラベル付きデータを入手しても、調査対象の素材でヘイトスピーチの発生を保証できるということである。
  論文  参考訳（メタデータ） (2020-06-11T08:59:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。