論文の概要: Private Hierarchical Governance for Encrypted Messaging
- arxiv url: http://arxiv.org/abs/2406.19433v2
- Date: Tue, 2 Jul 2024 20:25:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-04 18:53:35.306556
- Title: Private Hierarchical Governance for Encrypted Messaging
- Title（参考訳）: 暗号化メッセージングのためのプライベート階層ガバナンス
- Authors: Armin Namavari, Barry Wang, Sanketh Menda, Ben Nassi, Nirvan Tyagi, James Grimmelmann, Amy Zhang, Thomas Ristenpart,
- Abstract要約: プライバシのためのE2EEメッセージングを用いたプライベート階層型ガバナンスシステムを提案する。
私たちは、メッセージ層セキュリティプロトコルの拡張が、リッチなガバナンスポリシーの集合を達成するのにいかに十分であるかを示します。
我々は,コンテンツベースのコミュニティとプラットフォームモデレーション,コミュニティモデレーターの選挙,虐待的ユーザを排除するための投票などをサポートする,MlsGovというプロトタイプE2EEメッセージングシステムを構築している。
- 参考スコア（独自算出の注目度）: 20.838090769270607
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increasing harms caused by hate, harassment, and other forms of abuse online have motivated major platforms to explore hierarchical governance. The idea is to allow communities to have designated members take on moderation and leadership duties; meanwhile, members can still escalate issues to the platform. But these promising approaches have only been explored in plaintext settings where community content is public to the platform. It is unclear how one can realize hierarchical governance in the huge and increasing number of online communities that utilize end-to-end encrypted (E2EE) messaging for privacy. We propose private hierarchical governance systems. These should enable similar levels of community governance as in plaintext settings, while maintaining cryptographic privacy of content and governance actions not reported to the platform. We design the first such system, taking a layered approach that adds governance logic on top of an encrypted messaging protocol; we show how an extension to the message layer security (MLS) protocol suffices for achieving a rich set of governance policies. Our approach allows developers to rapidly prototype new governance features, taking inspiration from a plaintext system called PolicyKit. We build a prototype E2EE messaging system called MlsGov that supports content-based community and platform moderation, elections of community moderators, votes to remove abusive users, and more.
- Abstract（参考訳）: 憎しみ、嫌がらせ、その他のオンラインの虐待によって引き起こされる害の増加は、階層的なガバナンスを探求する主要なプラットフォームを動機付けている。
コミュニティが指定メンバーにモデレーションとリーダーシップの義務を負わせるようにすることを目的としているが、一方で、メンバーはプラットフォームに問題をエスカレートすることができる。
しかし、これらの有望なアプローチは、コミュニティコンテンツがプラットフォームに公開される平文設定でのみ検討されている。
エンド・ツー・エンド・暗号化(E2EE)メッセージングをプライバシとして利用するオンラインコミュニティの巨大で増え続けている中で、階層的なガバナンスを実現するにはどうすればよいのかは不明だ。
民間階層型ガバナンスシステムを提案する。
これらは、平文設定と同じレベルのコミュニティガバナンスを可能にすると同時に、プラットフォームに報告されていないコンテンツとガバナンスアクションの暗号化プライバシを維持します。
我々は、暗号化されたメッセージプロトコルの上にガバナンスロジックを追加する階層化されたアプローチをとっており、メッセージ層セキュリティ(MLS)プロトコルの拡張が、リッチなガバナンスポリシーの集合を達成するのにいかに十分かを示す。
当社のアプローチでは,PhysicKitと呼ばれる平文システムからインスピレーションを得て,新たなガバナンス機能の迅速なプロトタイプを開発者が実現しています。
我々は,コンテンツベースのコミュニティとプラットフォームモデレーション,コミュニティモデレーターの選挙,虐待的ユーザを排除するための投票などをサポートする,MlsGovというプロトタイプE2EEメッセージングシステムを構築している。
関連論文リスト
- How Decentralization Affects User Agency on Social Platforms [0.0]
本研究は,園芸プラットフォームへの代替モデルとして,分散化が約束を果たす可能性について考察する。
本稿では,ブロックによるユーザ主導型コンテンツモデレーションを,分散型ソーシャルプラットフォームであるBluesky上のエージェンシー表現として記述する。
論文 参考訳（メタデータ） (2024-06-13T12:15:15Z) - DECIDER: A Dual-System Rule-Controllable Decoding Framework for Language Generation [57.07295906718989]
制約付き復号法は,事前学習言語モデル(PLM)が生成するテキストの意味やスタイルを,推論中に特定のターゲット語を用いて制御することを目的としている。
我々は, PLM を制御するためのタスクの完了方法に関するルールをプログラムできる新しい復号化フレームワーク DECIDER を提案する。
論文 参考訳（メタデータ） (2024-03-04T11:49:08Z) - SADAS: A Dialogue Assistant System Towards Remediating Norm Violations
in Bilingual Socio-Cultural Conversations [56.31816995795216]
SADAS(Socially-Aware Dialogue Assistant System)は、会話が敬意と理解で広がることを保証するためのシステムである。
本システムの新しいアーキテクチャは,(1)対話に存在する規範のカテゴリを特定すること,(2)潜在的な規範違反を検出すること,(3)違反の深刻さを評価すること,(4)違反の是正を目的とした対策を実施すること,を含む。
論文 参考訳（メタデータ） (2024-01-29T08:54:21Z) - A User-Driven Framework for Regulating and Auditing Social Media [94.70018274127231]
アルゴリズムフィルタリングは、フレキシブルでユーザ主導のベースラインに対して規制されるべきである。
プラットフォームフィルタのフィードには,それぞれのベースラインフィードと「類似した」情報コンテンツが含まれる必要がある。
プラットフォームがこの要件を尊重するかどうかをチェックする監査手順を提案する。
論文 参考訳（メタデータ） (2023-04-20T17:53:34Z) - SoK: Content Moderation for End-to-End Encryption [2.66512000865131]
メッセージングアプリケーションはデフォルトでエンドツーエンド暗号化(E2EE)を有効にし、E2EEデータストレージは一般的になりつつある。
セキュリティとプライバシに関するこれらの重要な進歩は、オンラインサービスに新たなコンテンツモデレーションの課題を生み出します。
我々は、マルウェア、スパム、ヘイトスピーチ、テロリストコンテンツ、エンタープライズポリシーコンプライアンスなど、コンテンツモデレーションの主題の両方で多様である文学を橋渡しする。
論文 参考訳（メタデータ） (2023-03-07T15:26:41Z) - Explainable Abuse Detection as Intent Classification and Slot Filling [66.80201541759409]
我々は、システムがデータ検査だけで乱用を構成する事象を確実に学習できるという非現実的な期待を捨て、政策対応による悪用検出の概念を導入する。
目的分類とスロットフィリングのためのアーキテクチャは、モデル決定の根拠を提供しながら、悪用検出にどのように使用できるかを示す。
論文 参考訳（メタデータ） (2022-10-06T03:33:30Z) - Having your Privacy Cake and Eating it Too: Platform-supported Auditing
of Social Media Algorithms for Public Interest [70.02478301291264]
ソーシャルメディアプラットフォームは、情報や機会へのアクセスをキュレートするので、公衆の言論を形成する上で重要な役割を果たす。
これまでの研究では、これらのアルゴリズムが偏見や差別的な結果をもたらすことを示すためにブラックボックス法が用いられてきた。
本稿では,提案法の目標を満たすプラットフォーム支援型監査手法を提案する。
論文 参考訳（メタデータ） (2022-07-18T17:32:35Z) - When Curation Becomes Creation: Algorithms, Microcontent, and the
Vanishing Distinction between Platforms and Creators [30.71023908707896]
我々は、コヒーレントな規制の枠組みは、現代のソーシャルメディアの状況に適応しなければならないと論じている。
我々は、いかなるコヒーレントな規制フレームワークも、この現実に適応しなければならないと論じている。
論文 参考訳（メタデータ） (2021-07-01T13:37:05Z) - Second layer data governance for permissioned blockchains: the privacy
management challenge [58.720142291102135]
新型コロナウイルス(COVID-19)やエボラウイルス(エボラ出血熱)のようなパンデミックの状況では、医療データを共有することに関連する行動は、大規模な感染を避け、死亡者を減らすために重要である。
この意味において、許可されたブロックチェーン技術は、スマートコントラクトが管理する不変で統一された分散データベースを通じて、データのオーナシップ、透明性、セキュリティを提供する権利をユーザに与えるために登場します。
論文 参考訳（メタデータ） (2020-10-22T13:19:38Z) - PolicyKit: Building Governance in Online Communities [21.20591117254434]
オンラインコミュニティのメンバに対して,さまざまなガバナンス手順を簡潔に作成するための,ソフトウェアインフラストラクチャであるPolicyKitを紹介します。
我々は,コミュニティガバナンスを政策にエンコードする政治科学理論,あるいはユーザ主導の行動が実行可能であるかどうかを判断するための手順を規定する短い命令関数を描いている。
本稿では,ランダム陪審の審議,多段階のコーパス,評価システム,ウィキペディアのRfAプロセスにインスパイアされたプロモーション手順などのガバナンスモデルの実装を通じて,PolicyKitの表現性を実証する。
論文 参考訳（メタデータ） (2020-08-10T16:17:15Z) - Modular Politics: Toward a Governance Layer for Online Communities [12.052852910269927]
本稿では,モジュールポリティクス(Modular Politics)と呼ばれる,オンラインガバナンスのための一般化可能なパラダイムの基本的特徴を規定することで,この過ちに対処する戦略を提案する。
この種のアプローチは、デジタル以前のガバナンスシステムを実装するだけでなく、ユニークなデジタル技術におけるイノベーションを加速する可能性がある。
論文 参考訳（メタデータ） (2020-05-27T23:05:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。