論文の概要: "I Thought You Were The Uncensored Place": Norms, Rules, and Moderation in AI-Generated Sexual Content Communities
- arxiv url: http://arxiv.org/abs/2608.13659v1
- Date: Thu, 13 Aug 2026 18:02:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.179627
- Title: "I Thought You Were The Uncensored Place": Norms, Rules, and Moderation in AI-Generated Sexual Content Communities
- Title（参考訳）: I Thought You Were the Uncensored Place:Noms, Rules, and Moderation in AI-Generated Sexual Content Communities
- Abstract要約: 我々は、大規模AIG-SCオンラインコミュニティの24名とモデレーターに、乱暴なコンテンツの作成と共有に対するルールを明記したインタビューを行った。
多くのクリエーターやコミュニティは、虐待に対する個人的境界がある一方で、AIが生成する性的コンテンツを作るためのアドバイスやリソースは、意図に関わらず、ユーザにアクセス可能である。
- 参考スコア（独自算出の注目度）: 15.938938006206058
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As AI-generated sexual content (AIG-SC) is increasingly produced, online communities have emerged to support creators' needs. To understand whether and how community governance attempts work to prevent abuse while supporting free expression, we interviewed 24 members and moderators of large AIG-SC online communities (10,000+ members) with stated rules against creating and sharing abusive content (e.g., AI-generated CSAM). Through in-depth interviews, we offer insight into: (1) how and why these communities form; (2) implicit community norms; (3) explicitly stated rules---and their operationalization via content moderation; and (4) tensions between community values and moderation that leave space for abusive behavior. Our findings reveal a complex picture: while many creators and communities have personal boundaries against abuse, advice and resources for creating any form of AI-generated sexual content are accessible to users regardless of their intentions. Further complicating community moderation are norms that center anti-censorship and non-judgment, which leave moderators to justify their actions using the limits of the law and terms of service. We end by reflecting on the ways in which technical, community, and legal governance may most effectively mitigate the production of abusive content.
- Abstract（参考訳）: AI生成性コンテンツ(AIG-SC)の制作が進むにつれ、オンラインコミュニティはクリエイターのニーズをサポートするようになった。
AIG-SCオンラインコミュニティ(10,000人以上のメンバ)の24人のメンバとモデレーターに、乱用コンテンツ(AI生成CSAMなど)の作成と共有に関するルールについてインタビューした。
1)コミュニティ形成の経緯と理由,(2)暗黙のコミュニティ規範,(3)明示的に規定されたルール,(3)コンテンツモデレーションによる運用化,(4)乱用行動のための空間を残したコミュニティ価値とモデレーションの緊張感について考察する。
多くのクリエーターやコミュニティは、虐待に対する個人的境界がある一方で、AIが生成する性的コンテンツを作るためのアドバイスやリソースは、意図に関わらず、ユーザにアクセス可能である。
コミュニティ・モデレーションのさらなる複雑化は、反検閲と非裁量の中心となる規範であり、モデレーターは法とサービス規約の限界を利用して、彼らの行動を正当化する。
技術的、コミュニティ的、法的なガバナンスが、乱用コンテンツの生産を最も効果的に軽減する方法を反映して、最終的には終わります。
関連論文リスト
- It is not enough to give your moderation rules to ChatGPT: Policy-as-Prompt Moderation and Its Potential Impacts on Community Governance [0.0]
ソーシャルメディア企業は、よりコミュニティアプローチに注力し、ボランティアに正確な情報を提供し、正しい決定を下すよう頼っている。
分散化されたモデレーションでは、コミュニティは常にボランティア、コミュニティガイドラインの更新、内部の議論に頼ってきた。
両方のコンテンツモデレーションパラダイムにとって、AI(Artificial Intelligence)は、時間、メンタルヘルス、正確性のモデレーションの負担を軽減するのに役立つように思える。
コンテンツモデレーションにおいてAIを運用する方法の1つは、ポリシー・アズ・プロンプトのアプローチであり、ポリシーは自然言語プロンプトとして定式化され、それから大きな言語モデルに渡される。
論文 参考訳（メタデータ） (2026-07-13T20:58:36Z) - Reddit Deplatforming and Toxicity Dynamics on Generalist Voat Communities [73.88859384645264]
コミュニティ全体の恒久的な禁止であるデプラットフォームは、主要なプラットフォームでコンテンツモデレーションを行うための主要なツールである。
Redditの4大禁止波(2015-2020)と、Voatの一般コミュニティへの影響を分析した。
論文 参考訳（メタデータ） (2025-12-26T19:13:45Z) - Community Moderation and the New Epistemology of Fact Checking on Social Media [124.26693978503339]
ソーシャルメディアプラットフォームは伝統的に、誤解を招くコンテンツを識別しフラグを立てるために、独立した事実チェック組織に依存してきた。
X(元Twitter)とMetaは、クラウドソースのファクトチェックの独自のバージョンを立ち上げて、コミュニティ主導のコンテンツモデレーションに移行した。
主要なプラットフォーム間での誤情報検出の現在のアプローチについて検討し,コミュニティ主導型モデレーションの新たな役割を探求し,大規模クラウドチェックの約束と課題の両方を批判的に評価する。
論文 参考訳（メタデータ） (2025-05-26T14:50:18Z) - Training AI to be Loyal [48.87020976513128]
コミュニティがオーナシップ、アライメント、コントロールを持っていれば、AIはコミュニティに忠実です。
コミュニティが所有するモデルは、コミュニティの承認を得てのみ利用でき、経済的報酬を共同で共有することができる。
私たちは、忠実なAIコミュニティに無許可でアクセスしたいので、AIをオープンソースにする必要があります。
論文 参考訳（メタデータ） (2025-01-27T19:11:19Z) - AI Rules? Characterizing Reddit Community Policies Towards AI-Generated Content [7.978143550070664]
メタデータとコミュニティルールを30万ドル以上の公開サブレディットで収集しました。
既存の文献と、AIルールに特有の新しい分類基準に基づいて、サブレディットとAIルールをラベル付けしました。
我々の研究結果は、AIに関する様々な懸念が、異なるコミュニティの文脈で出現したことを示している。
論文 参考訳（メタデータ） (2024-10-15T15:31:41Z) - Perceptions of Moderators as a Large-Scale Measure of Online Community Governance [13.80648276848838]
われわれは18ヶ月で1億9900万件の投稿とコメントをリツイートした。
モデレーターが特に肯定的かつ否定的に知覚されるコミュニティの種類を同定する。
厳格な規制執行は、ニュースコミュニティなど特定のトピックに特化しているコミュニティのモデレーターに対して、他のコミュニティよりも好意的な認識に結びついていることが示される。
論文 参考訳（メタデータ） (2024-01-29T22:43:12Z) - "There Has To Be a Lot That We're Missing": Moderating AI-Generated Content on Reddit [5.202496456440801]
我々は、AIGCによるオンラインコミュニティモデレーターの経験に焦点を当てる。
我々の研究によると、AIGCに関するルールは、コンテンツ品質、社会的ダイナミクス、ガバナンスの課題に対する懸念によって動機づけられている。
AIGCを検出するための堅牢なツールがないにも関わらず、モデレーターは何らかの障害を抑えることができた。
論文 参考訳（メタデータ） (2023-11-21T16:15:21Z) - Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。
ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。
以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
論文 参考訳（メタデータ） (2023-05-18T05:58:27Z) - A Pathway Towards Responsible AI Generated Content [68.13835802977125]
我々は、AIGCの健全な開発と展開を妨げかねない8つの主要な懸念に焦点を当てている。
これらの懸念には、(1)プライバシー、(2)バイアス、毒性、誤情報、(3)知的財産(IP)、(4)堅牢性、(5)オープンソースと説明、(6)技術の乱用、(7)同意、信用、補償、(8)環境からのリスクが含まれる。
論文 参考訳（メタデータ） (2023-03-02T14:58:40Z) - Beyond Plain Toxic: Detection of Inappropriate Statements on Flammable
Topics for the Russian Language [76.58220021791955]
本稿では,不合理性という二項的概念と,センシティブなトピックの多項的概念に基づいてラベル付けされた2つのテキストコレクションについて述べる。
不適切な概念を客観するために、クラウドソーシングではデータ駆動方式で定義する。
論文 参考訳（メタデータ） (2022-03-04T15:59:06Z) - Detecting Community Sensitive Norm Violations in Online Conversations [21.892867827127603]
我々は、より完全なコミュニティ規範と、地域の会話とグローバルなコミュニティコンテキストにおけるそれらの違反に焦点を当てる。
我々は、このデータを用いて、コンテキストやコミュニティに敏感なノルム違反検出を開発する一連のモデルを紹介した。
論文 参考訳（メタデータ） (2021-10-09T00:39:35Z) - Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
論文 参考訳（メタデータ） (2019-07-13T21:12:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。