論文の概要: Follow the Rules (or Not): Community Norms and AI-Generated Support in Online Health Communities

• arxiv url: http://arxiv.org/abs/2603.19093v1
• Date: Thu, 19 Mar 2026 16:19:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-20 17:19:06.260541
• Title: Follow the Rules (or Not): Community Norms and AI-Generated Support in Online Health Communities
• Title（参考訳）: 規則に従う(そうでない):オンライン健康コミュニティにおけるコミュニティノルムとAIによる支援
• Authors: Shravika Mittal, Erin Kasson, Layna Paraboschi, Eleanor Laufenberg, Jiawei Zhou, Patricia A. Cavazos-Rehg, Tanushree Mitra, Munmun De Choudhury,
• Abstract要約: Generative AI(GenAI)は、オンラインヘルスコミュニティ(OHCs)を含むオンラインエコシステムに統合されつつある。 本研究では,AI生成支援が標準に適合するかどうかを,テストベッドとして一般的なオピオイド利用回復サブレディットを用いて検討する。 分析の結果、AIが生成するサポートは規範に適合するが、このような適合性は不適切または不十分である可能性があることがわかった。
• 参考スコア（独自算出の注目度）: 17.823127245725473
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative AI (GenAI) is increasingly being integrated into the online ecosystem, including online health communities (OHCs), where people with diverse health conditions exchange social support. For example, in OHCs, support providers are beginning to share content generated, directly or indirectly, by popular GenAI-based tools. OHCs are governed by norms that define appropriate behavior when providing support. Ways in which AI-generated support interacts with these norms remain underexplored. Inappropriate conformance or outright violation can erode seekers' trust, distort decision-making, and threaten community sustenance. In this work, we examine whether (and how) AI-generated support conforms to norms, using popular opioid-use recovery subreddits as our testbed. First, we provide an inventory of norms regulating text-based support provision in OHCs. Next, using human-validated LLM judges, we assess the prevalence of AI's conformity to these norms. Finally, through an expert review, we identify risks to seekers (and OHCs) resulting from norm (non)conformity. Our analysis revealed that, while AI-generated support conforms to norms, such conformity may be inappropriate or insufficient, for example, by over- or under-validating seekers in distress. Moreover, we observed instances of outright norm violation. This work provides insights that can help moderators and OHC designers adapt existing and develop new norms to regulate AI integration, protecting both seekers and communities they rely on.
• Abstract（参考訳）: Generative AI(GenAI)はオンラインヘルスコミュニティ(OHC)を含むオンラインエコシステムに統合されつつある。 例えば、OHCでは、サポートプロバイダが、人気のあるGenAIベースのツールによって、直接、または間接的に生成されたコンテンツを共有し始めている。 OHCはサポートを提供する際に適切な振る舞いを定義する規範によって管理される。 AIが生成したサポートがこれらの規範と相互作用する方法は、いまだ解明されていない。 不適切なコンプライアンスやアウトライト違反は、探究者の信頼を損なったり、意思決定を歪ませたり、コミュニティの安定を脅かす可能性がある。 本研究では,AI生成支援が標準に適合するかどうかを,テストベッドとして一般的なオピオイド利用回復サブレディットを用いて検討する。 まず、OHCにおけるテキストベースのサポート提供を規制する規範の目録を提供する。 次に,人間検証LDM判定器を用いて,これらの規範に対するAIの適合性の評価を行う。 最後に、専門家のレビューを通じて、標準(非)整合性に起因する探究者(およびOHC)に対するリスクを特定します。 分析の結果、AIが生成するサポートは規範に適合するが、このような適合性は不適切または不十分である可能性があることがわかった。 さらに, 完全規範違反の事例も観察した。 この研究は、モデレーターやOHCデザイナが既存の標準に適応し、AI統合を規制する新しい規範を開発するのに役立つ洞察を提供する。

関連論文リスト

• Normative Common Ground Replication (NormCoRe): Replication-by-Translation for Studying Norms in Multi-agent AI [4.033017316711126]
  我々は,人体実験の設計をMAAI環境に体系的に翻訳するために,ノルマティブ・コモン・グラウンド・レプリケーション(NormCoRe)を提案する。 本稿では,AIエージェント研究における規範的判断が人事基準と異なる可能性を示し,エージェントペルソナのインスタンス化に使用される基礎モデルと言語の選択に敏感であることを示す。
  論文  参考訳（メタデータ） (2026-03-12T14:24:29Z)
• EgoNormia: Benchmarking Physical Social Norm Understanding [52.87904722234434]
  EGONORMIAは、安全性、プライバシ、プロキシ、丁寧さ、協力性、コーディネーション/プロアクティビティ、コミュニケーション/レポータビリティの7つの標準カテゴリにまたがる。 我々の研究は、現在の最先端のビジョン言語モデル(VLM)は、堅固な標準理解が欠如していることを示し、EGONORMIAでは最大54%、EGONORMIAでは65%と評価された。
  論文  参考訳（メタデータ） (2025-02-27T19:54:16Z)
• Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground [51.85131234265026]
  私は、責任と倫理的AIを促進する努力が、確立された文脈規範に対するこの軽視に必然的に貢献し、正当化することができると論じます。 私は、道徳的保護よりも道徳的革新のAI倫理における現在の狭い優先順位付けに疑問を呈する。
  論文  参考訳（メタデータ） (2024-12-06T15:36:13Z)
• Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance [4.742123770879715]
  この研究は、分散ソーシャルネットワークにおけるルールコンプライアンスの自動チェックのために、Open-LLMs上に構築された6つのAIエージェントを評価する。 我々は,AIエージェントが非準拠コンテンツを効果的に検出し,言語的微妙さを把握し,多様なコミュニティコンテキストに適応することを発見した。
  論文  参考訳（メタデータ） (2024-09-13T16:29:25Z)
• Learning and Sustaining Shared Normative Systems via Bayesian Rule Induction in Markov Games [2.307051163951559]
  私たちは、組み込まれた人間の機関と柔軟に協力する学習エージェントを構築します。 共有規範を仮定することにより、新しく導入されたエージェントは、コンプライアンスと違反の観察から既存の人口の規範を推測することができる。 エージェントは規範に関する共通の知識をブートストラップできるため、このことは規範を広く定着させ、新しい参加者がこれらの規範を迅速に学習することを可能にする。
  論文  参考訳（メタデータ） (2024-02-20T21:58:40Z)
• Socially Intelligent Genetic Agents for the Emergence of Explicit Norms [0.0]
  我々は、規範違反の説明を提供し、推論するエージェントを開発することによって、明示的な規範の出現に対処する。 これらのエージェントは遺伝的アルゴリズムを用いてノルムを生成し、強化学習を行い、これらのノルムの価値を学習する。 説明を適用すれば,エージェントの結束性や目標満足度が向上する規範が導かれることがわかった。
  論文  参考訳（メタデータ） (2022-08-07T18:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。