論文の概要: Follow the Rules (or Not): Community Norms and AI-Generated Support in Online Health Communities
- arxiv url: http://arxiv.org/abs/2603.19093v1
- Date: Thu, 19 Mar 2026 16:19:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.260541
- Title: Follow the Rules (or Not): Community Norms and AI-Generated Support in Online Health Communities
- Title（参考訳）: 規則に従う(そうでない):オンライン健康コミュニティにおけるコミュニティノルムとAIによる支援
- Abstract要約: Generative AI(GenAI)は、オンラインヘルスコミュニティ(OHCs)を含むオンラインエコシステムに統合されつつある。
本研究では,AI生成支援が標準に適合するかどうかを,テストベッドとして一般的なオピオイド利用回復サブレディットを用いて検討する。
分析の結果、AIが生成するサポートは規範に適合するが、このような適合性は不適切または不十分である可能性があることがわかった。
- 参考スコア（独自算出の注目度）: 17.823127245725473
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative AI (GenAI) is increasingly being integrated into the online ecosystem, including online health communities (OHCs), where people with diverse health conditions exchange social support. For example, in OHCs, support providers are beginning to share content generated, directly or indirectly, by popular GenAI-based tools. OHCs are governed by norms that define appropriate behavior when providing support. Ways in which AI-generated support interacts with these norms remain underexplored. Inappropriate conformance or outright violation can erode seekers' trust, distort decision-making, and threaten community sustenance. In this work, we examine whether (and how) AI-generated support conforms to norms, using popular opioid-use recovery subreddits as our testbed. First, we provide an inventory of norms regulating text-based support provision in OHCs. Next, using human-validated LLM judges, we assess the prevalence of AI's conformity to these norms. Finally, through an expert review, we identify risks to seekers (and OHCs) resulting from norm (non)conformity. Our analysis revealed that, while AI-generated support conforms to norms, such conformity may be inappropriate or insufficient, for example, by over- or under-validating seekers in distress. Moreover, we observed instances of outright norm violation. This work provides insights that can help moderators and OHC designers adapt existing and develop new norms to regulate AI integration, protecting both seekers and communities they rely on.
- Abstract（参考訳）: Generative AI(GenAI)はオンラインヘルスコミュニティ(OHC)を含むオンラインエコシステムに統合されつつある。
例えば、OHCでは、サポートプロバイダが、人気のあるGenAIベースのツールによって、直接、または間接的に生成されたコンテンツを共有し始めている。
OHCはサポートを提供する際に適切な振る舞いを定義する規範によって管理される。
AIが生成したサポートがこれらの規範と相互作用する方法は、いまだ解明されていない。
不適切なコンプライアンスやアウトライト違反は、探究者の信頼を損なったり、意思決定を歪ませたり、コミュニティの安定を脅かす可能性がある。
本研究では,AI生成支援が標準に適合するかどうかを,テストベッドとして一般的なオピオイド利用回復サブレディットを用いて検討する。
まず、OHCにおけるテキストベースのサポート提供を規制する規範の目録を提供する。
次に,人間検証LDM判定器を用いて,これらの規範に対するAIの適合性の評価を行う。
最後に、専門家のレビューを通じて、標準(非)整合性に起因する探究者(およびOHC)に対するリスクを特定します。
分析の結果、AIが生成するサポートは規範に適合するが、このような適合性は不適切または不十分である可能性があることがわかった。
さらに, 完全規範違反の事例も観察した。
この研究は、モデレーターやOHCデザイナが既存の標準に適応し、AI統合を規制する新しい規範を開発するのに役立つ洞察を提供する。
関連論文リスト
- Security, privacy, and agentic AI in a regulatory view: From definitions and distinctions to provisions and reflections [53.468443050795344]
人工知能(AI)技術の急速な普及は、動的規制の展望につながった。
AIパラダイムが、特にエージェントAIの形で、より大きな自律性へと移行するにつれ、規制規定を明確にすることはますます困難になっている。
本稿は、2024年から2025年の間に発行された24の関連文書を分析して、EU(EU)のAI規制条項をレビューする。
論文 参考訳（メタデータ） (2026-03-19T13:50:52Z) - Normative Common Ground Replication (NormCoRe): Replication-by-Translation for Studying Norms in Multi-agent AI [4.033017316711126]
我々は,人体実験の設計をMAAI環境に体系的に翻訳するために,ノルマティブ・コモン・グラウンド・レプリケーション(NormCoRe)を提案する。
本稿では,AIエージェント研究における規範的判断が人事基準と異なる可能性を示し,エージェントペルソナのインスタンス化に使用される基礎モデルと言語の選択に敏感であることを示す。
論文 参考訳（メタデータ） (2026-03-12T14:24:29Z) - Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - EgoNormia: Benchmarking Physical Social Norm Understanding [52.87904722234434]
EGONORMIAは、安全性、プライバシ、プロキシ、丁寧さ、協力性、コーディネーション/プロアクティビティ、コミュニケーション/レポータビリティの7つの標準カテゴリにまたがる。
我々の研究は、現在の最先端のビジョン言語モデル(VLM)は、堅固な標準理解が欠如していることを示し、EGONORMIAでは最大54%、EGONORMIAでは65%と評価された。
論文 参考訳（メタデータ） (2025-02-27T19:54:16Z) - Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground [51.85131234265026]
私は、責任と倫理的AIを促進する努力が、確立された文脈規範に対するこの軽視に必然的に貢献し、正当化することができると論じます。
私は、道徳的保護よりも道徳的革新のAI倫理における現在の狭い優先順位付けに疑問を呈する。
論文 参考訳（メタデータ） (2024-12-06T15:36:13Z) - Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance [4.742123770879715]
この研究は、分散ソーシャルネットワークにおけるルールコンプライアンスの自動チェックのために、Open-LLMs上に構築された6つのAIエージェントを評価する。
我々は,AIエージェントが非準拠コンテンツを効果的に検出し,言語的微妙さを把握し,多様なコミュニティコンテキストに適応することを発見した。
論文 参考訳（メタデータ） (2024-09-13T16:29:25Z) - A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。
我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。
これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
論文 参考訳（メタデータ） (2024-03-07T20:55:08Z) - Learning and Sustaining Shared Normative Systems via Bayesian Rule
Induction in Markov Games [2.307051163951559]
私たちは、組み込まれた人間の機関と柔軟に協力する学習エージェントを構築します。
共有規範を仮定することにより、新しく導入されたエージェントは、コンプライアンスと違反の観察から既存の人口の規範を推測することができる。
エージェントは規範に関する共通の知識をブートストラップできるため、このことは規範を広く定着させ、新しい参加者がこれらの規範を迅速に学習することを可能にする。
論文 参考訳（メタデータ） (2024-02-20T21:58:40Z) - Shaping New Norms for AI [0.0]
記事は、AIの普及拡大に対する社会の反応を理解するための解釈ツールを読者に提供することを目的としている。
AIが将来の社会規範の形成にどのような影響を及ぼすかについての展望は、オープンで包括的で透明な公開談話において、オープンな社会が正式な審議プロセスを維持することの重要性を強調している。
論文 参考訳（メタデータ） (2023-07-17T15:31:58Z) - Socially Intelligent Genetic Agents for the Emergence of Explicit Norms [0.0]
我々は、規範違反の説明を提供し、推論するエージェントを開発することによって、明示的な規範の出現に対処する。
これらのエージェントは遺伝的アルゴリズムを用いてノルムを生成し、強化学習を行い、これらのノルムの価値を学習する。
説明を適用すれば,エージェントの結束性や目標満足度が向上する規範が導かれることがわかった。
論文 参考訳（メタデータ） (2022-08-07T18:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。