論文の概要: Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance

• arxiv url: http://arxiv.org/abs/2409.08963v1
• Date: Fri, 13 Sep 2024 16:29:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-16 15:50:08.013158
• Title: Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance
• Title（参考訳）: 分散型ソーシャルメディアの保護 : LLMエージェントによるコミュニティルールコンプライアンスの自動化
• Authors: Lucio La Cava, Andrea Tagarelli,
• Abstract要約: この研究は、分散ソーシャルネットワークにおけるルールコンプライアンスの自動チェックのために、Open-LLMs上に構築された6つのAIエージェントを評価する。 我々は,AIエージェントが非準拠コンテンツを効果的に検出し,言語的微妙さを把握し,多様なコミュニティコンテキストに適応することを発見した。
• 参考スコア（独自算出の注目度）: 4.742123770879715
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Ensuring content compliance with community guidelines is crucial for maintaining healthy online social environments. However, traditional human-based compliance checking struggles with scaling due to the increasing volume of user-generated content and a limited number of moderators. Recent advancements in Natural Language Understanding demonstrated by Large Language Models unlock new opportunities for automated content compliance verification. This work evaluates six AI-agents built on Open-LLMs for automated rule compliance checking in Decentralized Social Networks, a challenging environment due to heterogeneous community scopes and rules. Analyzing over 50,000 posts from hundreds of Mastodon servers, we find that AI-agents effectively detect non-compliant content, grasp linguistic subtleties, and adapt to diverse community contexts. Most agents also show high inter-rater reliability and consistency in score justification and suggestions for compliance. Human-based evaluation with domain experts confirmed the agents' reliability and usefulness, rendering them promising tools for semi-automated or human-in-the-loop content moderation systems.
• Abstract（参考訳）: コミュニティガイドラインによるコンテンツコンプライアンスの確保は、健全なオンライン社会環境を維持する上で不可欠である。 しかし、従来の人間によるコンプライアンスチェックは、ユーザー生成コンテンツの量が増え、モデレーターが限られているため、スケーリングに苦慮している。 大規模言語モデルによる自然言語理解の最近の進歩は、自動コンテンツコンプライアンス検証の新しい機会を開放する。 この研究は、分散社会ネットワークにおける自動ルールコンプライアンスチェックのためのOpen-LLMs上に構築された6つのAIエージェントを評価する。 数百のMastodonサーバから5万以上の投稿を分析し、AIエージェントが非準拠のコンテンツを効果的に検出し、言語的な微妙さを把握し、多様なコミュニティコンテキストに適応することを発見した。 ほとんどのエージェントは、スコアの正当化とコンプライアンスの提案において、高い信頼性と一貫性を示す。 ドメインの専門家による人間による評価は、エージェントの信頼性と有用性を確認し、半自動化またはループ内コンテンツモデレーションシステムのための有望なツールをレンダリングした。

関連論文リスト

• Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
  この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。 このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
  論文  参考訳（メタデータ） (2024-10-31T15:31:22Z)
• Evaluating Cultural and Social Awareness of LLM Web Agents [113.49968423990616]
  CASAは,大規模言語モデルの文化的・社会的規範に対する感受性を評価するためのベンチマークである。 提案手法は,標準に違反するユーザクエリや観察を検知し,適切に応答するLLMエージェントの能力を評価する。 実験により、現在のLLMは非エージェント環境で大幅に性能が向上していることが示された。
  論文  参考訳（メタデータ） (2024-10-30T17:35:44Z)
• Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
  本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。 これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。 55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
  論文  参考訳（メタデータ） (2024-10-14T17:57:02Z)
• Fortifying Ethical Boundaries in AI: Advanced Strategies for Enhancing Security in Large Language Models [3.9490749767170636]
  大規模言語モデル(LLM)は、テキスト生成、翻訳、質問応答タスクに革命をもたらした。 広く使われているにもかかわらず、LLMはモデルに不適切な反応を強いられる場合の倫理的ジレンマのような課題を提示している。 本稿では,1)ユーザ入力からセンシティブな語彙をフィルタリングして非倫理的応答を防ぐ,2)"プライソンブレイク"シナリオにつながる可能性のあるインタラクションを停止するロールプレイングを検出する,4)マルチモデル大規模言語モデル(MLLM)のような様々なLLM派生語に拡張する,という課題に対処する。
  論文  参考訳（メタデータ） (2024-01-27T08:09:33Z)
• PROXYQA: An Alternative Framework for Evaluating Long-Form Text Generation with Large Language Models [72.57329554067195]
  ProxyQAは、長文生成を評価するための革新的なフレームワークである。 さまざまなドメインにまたがる詳細なヒューマンキュレートされたメタクエストで構成されており、それぞれに事前にアノテートされた回答を持つ特定のプロキシクエストが伴っている。 プロキシクエリに対処する際の評価器の精度を通じて、生成されたコンテンツの品質を評価する。
  論文  参考訳（メタデータ） (2024-01-26T18:12:25Z)
• Agent Alignment in Evolving Social Norms [65.45423591744434]
  本稿では,エージェント進化とアライメントのための進化的フレームワークであるEvolutionaryAgentを提案する。 社会規範が継続的に進化する環境では、エージェントは現在の社会規範に適応し、生存と増殖の確率が高くなる。 進化的エージェントは、一般的なタスクにおいてその能力を維持しながら、進化する社会規範と徐々に整合できることを示す。
  論文  参考訳（メタデータ） (2024-01-09T15:44:44Z)
• Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision [84.31474052176343]
  ChatGPTのような最近のAIアシスタントエージェントは、人間のアノテーションと人間のフィードバックからの強化学習を教師付き微調整(SFT)に頼り、アウトプットを人間の意図に合わせる。 この依存は、人間の監督を得るために高いコストがかかるため、AIアシスタントエージェントの真の可能性を大幅に制限することができる。 本稿では,AIエージェントの自己調整と人間監督の最小化のために,原則駆動推論とLLMの生成能力を組み合わせたSELF-ALIGNという新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-04T17:59:28Z)
• Value Engineering for Autonomous Agents [3.6130723421895947]
  従来のアプローチでは、値はエージェント推論の不可欠な構成要素ではなく、世界のいくつかの行動や状態に関連するラベルとして扱われていた。 道徳心理学と社会心理学を基盤とした新たなAMAパラダイムを提案する。 このタイプの規範的推論は、エージェントが規範の道徳的意味を理解することによって、自律的なエージェントに価値認識をもたらすと論じる。
  論文  参考訳（メタデータ） (2023-02-17T08:52:15Z)
• Human-in-the-loop online multi-agent approach to increase trustworthiness in ML models through trust scores and data augmentation [0.0]
  本稿では,機械エージェントと人エージェントを併用したマルチエージェントシステムを提案する。 我々は,MNISTおよびFashionMNISTデータセットの劣化バージョンに基づくシステムの評価を行った。
  論文  参考訳（メタデータ） (2022-04-29T17:33:14Z)
• Can You be More Social? Injecting Politeness and Positivity into Task-Oriented Conversational Agents [60.27066549589362]
  人間エージェントが使用する社会言語は、ユーザーの応答性の向上とタスク完了に関連しています。 このモデルは、ソーシャル言語理解要素で拡張されたシーケンスからシーケンスまでのディープラーニングアーキテクチャを使用する。 人的判断と自動言語尺度の両方を用いたコンテンツ保存と社会言語レベルの評価は,エージェントがより社会的に適切な方法でユーザの問題に対処できる応答を生成できることを示している。
  論文  参考訳（メタデータ） (2020-12-29T08:22:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。