論文の概要: ToVo: Toxicity Taxonomy via Voting

• arxiv url: http://arxiv.org/abs/2406.14835v2
• Date: Sun, 29 Sep 2024 15:08:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-01 22:01:24.332250
• Title: ToVo: Toxicity Taxonomy via Voting
• Title（参考訳）: ToVo:投票による毒性分類
• Authors: Tinh Son Luong, Thanh-Thien Le, Thang Viet Doan, Linh Ngo Van, Thien Huu Nguyen, Diep Thi-Ngoc Nguyen,
• Abstract要約: 投票と連鎖プロセスを統合したデータセット作成機構を提案する。 本手法は,各サンプルの分類基準を多種多様に設定する。 提案したメカニズムによって生成されたデータセットを使用してモデルをトレーニングします。
• 参考スコア（独自算出の注目度）: 25.22398575368979
• License:
• Abstract: Existing toxic detection models face significant limitations, such as lack of transparency, customization, and reproducibility. These challenges stem from the closed-source nature of their training data and the paucity of explanations for their evaluation mechanism. To address these issues, we propose a dataset creation mechanism that integrates voting and chain-of-thought processes, producing a high-quality open-source dataset for toxic content detection. Our methodology ensures diverse classification metrics for each sample and includes both classification scores and explanatory reasoning for the classifications. We utilize the dataset created through our proposed mechanism to train our model, which is then compared against existing widely-used detectors. Our approach not only enhances transparency and customizability but also facilitates better fine-tuning for specific use cases. This work contributes a robust framework for developing toxic content detection models, emphasizing openness and adaptability, thus paving the way for more effective and user-specific content moderation solutions.
• Abstract（参考訳）: 既存の有毒な検出モデルは、透明性の欠如、カスタマイズ、再現性といった重大な制限に直面している。 これらの課題は、トレーニングデータのクローズドソースの性質と、評価メカニズムに関する説明の質に起因している。 これらの問題に対処するために、投票と連鎖プロセスを統合し、有害なコンテンツ検出のための高品質なオープンソースデータセットを作成するデータセット作成機構を提案する。 本手法は,各試料の多様な分類基準を保証し,分類スコアと説明的推論の両方を含む。 提案したメカニズムによって生成されたデータセットを用いてモデルをトレーニングし、既存の広く使われている検出器と比較する。 このアプローチは透明性とカスタマイズ性を向上するだけでなく、特定のユースケースの微調整も改善します。 この研究は、有毒なコンテンツ検出モデルを開発するための堅牢なフレームワークに貢献し、オープン性と適応性を強調し、より効果的でユーザ固有のコンテンツモデレーションソリューションの道を開いた。

関連論文リスト

• Optimal Classification under Performative Distribution Shift [13.508249764979075]
  本稿では,動作効果をプッシュフォワード尺度としてモデル化した新しい視点を提案する。 我々は、新しい仮定のセットの下で、パフォーマンスリスクの凸性を証明する。 また, 性能リスクの最小化を min-max 変動問題として再定義することにより, 逆向きの頑健な分類との関係を確立する。
  論文  参考訳（メタデータ） (2024-11-04T12:20:13Z)
• Resilience to the Flowing Unknown: an Open Set Recognition Framework for Data Streams [6.7236795813629]
  本研究では、分類とクラスタリングを組み合わせて、ストリーミングシナリオにおけるテキストオーバ占有空間問題に対処するオープンセット認識フレームワークの適用について検討する。
  論文  参考訳（メタデータ） (2024-10-31T11:06:54Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Detecting and Identifying Selection Structure in Sequential Data [53.24493902162797]
  我々は,音楽のシーケンスなどの実践的な状況において,潜在目的に基づくデータポイントの選択的包摂が一般的である,と論じる。 選択構造はパラメトリックな仮定や介入実験なしで識別可能であることを示す。 また、他の種類の依存関係と同様に、選択構造を検知し、識別するための証明可能な正当性アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-29T20:56:34Z)
• Data AUDIT: Identifying Attribute Utility- and Detectability-Induced Bias in Task Models [8.420252576694583]
  医用画像データセットの厳密で定量的なスクリーニングのための第1の手法を提案する。 提案手法は,データセット属性に関連するリスクを,検出性と実用性の観点から分解する。 本手法を用いて, ほぼ知覚不能なバイアス誘発アーティファクトを確実に同定するスクリーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-04-06T16:50:15Z)
• fairlib: A Unified Framework for Assessing and Improving Classification Fairness [66.27822109651757]
  Fairlibは、分類の公平さを評価し改善するためのオープンソースのフレームワークである。 我々は、前処理、訓練時間、後処理を含む14のデバイアス化手法を実装した。 組み込まれたメトリクスは、最も一般的に使用されるフェアネス基準をカバーし、フェアネス評価のためにさらに一般化およびカスタマイズすることができる。
  論文  参考訳（メタデータ） (2022-05-04T03:50:23Z)
• On robust risk-based active-learning algorithms for enhanced decision support [0.0]
  分類モデルは、構造的健康モニタリング(SHM)システムやデジタルツインなどの物理資産管理技術の基本的な構成要素である。 本稿では,サンプリングバイアスの効果に対処する2つの新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-01-07T17:25:41Z)
• Information Theoretic Measures for Fairness-aware Feature Selection [27.06618125828978]
  我々は,特徴の精度と識別的影響に関する情報理論に基づく,公平性を考慮した特徴選択のためのフレームワークを開発する。 具体的には、この機能が正確性や非差別的判断にどのように影響するかを定量化する、各機能に対する公平性ユーティリティスコアを設計することを目的としています。
  論文  参考訳（メタデータ） (2021-06-01T20:11:54Z)
• How Faithful is your Synthetic Data? Sample-level Metrics for Evaluating and Auditing Generative Models [95.8037674226622]
  ドメインに依存しない方法で生成モデルの忠実度,多様性,一般化性能を特徴付ける3次元評価指標を提案する。 当社のメトリクスは、精度リコール分析により統計的発散測定を統合し、モデル忠実度と多様性のサンプルおよび分布レベルの診断を可能にします。
  論文  参考訳（メタデータ） (2021-02-17T18:25:30Z)
• Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
  データ管理の統合コンポーネントにおける公平性について検討する。 本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
  論文  参考訳（メタデータ） (2020-06-10T20:20:10Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。