論文の概要: On Defining Erasure Harms for NLP

• arxiv url: http://arxiv.org/abs/2606.15815v1
• Date: Sun, 14 Jun 2026 13:34:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.868999
• Title: On Defining Erasure Harms for NLP
• Title（参考訳）: NLPにおける消去ハームの定義について
• Abstract要約: NLPシステムの展開は、それらが生み出す可能性のある害に関する懸念を引き起こしている。 近年の文献は、その1つの害、すなわち消去の害を概念化し、測定し始めている。 本稿では,消去が生じたかどうかを確定する上で必要な要素を明確化する,消去の構造化された定義を提案する。
• 参考スコア（独自算出の注目度）: 69.37262811969147
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The deployment of NLP systems has raised concerns about harms they might produce, including representational harms. Recent literature has begun to conceptualize and measure one such harm, the harm of erasure. Nevertheless, the field lacks a clear and cohesive conceptual foundation for identifying and measuring erasure. Existing conceptualizations of erasure are often broad -- making it difficult to identify what is needed to establish and measure erasure -- or else specific to particular settings -- facilitating measurement for those settings but potentially challenging to adapt to other settings. To address this gap, we develop and propose a structured definition of erasure that clarifies what components are necessary for establishing whether erasure has occurred, which practitioners need to explicitly articulate and operationalize in order to measure erasure.
• Abstract（参考訳）: NLPシステムの展開は、表現的害を含む、彼らが生み出す可能性のある害に関する懸念を引き起こしている。 近年の文献は、その1つの害、すなわち消去の害を概念化し、測定し始めている。 しかし、この分野には、消去の特定と測定のための明確で密集した概念的基盤が欠けている。 既存の消去の概念化は、しばしば広範に行われます -- 消去の確立と測定に必要なもの、あるいは特定の設定に特有のものを特定することは困難です。 このギャップに対処するために,我々は,消去が生じたかどうかを確定するために必要な要素を明確にする,消去の構造化された定義を開発し,提案する。

関連論文リスト

• Are We Evaluating the Edit Locality of LLM Model Editing Properly? [68.441768731381]
  この目的のために既存の特異性評価プロトコルは不十分であることがわかった。 既存の特異度指標は特異度正規化器の強度と弱い相関関係にある。 また、現在のメトリクスには十分な感度が欠けており、異なるメソッドの特異性性能の区別に効果がないこともわかりました。
  論文  参考訳（メタデータ） (2026-01-24T07:07:21Z)
• SAGE: Exploring the Boundaries of Unsafe Concept Domain with Semantic-Augment Erasing [65.82241040239452]
  望ましくない概念に微妙な重みを消去する概念。 既存の方法は、安全でない概念を固定語として扱い、繰り返し消去する。 本稿では,概念語消去を概念ドメイン消去に変換する意味拡張消去について紹介する。
  論文  参考訳（メタデータ） (2025-06-11T03:21:24Z)
• Does Representation Intervention Really Identify Desired Concepts and Elicit Alignment? [73.80382983108997]
  表現の介入(Representation intervention)は、大規模言語モデルにおいて基礎となる概念を符号化する表現の発見と修正を目的としている。 介入が忠実であれば、介入されたLLMは有害な概念を消去し、非分配的敵のプロンプトとアウト・オブ・ディストリビューションのジェイルブレイクの両方に対して堅牢であるべきである。 本研究では,有害表現と良性表現の境界を簡易化する概念集中(COCA)を提案する。
  論文  参考訳（メタデータ） (2025-05-24T12:23:52Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• Rethinking the Uncertainty: A Critical Review and Analysis in the Era of Large Language Models [42.563558441750224]
  大規模言語モデル(LLM)は、幅広い人工知能応用の基礎となっている。 現在の手法はしばしば、真の不確実性を特定し、測定し、対処するのに苦労する。 本稿では,不確実性の種類や原因を特定し,理解するための包括的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:07:15Z)
• Label-wise Aleatoric and Epistemic Uncertainty Quantification [15.642370299038488]
  本稿では,不確実性尺度のラベルワイズ分解に基づく分類タスクにおける不確実性定量化手法を提案する。 提案手法は,いくつかの望ましい特性に則っていることを示す。
  論文  参考訳（メタデータ） (2024-06-04T14:33:23Z)
• Segmentation Re-thinking Uncertainty Estimation Metrics for Semantic Segmentation [12.532289778772185]
  セマンティックセグメンテーションは機械学習の基本的な応用である。 画像セグメンテーションタスクにおけるエントロピーに基づく不確実性を評価するための特殊なツールとしてPAvPU(パッチ精度対パッチ不確実性)が開発された。 本研究は,PAvPUフレームワークの中核となる3つの欠陥を同定し,ロバストな解を提案する。
  論文  参考訳（メタデータ） (2024-03-28T20:34:02Z)
• Beyond Behaviorist Representational Harms: A Plan for Measurement and Mitigation [1.7355698649527407]
  本研究は,現在定義されている表現的害の定義に焦点をあてて,含まないものと含まないものを識別する。 私たちの研究は、表現的害を繰り返すための大きな言語モデルのユニークな脆弱性を強調します。 本研究の目的は,表現的害の定義を拡大するための枠組みを確立することである。
  論文  参考訳（メタデータ） (2024-01-25T00:54:10Z)
• Tailored Uncertainty Estimation for Deep Learning Systems [10.288326973530614]
  本稿では,適切な不確実性推定手法の選択を導く枠組みを提案する。 私たちのフレームワークは、この選択を検証し、構造的な弱点を明らかにするための戦略を提供します。 これは、機械学習システムの技術的適切性を示す証拠を必要とする予測された機械学習規則を予想する。
  論文  参考訳（メタデータ） (2022-04-29T09:23:07Z)
• Localization Uncertainty Estimation for Anchor-Free Object Detection [48.931731695431374]
  アンカーベース物体検出のための既存の不確実性推定手法にはいくつかの制限がある。 アンカーフリー物体検出のためのUADと呼ばれる新しい位置推定不確実性推定手法を提案する。 本手法は,ボックスオフセットの4方向の不確かさを均一に捉え,どの方向が不確実であるかを判断する。
  論文  参考訳（メタデータ） (2020-06-28T13:49:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。