論文の概要: Thorny Roses: Investigating the Dual Use Dilemma in Natural Language Processing

• arxiv url: http://arxiv.org/abs/2304.08315v3
• Date: Mon, 30 Oct 2023 11:14:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-02 03:05:53.654856
• Title: Thorny Roses: Investigating the Dual Use Dilemma in Natural Language Processing
• Title（参考訳）: Thorny Roses氏:自然言語処理における両用ジレンマの調査
• Authors: Lucie-Aim\'ee Kaffee, Arnav Arora, Zeerak Talat, Isabelle Augenstein
• Abstract要約: 我々は,NLP研究者と実践者を対象に,問題の深さと展望を理解するために調査を行った。 調査の結果に基づき,NLPコミュニティのニーズに合わせた二重利用の定義を提供する。 我々は、NLPにおける二重利用を緩和する現在の状況と潜在的手段について議論し、既存の会議倫理枠組みに統合可能なチェックリストを提案する。
• 参考スコア（独自算出の注目度）: 45.72382504913193
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Dual use, the intentional, harmful reuse of technology and scientific artefacts, is a problem yet to be well-defined within the context of Natural Language Processing (NLP). However, as NLP technologies continue to advance and become increasingly widespread in society, their inner workings have become increasingly opaque. Therefore, understanding dual use concerns and potential ways of limiting them is critical to minimising the potential harms of research and development. In this paper, we conduct a survey of NLP researchers and practitioners to understand the depth and their perspective of the problem as well as to assess existing available support. Based on the results of our survey, we offer a definition of dual use that is tailored to the needs of the NLP community. The survey revealed that a majority of researchers are concerned about the potential dual use of their research but only take limited action toward it. In light of the survey results, we discuss the current state and potential means for mitigating dual use in NLP and propose a checklist that can be integrated into existing conference ethics-frameworks, e.g., the ACL ethics checklist.
• Abstract（参考訳）: 技術と科学的成果物の意図的かつ有害な再利用である二重利用は、自然言語処理(nlp)の文脈ではまだ明確に定義されていない問題である。 しかし、NLP技術は発展を続け、社会に広まりつつあるため、内部の作業はますます不透明になっている。 したがって、二重利用の懸念とそれらを制限する潜在的な方法を理解することは、研究開発の潜在的な害を最小化するために重要である。 本稿では,NLP研究者と実践者を対象に,課題の深さと展望を把握し,既存のサポートの評価を行う。 調査の結果に基づき,NLPコミュニティのニーズに合わせた二重利用の定義を提供する。 この調査によると、大多数の研究者が研究の二重利用を心配しているが、その対策は限られている。 調査結果を踏まえ,NLPにおける二重利用を緩和する現在の状況と潜在的手段について考察し,既存の会議倫理枠組み,例えばACL倫理チェックリストに統合可能なチェックリストを提案する。

関連論文リスト

• The Nature of NLP: Analyzing Contributions in NLP Papers [77.31665252336157]
  我々は,NLP研究を構成するものについて,研究論文から定量的に検討する。 以上の結果から,NLPにおける機械学習の関与は,90年代前半から増加傾向にあることが明らかとなった。 2020年以降、言語と人々への関心が復活した。
  論文  参考訳（メタデータ） (2024-09-29T01:29:28Z)
• What Can Natural Language Processing Do for Peer Review? [173.8912784451817]
  現代の科学ではピアレビューが広く使われているが、それは難しく、時間がかかり、エラーを起こしやすい。 ピアレビューに関わるアーティファクトは大部分がテキストベースであるため、自然言語処理はレビューを改善する大きな可能性を秘めている。 筆者らは、原稿提出からカメラ対応リビジョンまでの各工程について詳述し、NLP支援の課題と機会について論じる。
  論文  参考訳（メタデータ） (2024-05-10T16:06:43Z)
• Responsible AI Considerations in Text Summarization Research: A Review of Current Practices [89.85174013619883]
  私たちは、責任あるAIコミュニティがほとんど見落としている共通のNLPタスクである、テキスト要約に重点を置いています。 我々は,2020-2022年に出版されたACLアンソロジーから333の要約論文の多段階的質的分析を行った。 私たちは、どの、どの、どの責任あるAI問題がカバーされているか、どの関係するステークホルダーが考慮されているか、そして、述べられた研究目標と実現された研究目標のミスマッチに焦点を合わせます。
  論文  参考訳（メタデータ） (2023-11-18T15:35:36Z)
• Regulation and NLP (RegNLP): Taming Large Language Models [51.41095330188972]
  我々は,NLP研究が規制研究や隣接分野に近接することのメリットを論じる。 我々は、規制とNLPに関する新しい多分野研究空間の開発を提唱する。
  論文  参考訳（メタデータ） (2023-10-09T09:22:40Z)
• What Do NLP Researchers Believe? Results of the NLP Community Metasurvey [43.763865378178245]
  NLP Community Metasurveyの結果を報告する。 この調査は議論を呼んだ問題に関する意見を提起した。 コミュニティの予測が現実と一致しない誤った社会学的信念を見出す。
  論文  参考訳（メタデータ） (2022-08-26T19:45:51Z)
• We Need to Talk About Data: The Importance of Data Readiness in Natural Language Processing [3.096615629099618]
  我々は、NLPにおける学術研究と学術以外の問題への応用との間にはギャップがあると主張している。 本稿では,データのアクセシビリティ,有効性,有用性に関して,研究者と外部利害関係者のコミュニケーションを改善する方法を提案する。
  論文  参考訳（メタデータ） (2021-10-11T17:55:07Z)
• Ensuring the Inclusive Use of Natural Language Processing in the Global Response to COVID-19 [58.720142291102135]
  低リソース言語を網羅することで、現在のNLPアプローチと将来のNLPアプローチをより包括的に行う方法について議論する。 我々は,NLPの正の社会的影響を最大化することに関心のある研究者のために,いくつかの今後の方向性を提案する。
  論文  参考訳（メタデータ） (2021-08-11T12:54:26Z)
• On the Ethical Limits of Natural Language Processing on Legal Text [9.147707153504117]
  自然言語処理システムの使用に対する倫理的限界を特定する上で、研究者は苦戦していると論じている。 我々は、現在の議論によって過小評価された3つの重要な規範的パラメータに重点を置く。 これら3つのパラメータのそれぞれについて、法的NLPコミュニティに具体的な推奨事項を提供します。
  論文  参考訳（メタデータ） (2021-05-06T15:22:24Z)
• Beyond Fair Pay: Ethical Implications of NLP Crowdsourcing [7.148585157154561]
  研究者が使用する共通の倫理的枠組みであるFinal Ruleは,データ収集にオンラインクラウドソーシングプラットフォームを使用することを期待していなかった。 NLPタスクを実行するクラウドワーカーが危険にさらされる一般的なシナリオを列挙します。 我々は,ベルモント報告書が定める3つの倫理的原則を考慮し,これらのリスクを評価することを推奨する。
  論文  参考訳（メタデータ） (2021-04-20T16:30:59Z)
• Give Me Convenience and Give Her Death: Who Should Decide What Uses of NLP are Appropriate, and on What Basis? [40.75458460149429]
  我々は,NLP研究において,データセットとタスクがオフリミットと見なされるべきかどうかを論じる。 特に、倫理的評価研究におけるデータステートメントの役割に焦点を当てる。 我々は、他の科学分野における同様の議論の結果について検討する。
  論文  参考訳（メタデータ） (2020-05-27T07:31:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。