論文の概要: Applying Standards to Advance Upstream & Downstream Ethics in Large
Language Models
- arxiv url: http://arxiv.org/abs/2306.03503v2
- Date: Sun, 11 Jun 2023 10:45:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 23:04:44.399464
- Title: Applying Standards to Advance Upstream & Downstream Ethics in Large
Language Models
- Title(参考訳): 大規模言語モデルにおける上流・下流倫理の推進のための標準の適用
- Authors: Jose Berengueres and Marybeth Sandell
- Abstract要約: 本稿では,AIが生成するコンテンツの保護をAI所有者がいかに開発できるかを考察する。
他のコンテンツ制作業界では、行動規範や倫理基準が確立されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper explores how AI-owners can develop safeguards for AI-generated
content by drawing from established codes of conduct and ethical standards in
other content-creation industries. It delves into the current state of ethical
awareness on Large Language Models (LLMs). By dissecting the mechanism of
content generation by LLMs, four key areas (upstream/downstream and at user
prompt/answer), where safeguards could be effectively applied, are identified.
A comparative analysis of these four areas follows and includes an evaluation
of the existing ethical safeguards in terms of cost, effectiveness, and
alignment with established industry practices. The paper's key argument is that
existing IT-related ethical codes, while adequate for traditional IT
engineering, are inadequate for the challenges posed by LLM-based content
generation. Drawing from established practices within journalism, we propose
potential standards for businesses involved in distributing and selling
LLM-generated content. Finally, potential conflicts of interest between dataset
curation at upstream and ethical benchmarking downstream are highlighted to
underscore the need for a broader evaluation beyond mere output. This study
prompts a nuanced conversation around ethical implications in this rapidly
evolving field of content generation.
- Abstract(参考訳): 本稿では、他のコンテンツ制作業界における行動規範や倫理基準から、AIが生成するコンテンツに対する保護を開発する方法について考察する。
これは、Large Language Models (LLMs) に対する倫理的意識の現在の状態に根ざしている。
LLMによるコンテンツ生成のメカニズムを解明することにより、安全ガードを効果的に適用可能な4つのキー領域(上流/下流およびユーザプロンプト/アンサー)を同定する。
これら4つの分野の比較分析は、コスト、有効性、および確立された産業慣行との整合性の観点から、既存の倫理的保護の評価を含む。
論文の重要な論点は、既存のIT関連倫理コードは、従来のITエンジニアリングには適していないが、LCMベースのコンテンツ生成がもたらす課題には不十分であるということである。
ジャーナリズムの確立した実践から,llm生成コンテンツの配布と販売に関わるビジネスの潜在的な標準を提案する。
最後に、上流のデータセットキュレーションと下流の倫理的ベンチマークの間の潜在的な関心の衝突が強調され、単なるアウトプット以上の広範な評価の必要性が強調される。
この研究は、この急速に進化するコンテンツ生成の分野における倫理的意味に関する微妙な議論を促す。
関連論文リスト
- Eagle: Ethical Dataset Given from Real Interactions [74.7319697510621]
社会的バイアス、毒性、不道徳な問題を示すChatGPTとユーザ間の実際のインタラクションから抽出されたデータセットを作成します。
我々の実験では、イーグルは、そのような倫理的課題の評価と緩和のために提案された既存のデータセットでカバーされていない相補的な側面を捉えている。
論文 参考訳(メタデータ) (2024-02-22T03:46:02Z) - Five ethical principles for generative AI in scientific research [0.0]
生成する人工知能ツールは、学術研究と現実世界の応用を急速に変えつつある。
本稿では,5つのテーマにまたがる分析と緩和戦略を開発することで,最初の枠組みを提供する。
我々は、専門家のトレーニングと合理的な執行と組み合わせたグローバルコンセンサスが、研究の完全性を守りながら、AIのメリットを促進する上で重要であると論じている。
論文 参考訳(メタデータ) (2024-01-27T03:53:25Z) - The Ethics of Interaction: Mitigating Security Threats in LLMs [1.5371340850225041]
この論文は、社会や個人のプライバシに対するこのようなセキュリティ上の脅威に対する、倫理的な悪影響について論じている。
我々は、迅速な注射、脱獄、個人識別情報(PII)露出、性的明示的なコンテンツ、ヘイトベースのコンテンツという5つの主要な脅威を精査する。
本稿は、LLMがもたらす倫理的問題だけでなく、これらのシステムへの信頼を育むための道のりも強調する。
論文 参考訳(メタデータ) (2024-01-22T17:11:37Z) - Unpacking the Ethical Value Alignment in Big Models [46.560886177083084]
本稿では,ビッグモデルに関連するリスクと課題の概要,既存のAI倫理ガイドラインを調査し,これらのモデルの限界から生じる倫理的影響について考察する。
本稿では,大規模モデルの倫理的価値を整合させる新しい概念パラダイムを導入し,アライメント基準,評価,方法に関する有望な研究方向性について議論する。
論文 参考訳(メタデータ) (2023-10-26T16:45:40Z) - Denevil: Towards Deciphering and Navigating the Ethical Values of Large
Language Models via Instruction Learning [36.66806788879868]
大きな言語モデル(LLM)は前例のない突破口をたどったが、彼らの日常生活への統合は非倫理的コンテンツによって社会的リスクを引き起こす可能性がある。
この研究はモラル・ファンデーション理論を利用した倫理的価値を論じている。
論文 参考訳(メタデータ) (2023-10-17T07:42:40Z) - EALM: Introducing Multidimensional Ethical Alignment in Conversational
Information Retrieval [43.72331337131317]
我々は、倫理的アライメントを、効率的なデータスクリーニングのための初期倫理的判断段階と統合するワークフローを導入する。
本稿では,ETHICSベンチマークから適応したQA-ETHICSデータセットについて述べる。
さらに,二項および多ラベルの倫理的判断タスクにおいて,最高の性能を実現する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-10-02T08:22:34Z) - Semantic Communications for Artificial Intelligence Generated Content
(AIGC) Toward Effective Content Creation [75.73229320559996]
本稿では,AIGCとSemComの統合の概念モデルを開発する。
AIGC技術を利用した新しいフレームワークが,意味情報のためのエンコーダおよびデコーダとして提案されている。
このフレームワークは、生成されたさまざまなタイプのコンテンツ、要求される品質、活用される意味情報に適応することができる。
論文 参考訳(メタデータ) (2023-08-09T13:17:21Z) - Ethical Considerations and Policy Implications for Large Language
Models: Guiding Responsible Development and Deployment [48.72819550642584]
本稿では,コンテンツ生成における大規模言語モデル(LLM)の倫理的考察と意義について考察する。
生成AIプログラムの肯定的および否定的な使用の可能性を強調し、アウトプットに責任を割り当てる際の課題を探求する。
論文 参考訳(メタデータ) (2023-08-01T07:21:25Z) - On the Morality of Artificial Intelligence [154.69452301122175]
本稿では,機械学習の研究・展開に関する概念的かつ実践的な原則とガイドラインを提案する。
我々は,より倫理的で道徳的なMLの実践を追求するために,実践者が採る具体的な行動を主張している。
論文 参考訳(メタデータ) (2019-12-26T23:06:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。