論文の概要: Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values

• arxiv url: http://arxiv.org/abs/2402.01651v1
• Date: Tue, 9 Jan 2024 14:57:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-11 17:17:33.871381
• Title: Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values
• Title（参考訳）: インフォームドAI規則:道徳に基づく監査を用いてLLMチャットボットをリードする倫理的枠組みを比較して道徳的推論と規範的価値を評価する
• Authors: Jon Chun and Katherine Elkins
• Abstract要約: 倫理に基づく監査は、急速に成長するAIの安全性と規制において重要な役割を担っている。 本稿では,GPT-4を含む8つの主要な商用およびオープンソースの大規模言語モデルについて,倫理に基づく監査を行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the rise of individual and collaborative networks of autonomous agents, AI is deployed in more key reasoning and decision-making roles. For this reason, ethics-based audits play a pivotal role in the rapidly growing fields of AI safety and regulation. This paper undertakes an ethics-based audit to probe the 8 leading commercial and open-source Large Language Models including GPT-4. We assess explicability and trustworthiness by a) establishing how well different models engage in moral reasoning and b) comparing normative values underlying models as ethical frameworks. We employ an experimental, evidence-based approach that challenges the models with ethical dilemmas in order to probe human-AI alignment. The ethical scenarios are designed to require a decision in which the particulars of the situation may or may not necessitate deviating from normative ethical principles. A sophisticated ethical framework was consistently elicited in one model, GPT-4. Nonetheless, troubling findings include underlying normative frameworks with clear bias towards particular cultural norms. Many models also exhibit disturbing authoritarian tendencies. Code is available at https://github.com/jonchun/llm-sota-chatbots-ethics-based-audit.
• Abstract（参考訳）: 自律エージェントの個人および共同ネットワークの台頭により、AIはより重要な推論と意思決定の役割に配備される。 そのため、倫理に基づく監査は、AIの安全性と規制の急速に成長する分野において重要な役割を果たす。 本稿では,GPT-4を含む8つの主要な商用およびオープンソースの大規模言語モデルについて,倫理に基づく監査を行う。 我々は説明可能性と信頼度を評価する a) 異なるモデルが道徳的推論にいかにうまく関わっているかを確立すること b) 規範的価値を倫理的枠組みとして比較すること。 我々は、人間とAIのアライメントを調査するために、倫理的ジレンマでモデルに挑戦する実験的なエビデンスベースのアプローチを採用している。 倫理的シナリオは、状況の特定が規範的倫理原則から逸脱する必要のない決定を必要とするように設計されている。 高度な倫理的枠組みは、一貫して1つのモデル、gpt-4で導かれた。 それにもかかわらず、厄介な発見には、特定の文化的規範に対して明確なバイアスを持つ規範的枠組みが含まれる。 多くのモデルは権威主義的な傾向を乱す。 コードはhttps://github.com/jonchun/llm-sota-chatbots-ethics-based-auditで入手できる。

関連論文リスト

• Exploring and steering the moral compass of Large Language Models [55.2480439325792]
  大規模言語モデル(LLM)は、様々な分野における自動化と意思決定の推進の中心となっている。 本研究は,その道徳的特徴を評価するために,最も先進的なLCMの総合的比較分析を提案する。
  論文  参考訳（メタデータ） (2024-05-27T16:49:22Z)
• Ethical-Lens: Curbing Malicious Usages of Open-Source Text-to-Image Models [51.69735366140249]
  我々はEthical-Lensというフレームワークを紹介した。 Ethical-Lensは、毒性とバイアス次元をまたいだテキストと画像のモデルにおける価値アライメントを保証する。 実験の結果、Ethical-Lensは商業モデルに匹敵するレベルまでアライメント能力を向上することがわかった。
  論文  参考訳（メタデータ） (2024-04-18T11:38:25Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• Unpacking the Ethical Value Alignment in Big Models [46.560886177083084]
  本稿では,ビッグモデルに関連するリスクと課題の概要,既存のAI倫理ガイドラインを調査し,これらのモデルの限界から生じる倫理的影響について考察する。 本稿では,大規模モデルの倫理的価値を整合させる新しい概念パラダイムを導入し,アライメント基準,評価,方法に関する有望な研究方向性について議論する。
  論文  参考訳（メタデータ） (2023-10-26T16:45:40Z)
• Ethical Reasoning over Moral Alignment: A Case and Framework for In-Context Ethical Policies in LLMs [19.675262411557235]
  我々は、LLMを特定の倫理的原則に道徳的に整合させるのではなく、一般的な倫理的推論能力をそれらに注入すべきだと論じている。 我々は、道徳的ジレンマと規範的倫理の異なるフォアメル主義に関連する道徳的原則を統合する枠組みを開発する。
  論文  参考訳（メタデータ） (2023-10-11T07:27:34Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Towards Theory-based Moral AI: Moral AI with Aggregating Models Based on Normative Ethical Theory [7.412445894287708]
  道徳的AIは哲学と人工知能の分野で研究されている。 近年のAIの発展により、AIを道徳的に実装する必要がますます高まっている。
  論文  参考訳（メタデータ） (2023-06-20T10:22:24Z)
• AI-Ethics by Design. Evaluating Public Perception on the Importance of Ethical Design Principles of AI [0.0]
  倫理的原則が相互に重み付けされているかを検討する。 倫理的に設計されたシステムに対する異なる選好モデルが、ドイツ国民の間に存在していることを示す。
  論文  参考訳（メタデータ） (2021-06-01T09:01:14Z)
• Ethics-Based Auditing to Develop Trustworthy AI [0.0]
  倫理に基づく監査は、意思決定の質の向上、ユーザの満足度の向上、成長可能性の解放、法律作成の有効化、人間の苦悩の緩和を可能にすると論じる。 倫理に基づく監査は、継続的かつ建設的なプロセスの形をとり、システムの観点から倫理的なアライメントにアプローチし、倫理的に望ましい行動のための公共政策とインセンティブに整合する必要があります。
  論文  参考訳（メタデータ） (2021-04-30T11:39:40Z)
• Case Study: Deontological Ethics in NLP [119.53038547411062]
  我々はNLPの観点から1つの倫理理論、すなわち非オントロジー的倫理について研究する。 特に、インフォームド・コンセントを通じて、一般化原則と自律性への敬意に焦点を当てる。 NLPシステムでこれらの原則をどのように利用できるかを示すための4つのケーススタディを提供する。
  論文  参考訳（メタデータ） (2020-10-09T16:04:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。