# (参考訳) AiSocrates:Ethical Quandary Questionsの回答に向けて [全文訳有]

AiSocrates: Towards Answering Ethical Quandary Questions ( http://arxiv.org/abs/2205.05989v1 )

ライセンス: CC BY 4.0
Yejin Bang, Nayeon Lee, Tiezheng Yu, Leila Khalatbari, Yan Xu, Dan Su, Elham J. Barezi, Andrea Madotto, Hayden Kee, Pascale Fung(参考訳) 様々なNLPタスクにおいて、大きな事前学習言語モデル(LLM)の印象的なパワーに基づいて重要な進歩がなされている。 これらの結果はLLMの限界を理解するための努力にインスピレーションを与え、人間のレベルでの自然言語理解の達成からどこまで遠いかを評価する。 本研究では, 倫理的基準生成質問応答の新たなタスクにより, LLMの能力に挑戦する。 倫理的な4次質問は、複数の矛盾する答えが1つの4次問題に存在する可能性があるため、より対処が難しい。 本稿では,神託のようなクローズドな回答を提供するのではなく,ソクラテス哲学のアプローチにおいて,異なる視点から倫理的四分儀への議論的な意見交換を提供するシステム,AiSocratesを提案する。 aisocratesは倫理的四分法に適用可能な異なる倫理的原則を探索し、プロンプトベースの少数ショット学習を通じて選択された原則に基づく回答を生成する。 また、倫理的原則を選択する際に、人間の制御可能性オプションを提供することによって安全性の懸念にも対処する。 AiSocratesは、複数の視点で倫理的四項質問に対する有望な回答を生成し、6.92%は人間の哲学者の回答を1つの尺度で表すよりも多いが、それでも人間の哲学者のコヒーレンスと完全に一致するように改善する必要がある。 我々は,AiSocratesが人的価値を明示的に組み込んだNLPシステムの開発に向けた有望なステップであると主張する。 研究目的でコードを公開しています。

Considerable advancements have been made in various NLP tasks based on the impressive power of large pre-trained language models (LLMs). These results have inspired efforts to understand the limits of LLMs so as to evaluate how far we are from achieving human level general natural language understanding. In this work, we challenge the capability of LLMs with the new task of Ethical Quandary Generative Question Answering. Ethical quandary questions are more challenging to address because multiple conflicting answers may exist to a single quandary. We propose a system, AiSocrates, that provides an answer with a deliberative exchange of different perspectives to an ethical quandary, in the approach of Socratic philosophy, instead of providing a closed answer like an oracle. AiSocrates searches for different ethical principles applicable to the ethical quandary and generates an answer conditioned on the chosen principles through prompt-based few-shot learning. We also address safety concerns by providing a human controllability option in choosing ethical principles. We show that AiSocrates generates promising answers to ethical quandary questions with multiple perspectives, 6.92% more often than answers written by human philosophers by one measure, but the system still needs improvement to match the coherence of human philosophers fully. We argue that AiSocrates is a promising step toward developing an NLP system that incorporates human values explicitly by prompt instructions. We are releasing the code for research purposes.
公開日: Thu, 12 May 2022 09:52:59 GMT

※ 翻訳結果を表に示しています。PDFがオリジナルの論文です。翻訳結果のライセンスはCC BY-SA 4.0です。詳細はトップページをご参照ください。


    Page: /      
2 2 0 2 y a M 2 1 2 2 0 2 y a m 2 1 である。 0.52
] L C . s c [ 1 v 9 8 9 5 0 ]LC。 sc [ 1 v 9 8 9 5 0 0.30
. 5 0 2 2 : v i X r a . 5 0 2 2 : v i X r a 0.42
AISOCRATES: Towards Answering Ethical Quandary Questions Yejin Bang† Nayeon Lee† Tiezheng Yu† Leila Khalatbari† Yan Xu† Dan Su† Elham J. Barezi† Andrea Madotto†∗ Hayden Kee§ Pascale Fung† AISOCRATES: Answering Ethical Quandary Questions Yejin Bang-Nayeon Lee-Tiezheng Yu-Leila Khalatbari-Yan Xu-Dan Su-Elham J. Barezi-Andrea Madotto-* Hayden Kee-Pascale Fung' 0.31
†Center for Artificial Intelligence Research (CAiRE), The Hong Kong University of Science and Technology 香港科学技術大学人工知能研究センター(CAiRE) 0.45
§Philosophy Department, The Chinese University of Hong Kong yjbang@connect.ust.h k, pascale@ece.ust.hk 香港大学哲学科, 香港大学yjbang@connect.ust.h k, pascale@ece.ust.hk 0.36
Abstract Considerable advancements have been made in various NLP tasks based on the impressive power of large pre-trained language models (LLMs). 概要 様々なNLPタスクにおいて、大きな事前学習言語モデル(LLM)の印象的なパワーに基づいて重要な進歩がなされている。 0.54
These results have inspired efforts to understand the limits of LLMs so as to evaluate how far we are from achieving human level general natural language understanding. これらの結果はLLMの限界を理解するための努力にインスピレーションを与え、人間のレベルでの自然言語理解の達成からどこまで遠いかを評価する。 0.69
In this work, we challenge the capability of LLMs with the new task of ETHICAL QUANDARY GENERATIVE QUESTION ANSWERING. 本研究では,LLMの能力に挑戦し,第1四半期生成QUESTION ASWERINGの新たな課題について述べる。 0.56
Ethical quandary questions are more challenging to address because multiple conflicting answers may exto a single quandary. 倫理的な4次質問は、複数の矛盾する答えが1つの4次問題を示す可能性があるため、より対処が難しい。 0.39
We propose a ist system, AISOCRATES, that provides an answer with a deliberative exchange of different perspectives to an ethical quandary, in the approach of Socratic philosophy, instead of providing a closed answer like an oracle. 我々は,神託のようなクローズドな答えを提供するのではなく,ソクラテス哲学のアプローチにおいて,倫理的四分法に対する異なる視点を意図的に交換するistシステムであるaisocratesを提案する。 0.72
AISOCRATES searches for different ethical principles applicable to the ethical quandary and generates an answer conditioned on the chosen principles through prompt-based fewshot learning. aisocratesは倫理的四分法に適用可能な異なる倫理的原則を探索し、プロンプトベースのマイトショット学習を通じて選択された原則に基づく回答を生成する。 0.55
We also address safety concerns by providing a human controllability option in choosing ethical principles. また、倫理的原則を選択する際に、人間の制御可能性オプションを提供することによって安全性の懸念にも対処する。
訳抜け防止モード: 安全性の問題にも対処します 倫理的原則の選択において、人間の制御可能性オプションを提供する。
We show that AISOCRATES generates promising answers to ethical quandary questions with multiple perspectives, 6.92% more often than answers written by human philosophers by one measure, but to match the coherence of human philosophers fully. AISOCRATESは、人間の哲学者が1つの尺度で書いた回答よりも6.92%多い頻度で、複数の視点で倫理的四項質問に対する有望な回答を生成するが、人間の哲学者の一貫性を完全に一致させる。 0.62
We argue that AISOCRATES is a promising step toward developing an NLP system that incorporates human values explicitly by prompt instructions. 我々は,AISOCRATESが人的価値を明示的に組み込んだNLPシステムの開発に向けた有望なステップであると主張する。 0.66
We are releasing the code for research purposes. 研究目的でコードを公開しています。 0.73
Introduction the system still needs improvement はじめに システムは改善が必要です 0.69
1 Large pre-trained language models (LLMs) have brought significant breakthroughs in artificial intelligence (AI), with impressive results approach∗∗ This work was done when the author was studying at 1つの大きな事前学習された言語モデル(llm)は、人工知能(ai)に大きなブレークスルーをもたらし、印象的な結果が***に到達した。
訳抜け防止モード: 1 大規模事前訓練型言語モデル(LLM)が人工知能(AI)に大きなブレークスルーをもたらした。 この研究は著者が研究していた時に行われました
The Hong Kong University of Science and Technology. 香港科学技術大学教授。 0.41
ing human-level in various NLP tasks (Radford et al , 2019; Raffel et al , 2020; Brown et al , 2020). 様々なnlpタスクにおけるing人間レベル(radford et al , 2019; raffel et al , 2020; brown et al , 2020)。 0.85
Explorations of their limitations and capabilities have also been made, for instance, by studying their ability to answer open-ended, real-world questions (Tafjord and Clark, 2021; Gu et al , 2021; Jiang et al , 2021; Hendrycks et al , 2020). 例えば、オープンエンドの現実世界の質問に答える能力の研究(Tafjord and Clark, 2021; Gu et al , 2021; Jiang et al , 2021; Hendrycks et al , 2020)によって、それらの限界と能力の探索も行われている。 0.85
Ethical quandary questions can be viewed as one of the most challenging forms of questions to address because they have no single definite answer. 倫理的な四次質問は、1つの明確な答えがないため、対処すべき最も難しい質問の1つと見なすことができる。 0.57
Instead, a discussion with multiple perspectives (i.e., a manner of debate) is crucial (Talat et al , 2021; Hendrycks et al , 2020) and sophisticated logical reasoning is required to answer such questions. 代わりに、複数の視点(すなわち議論の方法)による議論が不可欠であり(talat et al , 2021; hendrycks et al , 2020)、そのような質問に答えるためには洗練された論理的推論が必要である。
訳抜け防止モード: 代わりに、複数の視点による議論 (すなわち議論の方法) 重要である(Talat et al, 2021 ; Hendrycks et al, 2020) このような疑問に答えるには 洗練された論理的推論が必要です
In this work, we challenge the capability of LLMs to provide relevant and nuanced answers to ethical quandary questions in the style of a human ethicist — ETHICAL QUANDARY GENERATIVE QUESTION ANSWERING (GQA). 本研究では,人間倫理学者のスタイルであるETHICAL QUANDARY GeneIVE QUESTION ANSWERING (GQA) の倫理的4つの質問に対して,LLMの関連性およびニュアンスな回答を提供する能力に挑戦する。 0.62
Previously, Jiang et al (2021) proposed Delphi, a model that learns to reproduce human moral and ethical judgments. 従来、jiang et al (2021) は人間の倫理的・倫理的判断を再現するモデル delphi を提案した。 0.72
However, it provides one simple definite answer to an ethical quandary question without the possibility of future discussion. しかし、これは将来の議論の可能性なしに、倫理的4つの疑問に対する単純な明確な答えを提供する。 0.51
An ethical quandary is a moral dilemma that posses challenges to humans. 倫理的四段目は、人間に挑戦を与える道徳的ジレンマである。 0.50
For example, Delphi answers “No” to the famous ethical dilemma trolley problem (Thomson, 1976): “Should we kill one person to save five people in danger of being hit by a trolley?”. 例えば、デルフィは有名な倫理的ジレンマ・トロリー問題(1976年トムソン)に「ノー」と答える:「トロリーにぶつかる危険を冒して5人を救うために1人を殺そうか?」。 0.62
Although the oracle at Delphi only gave a prophetic, closed answer to the questions posed to it, there can be multiple perspectives on this problem depending on the underlying ethical principle. delphiのオラクルは、それに提起された質問に対して預言的かつクローズドな回答しか与えていないが、基礎となる倫理的な原則によっては、この問題に関して複数の視点が存在する可能性がある。
訳抜け防止モード: デルポイのオラクルは預言者であり、それに対する質問に対するクローズドな答えしか与えなかった。 この問題には、基礎となる倫理的な原則によって、複数の視点がある。
From the deontological perspective, the answer would be “No” because killing is never acceptable. デオントロジーの観点からすると、殺人は決して許容されないため、答えは「ノー」である。 0.59
From the utilitarian perspective, by contrast, the answer would be “Yes” because the principle dictates that the most appropriate action is the one that results in the greatest good for the greatest number of people. というのも、この原則は最も適切な行動は、最も多くの人々にとって最も良い結果をもたらすものであると規定しているからである。
訳抜け防止モード: それとは対照的に、実用主義的な見地からすると、答えは「イエス」になるでしょう。 最も適切な行動は、最も多くの人々にとって最大の利益をもたらす行動である。
As Talat et al (2021) criticized, onesided normative ethical judgment answer makes talat et al (2021) が批判しているように、一方的な規範的倫理判断の答えは 0.58
it cannot represent incommensurable and diverse ethical judgments. 不当で多様な倫理的判断を 表すことはできない 0.62
Therefore, we aim to build a system that can deal with ethical quandary questions with different ethical principles and also with the possibility of explaining the reasons for its pronouncements. そこで我々は,倫理的四項問題に異なる倫理的原則で対処できるシステムを構築するとともに,その発音の理由を説明することを目的としている。 0.66
Instead of handing over our ethical responsibility to the AI system by seeking a definite answer, we build an AI interlocutor with which we think through the ethical issues.1 明確な答えを求めることによって、倫理的な責任をAIシステムに渡す代わりに、倫理的な問題を通じて考えるAIインターロケータを構築します。 0.65
We approach ETHICAL QUANDARY GQA task with the aim of achieving an AI system that can enhance humans’ moral decision-making through the deliberative exchange of different perspectives to an ethical quandary, which is in the approach of Socratic philosophy. 我々は,ソクラテス哲学のアプローチである倫理的四分儀への異なる視点の熟考的交換を通じて,人間の道徳的意思決定を促進するAIシステムの実現を目的として,倫理的QUANDARY GQA課題にアプローチする。 0.78
The utilization of AI technology for human moral enhancement has been suggested by moral philosophers (Savulescu and Maslen, 2015; Giubilini and Savulescu, 2018; Lara and Deckers, 2020). 道徳的哲学者(Savulescu and Maslen, 2015; Giubilini and Savulescu, 2018; Lara and Deckers, 2020)によってAI技術の利用が示唆されている。 0.79
The AI system can serve as a helper that can aid humans in having reflective equilibrium by suggesting different aspects that individuals could not take into consideration due to personal biases and prejudices (Giubilini and Savulescu, 2018). aiシステムは、個人バイアスや偏見のために個人が考慮できないさまざまな側面(giubilini and savulescu, 2018)を示唆することで、人間に反射平衡を持つのを助けるヘルパーとして機能することができる。 0.74
Nevertheless, when using AI technology to deal with ethical issues, it is essential to consider the safety and ethical implications. それでも、倫理的問題に対処するためにAI技術を使用する場合、安全と倫理的意味を考慮することが不可欠である。
訳抜け防止モード: それでも、倫理問題に対処するためにAI技術を使用する場合。 安全と倫理的意味を考えることが不可欠です
Letting an AI system answer ethical questions without a human agent can be controversial because it is unclear who takes responsibility for the action or output of the system (Anderson and Anderson, 2007; Cave et al , 2018). 人間のエージェントなしでAIシステムを倫理的問題に答えさせることは、システムのアクションやアウトプットの責任を誰が負うのか不明であるため、議論の余地がある(Anderson and Anderson, 2007; Cave et al , 2018)。 0.76
Therefore, we design our system to be controllable by humans – i.e., it allows a way for humans to provide explicit ethical principles to guide the system in generating answers. したがって、我々のシステムは人間によって制御可能であるように設計されており、すなわち、人間が答えを生み出す際に、システムの指針となる明確な倫理的原則を提供することができる。 0.66
In this way, the principle-provider (human) will be responsible for any potentially unsafe generated output.Through this setup, we also want to explore the potential for human agents to explicitly state the desirable values and principles while using few shot learning from the LLMs. このようにして、原則実証者(人間)は、潜在的に安全でない出力の責任を負うことになるが、この設定によって、人間のエージェントが、LLMからのわずかなショットラーニングを使用しながら、望ましい値と原則を明示的に記述する可能性を探りたい。 0.52
We propose a system, AISOCRATES, which answers ethical quandary questions from multiple perspectives. 本稿では,倫理的質的疑問に複数の視点から答えるシステムaisocratesを提案する。 0.66
AISOCRATES is composed of two modules: AISOCRATESは2つのモジュールから構成される。 0.65
1) Principle Provider provides relevant ethical principles to an ethical quandary, which can be done either by a human or a model 1) 原則提供者は、人間又はモデルが行うことができる倫理的四分儀に関連する倫理的原則を提供する 0.78
2) Principle-Grounded Answer Generator, which adopts prompt-based few-shot learning, generates an answer based on the provided ethical princi- 2)プロンプトベース・マイノショット学習を応用した原則基底型回答生成器は,提供された倫理的プリンシズムに基づいて回答を生成する。 0.65
1Here, our aim is not to generate the most “ethical” answers but to explore LLMs’ ability to provide distinct answers to a single quandary depending on varying ethical principles. 1この目的は、最も「倫理的」な回答を生成するのではなく、異なる倫理的原則に基づいて、単一の四分儀に異なる回答を提供するLLMの能力を探求することである。 0.53
context: As COVID-19 continues to affect many countries in the world, vaccines were developed across the world in record time. 状況:新型コロナウイルスが世界中の多くの国に影響を与え続けている中、ワクチンは世界記録的な期間に開発された。
訳抜け防止モード: 状況 : 新型コロナウイルスが世界中の多くの国に影響を与え続けているとき ワクチンは世界中で開発されました
Getting vaccinated against COVID-19 can lower your risk of getting and spreading the virus that causes COVID-19. 新型コロナウイルス(COVID-19)に対するワクチン接種は、新型コロナウイルスの原因となるウイルスの感染と拡散のリスクを下げる可能性がある。
訳抜け防止モード: 新型コロナウイルスにワクチンを接種する 新型コロナウイルス(covid-19)の原因となるウイルスの感染リスクを下げることができる。
Vaccines can also help prevent serious illness and death. ワクチンは深刻な病気や死亡の予防にも役立つ。 0.62
At the same time, however, it also has been reported that vaccination has some severe side effects or unknown complications with low chance. しかし同時に、予防接種にはいくつかの深刻な副作用や未知の合併症があり、その可能性は低いと報告されている。 0.51
Many countries encourage people to get vaccinated or mandate it by restricting access to certain services or places. 多くの国は、特定のサービスや場所へのアクセスを制限することで、予防接種や強制を受けることを奨励している。 0.52
question: Is it ethical to mandate vaccination? 問題:予防接種を義務付けるのは倫理的か? 0.49
Table 1: An example ethical quandary, which consists of a Context and Question. 表1: コンテキストと質問からなる倫理的な四分の一の例。 0.64
In this work, we explore the model’s ability to differently answer the quandary based on different ethical principles. この研究では、異なる倫理的原則に基づいて四項を異なる解答するモデルの能力について検討する。 0.65
ples. The main experimental result shows that AISOCRATES could achieve a promising performance of prompt-based few-shot learned principlegrounded answer generation for the task. ples. 主な実験結果から,AISOCRATESは,課題に対する素早い数発の学習原理に基づく回答生成の有望な性能を達成できることが示唆された。 0.54
Our contribution is two-fold: First, we propose the ETHICAL QUANDARY GQA task, which does not entail a single definite answer for each ethical question; instead, distinct answers exist depending on underlying ethical principles. まず、倫理的な4次gqaタスクを提案し、それぞれの倫理的質問に対して明確な回答を1つも含まない。
訳抜け防止モード: 私たちの貢献は2つあります まず,第1に,第1のQUANDARY GQAタスクを提案する。 倫理的な問題に対して 1つの明確な答えを その代わりに、根底にある倫理的原則によって異なる答えが存在する。
Secondly, we introduce AISOCRATES, which uses the promptbased few-shot learning approach with two-step prompting to answer ethical quandary questions with multiple ethical perspectives. 第二に、AISOCRATESを導入し、複数の倫理的視点で倫理的4つの疑問に答えるよう促す2段階のプロンプトベースの少ショット学習アプローチを導入する。 0.50
2 ETHICAL QUANDARY GQA Task Setup We investigate a model’s ability to answer ethical quandaries with multiple perspectives based on different underlying ethical principles. 2 Ethical QUANDARY GQA Task Setup 我々は、モデルが倫理的四分儀に様々な倫理的原則に基づいて複数の視点で答える能力について検討する。
訳抜け防止モード: 2 Ethical QUANDARY GQA Task Setup モデルの性能の検討 様々な倫理的原則に基づいて 様々な視点で 倫理的四分儀に答えるのです
Given the ethical quandary question Q in context, the model is expected to generate a freeform text answer(s) A in a paragraph(s). 文脈における倫理的四項質問Qを考えると、このモデルは段落Aでフリーフォームテキスト回答を生成することが期待される。
訳抜け防止モード: 文脈における倫理的4次質問Qを考えると、そのモデルは期待されている to generate a freeform text answer(s ) A in a paragraph(s)
In this task, the ethical quandary question consists of context (c) and a question sentence (q), as illustrated in Table 1. このタスクでは、倫理的な第四次質問は、表1に示すように、文脈(c)と質問文(q)からなる。 0.69
The context includes details of the situation (e g , narrator details, a specific event, involved parties, a particular condition) from the perspective of a narrator in the form of text paragraphs. 文脈には、テキストの段落の形でナレーターの観点から、状況の詳細(ナレーターの詳細、特定の出来事、関係者、特定の状況)が含まれている。 0.60
Ethical quandary refers to a perplexity arisen by a situation in which it is hard to decide what to do morally, and, in a more strict sense, an ethical dilemma where neither of possible choices unambiguously acceptable. 倫理的四分法(Ethical quandary)とは、道徳的に何をするかを決めることが難しい状況によって生じる難易度を指し、より厳密な意味では、どちらの選択肢も明白に受け入れられない倫理的ジレンマである。 0.59
Thus, ethics takes a role to provide grounds for resolving the perplexity or したがって、倫理は、難解性を解決するための根拠を提供する役割を担っている。 0.47
Figure 1: Illustration of our proposed ethical quandary question answering system, AISOCRATES. 図1: 提案する倫理的質疑応答システム, AISOCRATESの図示。 0.67
There are two steps: 2つのステップがあります 0.71
1) principle selection 2) principle-grounded answer generation. 1)原則選択 2)原理的答え生成。 0.78
The principle selection can be done either by a human or model-based (automated). 原則の選択は人間またはモデルベース(自動化)で行うことができる。 0.87
Then, the final answer A is obtained by two consecutive generations with the previously selected principles, <p1, p2>, so the answer contains multiple perspectives as addressing the quandary. そして、最終回答Aは、予め選択された原則<p1,p2>で2世代連続して得られるので、その答えは、四分儀に対処する複数の視点を含む。 0.62
# of words / sample # of sentences / sample # of data samples 単語の#/文のサンプル#/データサンプルのサンプル# 0.69
Quandary 120.0 ± 76.0 7.1 ± 3.9 Quandary 120.0 ± 76.0 7.1 ± 3.9 0.29
Answer 205.8 ± 83.0 11.2 ± 4.6 答え 205.8 ± 83.0 11.2 ± 4.6 0.50
1,295 Table 2: NYT-Ethicist data statistics 1,295 表2:NYT-Ethicistデータ統計 0.55
make a decision in such situation, as conceived of as moral rules or principles (Pincoffs, 1971). 道徳的規則または原則として考えられたような状況で決定する(Pincoffs, 1971)。 0.82
There is no single “correct” answer to such an ethical quandary question, like other open-ended questions. このような倫理的な4次質問に対する“正しい”回答は、他のオープンエンドの質問のように存在しません。 0.52
Instead, depending on the ethical principles leveraged to address the quandary, multiple conflicting valid answers exist. その代わり、倫理的原則に基づいて四分儀に対処し、複数の矛盾する有効な答えが存在する。 0.53
Thus, a clear-cut answer that everyone agrees with is difficult to formulate (i.e., yes/no or right/wrong). したがって、誰もが同意する明確な答えは定式化が難しい(yes/no または right/wrong)。 0.75
Dataset New York Times Ethicist Columns (NYTEthicist) is a set of weekly columns on ethical quandaries written by professional philosophers. Dataset New York Times Ethicist Columns (NYTEthicist) は、プロの哲学者によって書かれた倫理的四分儀に関する週刊コラムである。 0.66
Each quandary is sent from a reader, describing a complex situation and a question arising from it. 各四分儀は読者から送られ、複雑な状況とそれに起因する質問を記述する。 0.63
A corresponding answer to the quandary is written by a philosopher based on an ethical principle(s) (not always explicitly mentioned) and usually provides multiple perspectives for the situation to address the question. 四分儀に対応する答えは、倫理的原理(必ずしも明記されていない)に基づいて哲学者によって書かれ、通常、問題に取り組むための状況に対する複数の視点を提供する。 0.69
Since NYT-Ethicist provides philosopher-written answers, this dataset is useful for comparing machine-generated answers against human answers. NYT-Ethicistは哲学者による回答を提供するため、このデータセットは機械による回答と人間の回答を比較するのに有用である。 0.52
We collected 1,295 pairs of {quandary, answer from a philosopher} from the 1,295組の『quandary, answer from a philosopher』を the から収集した。 0.68
NYT website,2 using BeautifulSoup software.3 NYT website,2 using BeautifulSoup software.3 0.35
The statistics for lengths of text are given in Table 2. テキストの長さの統計は表2で示される。 0.80
3 Methodology 3.1 AISOCRATES Principles in ethics are statements expressing reasons for or against an action. 3 方法論 3.1 倫理の原則は、行動の理由または反抗を表す言明である。 0.72
Different principles focus on different aspects of the same situation to judge what is ethical and correct (Bass et al , 1999; Forsyth and Pope, 1984). 異なる原則は、倫理的かつ正しいかを判断するために同じ状況の異なる側面に焦点を当てている(Bass et al , 1999; Forsyth and Pope, 1984)。 0.83
Thus, different ethical principles result in distinct and even contradictory answers to the same ethical quandary question. したがって、異なる倫理原則は、同じ倫理的4つの疑問に対して、明確で矛盾する答えをもたらす。 0.54
Inspired by the characteristics of the ethical quandaries, we propose AISOCRATES, which can explicitly 倫理的四分儀の特徴に触発され,明快なAISOCRATESを提案する。 0.55
i) retrieve or generate all ethical principles that are relevant to the given ethical quandary and 一 所定の倫理的四分儀に関連するすべての倫理的原則を回収又は生成すること 0.56
ii) generate principle-grounded multiperspective answers. 二 原則的マルチパースペクティブな回答を生成すること。 0.43
3.2 Principle Provider The principle pool for addressing ethical quandaries is composed of ethical principles from western/eastern ethical theories and rules-of-thumb (RoT). 3.2 原則プロバイダ 倫理的四分儀に対処するための原則プールは、西と東の倫理理論とルール・オブ・サンプ(RoT)の倫理原則で構成されている。 0.52
The ethical principles are theoretical and broadly described so as to apply to various contexts and situations. 倫理的原則は、様々な文脈や状況に適用するために理論的に広く記述されている。 0.70
In contrast, the RoTs, which can be considered as informal principles, are based 対照的に、非公式の原則とみなされるRoTは、ベースとなっている。 0.61
2https://www.nytimes .com/column/ 2https://www.nytimes .com/column/ 0.17
the-ethicist; We crawled data from 7 May 2006 to 2 November 2021. 2006年5月7日から2021年11月2日までのデータ収集を行った。 0.52
A column page from a date contains two to three pairs of {quandary, answer from the philosopher} 日付のコラムページは,2対から3対のクアンダリー,哲学者からの回答を含んでいる 0.69
3https://www.crummy. com/software/Beautif ulSoup/ 3https://www.crummy. com/software/Beautif ulSoup/ 0.15
on practical experience and describe an approximate judgment on the action in a specific context or situation. 特定の状況や状況において、実際の経験と行動に関する近似的な判断を記述すること。 0.67
For the RoTs, we utilize the SOCIALCHEMISTRY (Forbes et al , 2020) and MORALSTORY (Emelin et al , 2020) datasets, which have a short real-life context and corresponding annotated RoTs. RoT には,短い実生活環境とそれに対応する注釈付き RoT を持つ SOCIALCHEMISTRY (Forbes et al , 2020) と MORALSTORY (Emelin et al , 2020) データセットを利用する。 0.83
To illustrate with an example, for the situation “Running the blender at 5am will wake up my neighbors, but I need it for my breakfast,” one of the possible relevant ethical principles is “The morality of an action depends on the action’s outcome or result” (consequentialism), while one of the possible RoTs is “You have the right to prepare food when you need to,4” which is more contextspecific. 例えば、“午前5時にブレンダーを実行すると隣人が目を覚ますが、朝食にはそれが必要だ”という状況では、関連する倫理的原則の1つとして、“行動の道徳は行動の結果や結果に依存する”(帰結主義)が挙げられます。
訳抜け防止モード: 例を挙げるならば,“状況”です。 午前5時にブレンダーを走らせる 隣人の目を覚ましますが 私は朝食にそれが必要です。 関連する倫理的原則の1つに「行動の道徳は行動の結果に依存する」というものがある。 or result ” (consequentialism )、一方、"you have the right" である。 必要ならば,“4”というコンテキストに特化した食べ物を用意してください。
By combining both in the pool, we have access to the different granularities of ethical principles. プールで両方を組み合わせることで、倫理的な原則の異なる粒度にアクセスできるのです。 0.73
Choice of Principle Provider – Human or Model The principle(s) can be provided by a human or a model as illustrated in Figure 1. 原則提供者の選択 - 人間またはモデル 原則は、図1に示すように、人間またはモデルによって提供される。 0.78
For the model choice of human provider, humans can freely provide relevant ethical principles or RoTs for answering the target ethical quandary question. 人間の提供者のモデル選択のために、人間は対象の倫理的4つの疑問に答えるために、関連する倫理的原則またはRoTを自由に提供することができる。 0.45
This option is a safety measure to ensure the existence of an agent for the machine generation (i.e., the person liable for any potential risk or harm derived from the model generation) and to provide human-in-the-loop moderation of model behavior. このオプションは、機械生成のためのエージェント(すなわち、モデル生成から引き起こされる潜在的なリスクや害に責任を負う人)の存在を保証するための安全対策であり、モデル動作の人間-ループ間モデレーションを提供する。 0.81
For the model-based principle provider, we first form principle candidates pool using both retrieval and generative techniques to maximize the recall of relevant principles. モデルに基づく原則提供者に対しては,まず,検索法と生成法の両方を用いて原則候補プールを形成し,関連する原則のリコールを最大化する。 0.66
This principle “candidates” pool is a set of the shortlisted relevant principles out of the principle pool mentioned in the beginning of this subsection. この“候補”プールは、このセクションの冒頭で述べた原則プールから外れた、短くリストされた関連する原則のセットです。 0.74
Then, two most relevant and contrasting principles are automatically selected out of the pool, utilizing relevance scorers, which will be explained later in details. 次に、最も関連性があり、対照的な2つの原則が自動的にプールから選択され、関連するスコアラーを使用します。 0.67
5 First, the principle candidates pool is formed as follow: 5 第一に原則候補プールを次のように形成する。 0.76
• The retrieval method selects the top-10 RoTs by calculating semantic textual similarity between the contexts from SOCIALCHEMISTRY and MORAL-STORY and the context of a ethical quandary test sample. • 検索方法は,SOCIALCHEMISTRY と MORAL-STORY の文脈と倫理的4次テストサンプルの文脈との意味的テキスト類似性を計算することにより,トップ10のRoTを選択する。 0.69
The similarity is assessed by using 類似性は使用によって評価される 0.68
4The example is from (Forbes et al , 2020) 5Disclaimer: It is important to note that this automatic selection should not be directly used in real-application due to ethical concerns. 4 例: (forbes et al , 2020) 5 disclaimer: 倫理上の懸念から、この自動選択が実際のアプリケーションで直接使用されるべきではないことに注意すべきです。 0.78
We advise researchers to only use the automated option for investigating the upper bound of LLMs’ ability in ETHICAL QUANDARY GQA ETHICAL QUANDARY GQAにおけるLLMs能力の上限を調査するための自動オプションのみを使用することを推奨する。 0.70
the cosine-similarity score between SentenceBERT (Reimers and Gurevych, 2019) embeddings. SentenceBERT(Reimers and Gurevych, 2019)の埋め込みのコサイン類似度スコア。 0.73
• The generative method makes the candidate pool using the fine-tuned RoT generator model from Forbes et al (2020) and promptbased few-shot learning. • 生成法は、forbes et al (2020) の微調整ロート生成モデルと、プロンプトベースの少数ショット学習を用いて候補プールを生成する。 0.73
The RoT generator takes the context as an input and generates RoTs based on different moral foundations. RoTジェネレータはコンテキストを入力として、異なる道徳的基礎に基づいてRoTを生成する。 0.71
We input the ethical quandary of the test sample to the model and include the generated RoTs in the pool. テストサンプルの倫理的四項をモデルに入力し、生成されたRoTをプールに含める。
訳抜け防止モード: テストサンプルの倫理的四項をモデルに入力する そして、生成されたRoTをプールに含めます。
With prompt-based fewshot learning, we generate principles by asking for relevant ethical principles to answer the question with two-shot samples with the prompt “Context: {<ethical quandary>} Q: What are the ethical principles to consider in the situation of Context? プロンプトベースのマイトショット学習では,関連する倫理的原則を2ショットのサンプルで求めて,“context: {<ethical quandary>} q: コンテキストの状況において考慮すべき倫理的原則は何でしょう? 0.72
\n A: This case illustrates several ethical principles. \n A: このケースはいくつかの倫理的原則を示しています。 0.52
\n1.” We adopt the model generation pattern of answering with “This case illustrates several ethical principles” as a part of the prompt so that the model can be encouraged to perform the task. は『1』。 このケースでは、モデルがタスクの実行を奨励できるように、プロンプトの一部として“いくつかの倫理的原則を示す”というモデル生成パターンを採用しています。 0.64
Then the generated ethical principles are processed to be added into the pool of principle candidates. 次に生成された倫理原則を処理して、原則候補のプールに追加する。 0.71
Compared to the retrieval method, the generative method enables us to have more context-specific ethical principles or RoTs as the models take the context as input while the retrieval method retrieves the most approximated principles from comparison with the existing context. 検索手法と比較すると,モデルがコンテキストを入力として捉えているのに対して,検索手法は既存のコンテキストとの比較から最も近似された原則を検索するので,より文脈固有の倫理的原則やRoTを実現できる。 0.72
Next, all the retrieved and generated principle candidates are then included in the principle candidates pool. 次に、検索および生成された原則候補はすべて、原則候補プールに含まれる。 0.78
Out of these relevant candidates, we select two principles for LLM answer grounding to encourage the generation to contain multipleperspectives . これらの候補の中から,LLM回答基盤の原則を2つ選択し,複数のパースペクティブを含む生成を促す。 0.65
To select these two opposing principles, we conduct the following final step: the highest-ranking principle is selected by the voting result from a suite of off-the-shelf scorers – TF-IDF, Sentence-BERT and T0 model (Sanh et al , 2021) – which calculate the relevance score between the ethical quandary and candidate principles. これら2つの対立する原則を選択するために、我々は次の最終段階を行う: 最高位原理は、倫理的4つの原則と候補の原則の間の関連性スコアを計算する、既成のスコアラー(TF-IDF、Sentence-BERT、T0モデル(Sanh et al , 2021)の組から投票結果によって選択される。 0.62
The topranking principle is denoted as p1. 上位の原理は p1 と表される。 0.67
To obtain one more principle, we select the most semantically distinct principle from p1 out of the top-10 candidate principles and denote it as p2. さらに1つの原則を得るため、最も意味的に区別される原則をトップ10の原則の中からp1から選択し、p2と表記する。 0.66
In this way, we expect to have relevant to context but contrasting principles. このように、コンテキストに関連するが原則とは対照的なものになるでしょう。 0.60
Using the TF-IDF and Sentence-BERT scorers, we extract features of the candidate principles and the context of the testing sample and calculate the cosine-similarity between them. TF-IDF と Sentence-BERT スコアラーを用いて,候補原理とテストサンプルのコンテキストの特徴を抽出し,それらの相似性を計算する。 0.79
Then, each of the principles is ranked in descending order of the similarity score. そして、それぞれの原則を類似度スコアの下位順にランク付けする。 0.64
Meanwhile, for the T0 model, which is known for its powerful zero-shot generalization ability in unseen NLP tasks by utilizing prompts, we provide the prompt “Context: {context} Principle: {principle} \n Is the principle relevant to the context? 一方、プロンプトを利用して見えないNLPタスクにおける強力なゼロショット一般化能力で知られているT0モデルに対しては、プロンプト "Context: {context} Principle: {principle} \n" は文脈に関連があるか? 0.78
” for each of the principles and calculate the perplexity score of “yes”. それぞれの原則について”yes”のパープレキシティスコアを計算します。 0.59
Then, the principles are ranked in ascending order of the perplexity score. そして、その原理を難易度スコアの上昇順にランク付けする。 0.53
Finally, three ranks are assigned for each of the candidate principles, and the final rank is obtained by summing the three separate ranks. 最終的に、候補者の原則に3つの階級が割り当てられ、最終階級は3つの異なる階級をまとめて得られる。
訳抜け防止モード: 最後に、それぞれの候補原則に3つの階級が割り当てられる。 そして 最終順位は 3つの別格を まとめて得られる。
The smaller the number is, the more prioritized the principle is to be selected. 数値が小さいほど、より優先順位付けされた原則が選択される。 0.74
3.3 Principle-Grounded Answer Generator 3.3 原理型アンサージェネレータ 0.54
Given relevant principles from the first step, we adopt prompt-based few-shot learning for principlegrounded answer generation. 最初のステップから関連する原則を考慮し、原理的回答生成に即時に基づく数発の学習を採用する。 0.61
The prompt-based few-shot learning teaches the model with only a few input-output pair samples as a natural language prompt concatenated with the input of the test sample. プロンプトベースの数ショット学習は、テストサンプルの入力と結合した自然言語プロンプトとして、少数のインプット出力ペアサンプルでモデルを教える。 0.79
The prompt-based learning does not involve any parameter tuning and is a good way to test the in-nature ability of pre-trained LLMs with a minimum guidance about the task. プロンプトベースの学習はパラメータチューニングを一切含んでおらず、タスクに関する最小限のガイダンスで事前学習されたLLMの未熟能力をテストする良い方法である。 0.75
Specifically, we utilize two-shots from the training sample for learning so as to avoid the model learning one specific principle. 具体的には,トレーニングサンプルからの2ショットを学習に利用することで,1つの原則を学習するモデルを避ける。 0.75
Each ethical quandary test sample has ethical quandary <Q> and two relevant contrasting ethical principles (<p1>, <p2>), which are provided from the previous procedure. 各倫理的4次テストサンプルは, 前回の手順から得られた, 倫理的4次テストサンプル<Q>と2つの関連する対比的倫理原則(<p1>, <p2>)を有する。 0.53
We have several elements in the input to get the output A. Instead of simply concatenating the input-output, We manually craft prefix prompts utilizing templates to format the input for the prompt learning. 入力出力を単純に結合するのではなく、テンプレートを利用してプレフィックスプロンプトを手作業で作成し、入力を素早い学習のためにフォーマットする。
訳抜け防止モード: 入力にいくつかの要素があり、出力 a を得ることができます。 テンプレートを活用したプレフィックスプロンプトを手作業で作成し,入力をプロンプト学習用にフォーマットする。
Since there is more than one ethical principle, we propose to do multistep prompting of the LLM to incorporate two principles in the final generated answer A addressing the ethical quandary, as illustrated in Figure 1. 複数の倫理原則が存在するため、第1図に示すように、最終生成された回答Aに2つの原則を組み込むため、LLMを多段階的に推進することを提案する。 0.70
For the first answer with <p1>, we utilize PROMPT1, defined as “Question: <Q> \n Principle: <p1> \n Answer: According to the Principle,’. p1> の最初の回答は、prompion1 を使っており、これは "question: <q> \n principle: <p1> \n answer: with the principle,’ と定義されている。 0.81
Given the two-shot examples (2-Shot) and the test ethical quandary sample with the first template, the model generates the output sequence A1 by sam- 2ショットの例(2ショット)と第1テンプレートによるテスト倫理的4次サンプルを考えると、モデルはサムによって出力シーケンスA1を生成する。 0.70
pling from pling (複数形 plings) 0.10
P(A1|PROMPT1, 2-Shot), P(A1|PROMPT1, 2-Shot) 0.35
(1) where 2-Shot is prepared using the first template PROMPT1 with the corresponding human-written answer concatenated. 1)第1テンプレートProMPT1を用いて、2-Shotを作成し、対応する人文回答を連結する。 0.61
Then, we continue answer generation with the second step, prompting with the second ethical principle <p2> to obtain the second answer A2 using the second template PROMPT2 “On the other hand, according to the principle of <p2>”. 次に,第2のステップで回答生成を継続し,第2の倫理原理<p2>を用いて第2のテンプレートProMPT2を用いて第2の回答A2を得る。
訳抜け防止モード: 次に第2ステップで回答生成を継続し,第2の倫理原理<p2>を推し進める。 一方、第2のテンプレート PROMPT2 を使って第2の回答 A2 を得る。 p2 > ” の原則に従っている。
Given two-shot training samples (2-Shot), the ethical quandary sample (PROMPT1) and the first generated answer (A1), the model generates the second answer A2 by sampling from 2ショットトレーニングサンプル(2ショット)、倫理的4次サンプル(PROMPT1)および第1生成回答(A1)が与えられた場合、モデルがサンプリングにより第2回答A2を生成する。 0.75
(2) P(A2|PROMPT2, A1, PROMPT1, 2-Shot). (2) P(A2|PROMPT2, A1, PROMPT1, 2-Shot)。 0.53
We expect this consecutive prompting to allow the model to incorporate the previous answer A1 when generating A2 so that the overall answer will be more coherent. 我々は、この連続的なプロンプトにより、モデルがA2を生成する際にA1を組み込むことで、全体の答えがより一貫性を持つようになることを期待する。 0.59
In the end, the final answer A is obtained by concatenating generations A1 and A2. 最後に、最終回答Aは、世代A1,A2を連結して得られる。 0.69
4 Preliminary Case Study 4.1 Distinct Answers Grounded on Different 4 予備事例研究 4.1 異なる回答に基づく個別回答 0.75
Principles This preliminary exploration evaluates the model’s ability to generate distinct output answers based on the input principle and context. 原則 この予備調査は、入力の原則とコンテキストに基づいて、異なる出力応答を生成するモデルの能力を評価する。 0.72
If irrelevant ethical principles are provided, the answer cannot be correctly generated – for example, the principle "You should avoid telling lies," is not applicable to the trolley problem. 無関係な倫理原則が与えられた場合、その答えは正しく生成できない。例えば、「嘘を言うべきではない」という原則はトロリー問題には適用されない。 0.74
Therefore, to ensure the provided principle is noise-free and context-relevant, principles for this experiment are carefully written and provided by a human. したがって、提供された原則がノイズフリーでコンテキスト関連であることを保証するため、この実験の原則は慎重に書かれ、人間によって提供される。 0.60
We select five ethical quandaries available online. オンラインで利用可能な倫理的四分儀を5つ選びます。 0.38
An example can be found in Table 1. 例を表1に示すことができる。 0.76
For each ethical quandary test sample, two ethical principles (p1, p2) are manually selected and corresponding answers (Ap1, Ap2) are generated with the PROMPT1 described in Section 3.3. 各倫理4次テストサンプルについて、2つの倫理原則(p1,p2)を手動で選択し、3.3に記載されたプロンプト1で対応する回答(ap1,ap2)を生成する。 0.56
In Table 3, the examples (p1, Ap1) and (p2, Ap2) answering an ethical quandary in Table 1 are illustrated. 表3では、表1の倫理的四項に答える例(p1,Ap1)と(p2,Ap2)が示される。 0.71
Then, the two generated answers for each ethical quandary sample are separately evaluated by a professional philosopher with the following criteria mainly: 次に、倫理4次サンプル毎に生成された2つの回答を、主に以下の基準で専門家哲学者によって別々に評価する。 0.59
1) distinct output answers are based on input principle and context and 1)異なる回答は、入力原理と文脈に基づいており、 0.63
2) answers are consistent with the principle inputs. 2)回答は原則入力と一致している。 0.80
Principle 1 (p1): A smaller sacrifice is morally justifiable for the greater good. 原則1(p1): より小さな犠牲は、より大きな利益のために道徳的に正当化される。 0.64
Model Generated Answer 1 (Ap1): The short answer is yes. model generated answer 1 (ap1): 短い答えはyesである。 0.83
Since vaccination has large benefits, it can outweigh some expected harms. ワクチン接種には大きな利益があるので、予想される損害を上回る可能性がある。 0.43
To put it another way: Vaccination is a choice. 別の言い方をすれば、ワクチンは選択です。 0.66
Mandatory vaccination is interference with that choice. 強制ワクチン接種はその選択に干渉する。 0.68
As of yet, no medical authority can provide an assurance that 100 percent of those who receive the vaccine will not be injured by it. 現時点では、ワクチンを受けた人の100%が怪我をしないという保証を、医療機関は提供できない。 0.60
Let’s suppose, though, that the public health authorities could inform us that the risk of the flu vaccine is 1 in 10,000. しかし、公衆衛生当局がインフルエンザワクチンのリスクは1万分の1だと私たちに知らせるかもしれないとしよう。 0.75
With many millions of vaccinations administered each year, we can anticipate that about 10,000 people will be injured. 毎年何百万ものワクチンが投与され、約1万人が負傷すると予想されている。 0.66
Is that risk “justifiable?” そのリスクは“正当化可能か? 0.67
I would say “yes.” 私は「はい」と言うでしょう。 0.75
Nor can we be confident that those who have received the vaccine have thereby become “protected.” また、ワクチンを受けた者が「保護された」と確信することもできない。 0.69
The epidemiologist Rudi Fortson points out that the vaccine will reduce, but not eliminate, the risk of contracting the disease. 疫学者のルディ・フォートソン(rudi fortson)は、このワクチンは病気のリスクを減少させるが排除しないと指摘した。 0.53
Let’s say, for example, that the efficacy of the vaccine is 80 percent, meaning those who receive it are 80 percent less likely to become infected. 例えば、ワクチンの効果が80%であることから、ワクチンを受けた人は感染する確率が80%低いということにしましょう。 0.63
Principle 2 (p2): Individual’s freedom should be considered as the top priority. 原則2(p2): 個人の自由を最優先事項とするべきである。 0.78
Model Generated Answer 2 (Ap2): The Value demands individual’s freedom as the top priority. モデル生成回答2(ap2): 価値は個人の自由を最優先事項として要求する。 0.81
Especially when individuals are at the risk of serious harm, it is not acceptable for the government to force them to do something that may endanger their health and safety. 特に個人が深刻な危害の危険にさらされている場合、政府は健康と安全を脅かすようなことをするよう強制することは許されない。 0.81
A pragmatic approach is needed so that governments can encourage people to get vaccinated without completely interfering with their freedom. 政府が彼らの自由を完全に干渉することなく、予防接種を奨励できるように、実践的なアプローチが必要である。
訳抜け防止モード: 実践的なアプローチが必要です 政府は国民に 予防接種を奨励できる 自由に完全に干渉することなく
Governments should provide more welfare support and subsidies to poor citizens and avoid placing excessive restrictions on their personal freedom. 政府は貧しい市民に福祉支援と助成金を提供し、個人の自由に過剰な制限を課すことを避けるべきである。 0.60
Table 3: Distinct answers generated by principle-guided model based on different ethical principles, obtained from preliminary exploration. 表3: 予備探索から得られた異なる倫理原理に基づく原則誘導モデルによって生成される個別回答。 0.76
The answers are in response to the ethical quandary introduced in Table 1. 回答は、表1で導入された倫理的四分儀に反応する。 0.59
4.2 Analysis with Philosophical Reference Based on the analysis with the philosophical reference, the model with few-shot prompt-based learning can generate different answers based on the ethical principles. 4.2 哲学的基準による分析 哲学的基準による分析に基づいて, 数発のプロンプトに基づく学習モデルでは, 倫理的原理に基づいて, 異なる解を生成できる。 0.72
Here, we evaluate whether the model generates the expected output based on the provided principle. ここでは、提案した原理に基づいて、モデルが期待出力を生成するかどうかを評価する。 0.65
For instance, given a context, the question “Is XYZ behavior ethical?" can be answered “Yes” and/or “No” depending on the specific ethical principle. 例えば、ある文脈が与えられた場合、「XYZの行動倫理」という質問は、特定の倫理原理によっては「Yes」や「No」と答えられる。 0.69
The model showed different behaviors most of the time depending on the ethical principles and correctly answers according to the provided principles. モデルはほとんどの場合、倫理的原則によって異なる振る舞いを示し、提供された原則に従って正しく答える。 0.73
On the other hand, we also note cases where the generated answer does not provide a clear yes-or-no answer. 一方、生成した回答が明確なイエスまたはノーの回答を提供していない場合についても留意する。
訳抜け防止モード: 一方 我々はまた 生成された回答は、明確なyes - or - no answer を提供しない。
Instead, it provides an explanation to address the question of the ethical quandary, as shown in Table 3. 代わりに、表3に示すように、倫理的な第四次問題に対処するための説明を提供する。 0.63
In terms of consistency, most of the answers showed consistency to the input principle. 整合性については,ほとんどの回答は入力原理に整合性を示した。 0.64
The generated answers show that the model understands the ethical quandary context and links the ethical principle. 生成された回答は、モデルが倫理的四項文脈を理解し、倫理的原理を結びつけることを示している。
訳抜け防止モード: 生成された答えは このモデルは倫理的第四次文脈を理解し、倫理的原則を関連付ける。
For instance, for an ethical principle (p1), “A smaller sacrifice is morally justifiable for the greater good,” the generated answer even includes numerical reasoning (“1 in 10000”) to quantify the verbal input “small risk.” 例えば、倫理的原則(p1)では、「より小さな犠牲はより大きな善に対して道徳的に正当化できる」とされ、その答えには「小さなリスク」という動詞の入力を定量化する数値的推論(「1 in 10000」)さえ含まれている。 0.70
Another illustration of the model-generated answer’s consistency is the answer that sticks with its “freedom-first” input principle (p2) and repeats it in every sentence. モデルが生成した答えの一貫性の別の例は、"freedom-first"入力原則(p2)に固執し、すべての文でそれを繰り返す答えである。 0.72
It is stated negatively as government should “avoid placing excessive restrictions on their personal freedom” in the last sentence in (Ap2). 政府は、前文(ap2)において「個人の自由に過度な制限を課すべきではない」と否定的に述べられている。
訳抜け防止モード: 政府として否定的に述べられている。 彼らの個人の自由に過剰な制限を課すことを避ける」 the last sentence in (Ap2 ) .
However, it is noted that the model doesn’t always achieve consistency. しかし、それは モデルが常に一貫性を実現するとは限らない点に注意が必要だ。 0.61
Although it can answer based on the input, it sometimes fails when elaborating the rationale/logic based on the input. 入力に基づいて答えることができるが、入力に基づいて合理化/論理化を行うと失敗することがある。 0.60
The answer sometimes discusses the divergent points of concern that the ethical quandary question seeks to resolve, resulting in that the question, the principle, and the answer becoming muddled. この答えは、倫理的な第四次質問が解決しようとする関心の相違点を論じる場合があり、その結果、質問、原理、そして答えが混乱する結果となる。
訳抜け防止モード: この答えは、倫理的な第四次問題が解決しようとする関心の相違点をしばしば論じる。 その結果、質問、原則、そして答えが乱雑になるのです。
Although the model can generate a distinct answer with some consistency, some weaknesses are investigated. モデルはある程度の一貫性を持って明確な答えを生成できるが、いくつかの弱点が研究されている。 0.52
The generated answer begins as being grounded on the input principle but strays further from the topic paragraph-by-paragra ph. 生成された回答は入力原理に基づいて始まるが、トピックの段落からさらに遠ざかる。 0.65
It is not surprising that the longer the model performs generation, the less relevant its answer gets (losing attention). モデルが生成する時間が長ければ長いほど、その答えが(注意をそらす)意味が薄くなることは驚くにあたらない。 0.61
The model-generated answers sometimes lack relevance and attention to detail. モデルが生成する答えは、しばしば詳細への関連性や注意を欠く。 0.60
Also, extra information (not necessarily factually wrong) and re-asking and re-answering the question make the generated output redundant in paragraph/writing organization. また、余分な情報(事実的に間違っているとは限らない)と質問の再帰と再回答は、生成した出力を段落/書き込み組織で冗長にする。 0.54
Understanding the model’s ability in distinct answer generation alongside its weakness in a consistency and logical generation, we investigate the model’s ability to answer ethical quandaries from multiple perspectives with our proposed method in the following experiment. 一貫性と論理的生成の弱点と並行して、異なる回答生成におけるモデルの能力を理解するために、以下の実験で提案する手法を用いて、複数の観点から倫理的な四元数に答えるモデルの能力について検討する。 0.68
5 Experiments We conduct our main experiment to evaluate the ability of AISOCRATES to answer ethical quandary questions from multiple perspectives. 5 実験 我々は,aisocratesの倫理的質的質問に答える能力について,複数の観点から評価する実験を行った。 0.73
We assess the fully automated pipeline version of 完全に自動化されたパイプラインバージョンを評価する 0.64
AISOCRATES by automating the principle provider. 原則プロバイダの自動化によるAISOCRATES。 0.68
5.1 Experimental Setup For the experiment, we first split the dataset into train/dev/test (ratio of 80:10:10) sets. 5.1実験のセットアップ 最初にデータセットをトレイン/デベロップメント/テスト(80:10:10の比)に分割しました。 0.66
Although our method only needs a few samples for learning, we still make it into a full split, so fine-tuning small/medium-sized model methods could also be explored for ETHICAL QUANDARY GQA in the future. 提案手法は学習のためのサンプルをわずかにしか必要としないが,それでも完全な分割が可能であるため,将来的にはETHICAL QUANDARY GQAにも小型・中小型のモデル手法が検討される可能性がある。 0.62
We only take two samples from the train split for few-shot learning with our methodology. 列車のスプリットからサンプルを2枚だけ取り、数ショットの学習を方法論で行いました。 0.62
We then obtain an answer for each of the 130 test samples from AISOCRATES, which is backboned by one of the largest publicly available pre-trained LLMs – Jurassic-1 Jumbo (Lieber et al , 2021) with 178 billion parameters.6 次に、AISOCRATESから130の試験サンプルのそれぞれについて回答を得る。これは、最も広く公開されているLLMの1つ、Jurassic-1 Jumbo (Lieber et al , 2021)と178億のパラメータを持つ。 0.69
We mainly evaluate the model performance with a human evaluation due to the one-to-many nature of generation tasks. 我々は,生成タスクの1対1の性質から,モデル性能を人間評価で主に評価する。 0.77
The automatic metric with a reference is often limited in evaluating the desired quality in generations. 参照を持つ自動メトリックは、しばしば世代で望ましい品質を評価する際に制限される。 0.81
Moreover, as explained earlier, the ethical quandary question has multiple valid answers depending on the relevant ethical principles. さらに、先述したように、倫理的4次問題には、関連する倫理的原則によって複数の有効な答えがある。 0.48
This makes our evaluation more challenging with the automatic metrics. これにより、自動メトリクスでは評価がより難しくなります。 0.58
Thus, we need human judgment in the performance evaluation. したがって,評価には人間による判断が必要である。 0.67
For completeness, however, we also perform evaluation using the standard automatic metric (ROUGE) and show in Section 6 how there is a poor correlation with human judgment. しかし,完全性については,標準自動測度(ROUGE)を用いて評価を行い,第6節で人間の判断と相関が低いことを示す。 0.83
Evaluation Criteria We evaluate the model’s ETHICAL QUANDARY GQA ability with two most relevant metric for assessing the success of the Socratic answer generation: 評価基準 私たちは、ソクラティックな回答生成の成功を評価するための2つの最も関連する指標を用いて、モデルのETHICAL QUANDARY GQA能力を評価する。 0.72
• Multi-perspective: Answering an ethical quandary question from multiple perspectives is the main aim of our work. • マルチパースペクティブ: 複数の視点から倫理的4つの疑問に答えることが、我々の研究の主目的である。
訳抜け防止モード: •多視点 複数の観点からの倫理的4次問題への回答 仕事の主目的です。
The ability to provide more than one point of view to the ethical quandary can be interpreted as the model’s potential to carry out a deliberative discussion on the issue. 倫理的な四分法に対する複数の視点を提供する能力は、この問題について審議的な議論を行うモデルの可能性として解釈することができる。 0.67
It is important to ensure diverse ethical judgments through multipleperspective for answering ethical quandary question. 倫理的4つの疑問に答えるためには,多視点による多様な倫理的判断を確実にすることが重要である。 0.38
Moreover, it is unsafe for AI system to provide a single-sided authoritative normative judgments (Talat et al , 2021). さらに、aiシステムが単独の権威規範的判断(talat et al, 2021)を提供することは安全ではない。 0.68
We evaluate whether the model answers the quandary question from different angles. モデルが4次質問に異なる角度から答えるかどうかを評価する。 0.67
6Note that our methodology is model-agnostic although 6我々の方法論はモデルに依存しない。 0.48
we conducted experiment with Jurassic-1 Jumbo. ジュラシック1ジャンボ実験を行った。 0.64
Multi-perspective Coherence マルチパースペクティブコヒーレンス 0.71
AISOCRATES vs. NYT-Ethicist none win 11.54 25.38 20.00 7.692 AISOCRATES vs. NYT-Ethicist no win 11.54 25.38 20.00 7.692 0.28
loss 18.46 50.00 損失18.4650.00 0.29
tie 44.62 22.31 ネクタイ 44.62 22.31 0.39
Table 4: Win-tie-loss rates (%) for comparison between AISOCRATES (model-generated) and NYTEthicist (philosopher-written ) answers for evaluation criteria. 表4:win-tie-loss rate (%) aisocrates (モデル生成)とnytethicist (哲学執筆)の評価基準の比較。 0.78
Rates are in regard to the model performance against human-written answer. レートは、人間による回答に対するモデルパフォーマンスに関するものだ。 0.64
For instance, AISOCRATES wins 25.38%, ties 44.62%, and loses 18.46% of the time versus the NYT-Ethicist answer while 11.54% of the time neither of them is chosen to have multiple perspectives in the answer. 例えば、AISOCRATESは25.38%を獲得し、44.62%を結び、18.46%をNYT-エシシストの回答に比し、その11.54%は答えに複数の視点があるように選ばれていない。 0.72
• Coherence: We test whether the generated output is logically composed and connected while sticks with the focus of the ethical quandary question throughout. •コヒーレンス: 生成されたアウトプットが論理的に構成され、接続されているかどうかをテストします。 0.64
As the expected output is in form of paragraphs rather than a simple sentence, this criterion is also important as it is one of the core conditions for rational discourse writing. 期待される出力は単純な文ではなく段落の形式であるため、この基準は有理談話文の中核的な条件の1つとして重要である。 0.75
We conduct A/B testing judged by human annotators, in which we compare answers from AISOCRATES and NYT-Ethicist. aisocratesとnyt-ethicistの回答を比較し,人間の注釈者によるa/bテストを行った。 0.58
We blindly provide an ethical quandary and the two corresponding answers (AISOCRATES and NYT-Ethicist) to the annotators. 本研究は,アノテータに倫理的四項と対応する2つの回答(AISOCRATESとNYT-Ethicist)を盲目的に提供する。 0.53
To evaluate the two criteria, we ask the following questions of the annotators – “Which of the answers is addressing the ethical dilemma from multiple perspectives?” and “Which answer is more coherent?” この2つの基準を評価するために、アノテータの以下の質問を行う:「答えのどちらが複数の観点から倫理的ジレンマに対処しているか」と「答えはより一貫性があるか」である。
訳抜け防止モード: 2つの基準を評価する。 アノテータの次の質問 — “答えはどれか?” 複数の観点から倫理的ジレンマに対処しているのか?」 どの答えがより一貫性があるか?
The human annotator has a choice of {A, B, Both, None}, where each of the answers is randomly assigned with A or B tags. 人間のアノテータは {a, b, both, none} の選択を持ち、各回答は a または b タグでランダムに割り当てられる。 0.71
We report win-tie-loss rates for each criterion of AISOCRATES against philosopher-written NYT-Ethicist answers. 哲学者によるnyt-倫理的回答に対するaisocratesの基準に対するwin-tie-loss率を報告する。 0.43
5.2 Experimental Results Q1: Can AISOCRATES answer from multiple perspectives? 5.2 実験結果 Q1: AISOCRATES は様々な観点から答えられるか? 0.71
This is the aspect of most interest in ETHICAL QUANDARY GQA. これはETHICAL QUANDARY GQAにおける最も関心のある側面である。 0.70
As reported in Table 4, AISOCRATES provides the answer with multiple perspectives 70% of the time (the sum of win and tie cases), which is 6.92% more than the NYT-Ethicist answers do. 表4で報告されているように、AISOCRATESは、NYT-倫理主義者の回答よりも6.92%多い時間(勝利と結束の合計)の70%の視点で回答を提供する。 0.72
At almost half of the time, both answers (model-generated and human-written) are considered to have multiple perspectives (44.62%). ほぼ半分の時間に、回答(モデル作成と人間による)は複数の視点(44.62%)を持つと考えられている。 0.74
There is no statistically significant difference in wins for multiperspective provision between the NYT-Ethicist NYT-エシシスト間の多面的供給に対する利得に統計的に有意な差はない 0.61
[Ethical Quandary] My parents live in the South and are staunch Republicans. 私の両親は南部に住んでおり、頑固な共和党員です。 0.61
I usually don’t care about politics but lean Democratic and liberal. 私は普通政治を気にしませんが、リーン民主党とリベラルです。 0.65
I live in New York City and know that Obama will win the state handily with or without my vote. 私はニューヨークに住んでいて、オバマが私の投票の有無に関わらず、州に勝つことを知っています。
訳抜け防止モード: 私はニューヨークに住んでいて オバマは私の投票の有無に関わらず、州を巧みに勝ちます。
So is it O.K. for me to vote for Romney as a birthday present for my mother in lieu of buying her a gift? 母にプレゼントを買う代わりに誕生日プレゼントとしてロムニーに投票するのは私にとってO.K.だろうか? 0.74
AISOCRATES (modelgenerated) AISOCRATES(モデル生成) 0.89
NYT-Ethicist (philosopherwritten) NYT-Ethicist (複数形 NYT-Ethicists) 0.22
Of course it is. Even though it will mean nothing, you’re showing your mother how much you care for her. もちろんそうだ。 何も意味がないとしても、母親にどれだけ彼女を気にしているかを見せている。 0.60
That’s love. And if that’s on her calendar for her birthday, then it’s a present she deserves. それは愛だ。 そして、それが彼女の誕生日のカレンダーにあるなら、彼女にふさわしいプレゼントだ。 0.67
But if you really believe Obama is a better president, then I think you should vote for Obama. しかし、もし本当にオバマが良い大統領だと信じているなら、オバマに投票すべきだと思う。 0.64
You can show your appreciation in another way. 別の方法で感謝を示すことができます。 0.56
Take your mother to the voting booth and give her a big hug afterward. お母さんを投票ブースに連れて行って 後で大きな抱擁をして 0.77
That’s worth two votes to your mother. 母親に投票する価値は2つある。 0.64
From a different perspective, if you were really interested in your mother’s well-being, you’d vote for the best candidate, not just the one who offers the biggest material rewards. 別の見方をすれば、もしあなたが本当に母親の幸福に関心があるなら、最高の候補者に投票するでしょう。
訳抜け防止モード: 別の見方をすれば、もしあなたが本当に母親に興味があるなら、それは良いことです。 という。 最大の報酬を提供する人だけでなく、ベスト候補に投票する。
And this is no zero-sum game. これはゼロサムゲームではない。 0.74
Romney will cut taxes for every rate payer, not just your mother. ロムニーは母さんだけでなく、利率の支払いごとに税金を減らします。 0.61
This is a weird gift (and, frankly, kind of a dumb idea). これは奇妙な贈り物だ(率直に言って、馬鹿げた考えだ)。 0.72
But whom you vote for, or if you vote at all, is always your democratic prerogative. しかし、誰に投票するか、あるいは全く投票するかは、常にあなたの民主的信条です。 0.79
You can use whatever reasoning you want, including bad reasoning. 悪い推論など、好きな推論は何でも使えます。 0.64
Welcome to America. アメリカへようこそ。 0.86
Table 5: An illustration of the AISOCRATES (model-generated) answer providing multiple perspectives on the ethical quandary question with understanding of the context while having a low Rouge-1 F1-score (22.35). 表5:aisocrates(モデル生成)回答のイラストは、低ルージュ-1 f1-score (22.35) を持ちながら、文脈を理解しながら倫理的な四次問題に対する複数の視点を提供する。 0.64
In contrast, the NYT-Ethicist (philosopher-written ) answer suggests merely one perspective. 対照的に、NYT-Ethicist (Philosopher-written )の回答はただ一つの視点を示している。 0.51
answers and AISOCRATES answers. 回答とAISOCRATESの回答。 0.70
This indicates AISOCRATES can achieve comparable performance in providing multiple perspectives to answer the ethical quandary question. これは、AISOCRATESが倫理的4つの疑問に答えるために複数の視点を提供することで同等のパフォーマンスを達成できることを示している。 0.38
The two-step generation with two ethical principles might have achieved this result. 2つの倫理的原則を持つ2段階の世代はこの結果を得たかもしれない。 0.51
AISOCRATES can not provide multiple perspectives 27.27% of the time. AISOCRATESは27.27%の時間を複数の視点で提供できない。 0.68
For such cases, selected principles from the principle provider step convey a similar meaning to ethical principles. そのような場合、原則提供者ステップから選択された原則は、同様の意味を倫理的な原則に伝達する。 0.59
To elaborate, two ethical principles can sometimes have overlapping ideologies: “You should avoid telling lies” and “A person is honorable and moral by being honest”. 念入りに言うと、二つの倫理的原則は、しばしば重複するイデオロギーを持つことがある:「嘘をつくのを避ける」と「人は正直であることによって名誉と道徳的である」である。
訳抜け防止モード: 詳しく言うと、2つの倫理的原則は時に重複するイデオロギーを持つ :「嘘をつくのは避けなさい」と「正直であることは名誉で道徳的です」。
In such a scenario, our model tends to generate a common answer supported by multiple ethical principles. このようなシナリオでは、私たちのモデルは、複数の倫理的原則が支持する共通の答えを生み出しがちです。
訳抜け防止モード: このようなシナリオでは 私たちのモデルは 複数の倫理原則が支持する共通回答を生成する。
Q2: Can AISOCRATES compose coherent answers? Q2: AISOCRATESはコヒーレントな回答を構成することができるか? 0.54
Not surprisingly, the NYT-Ethicist answers, which are written by moral philosophers, are selected to be more coherent than those from AISOCRATES half of the time (50.00%). 当然のことながら、道徳哲学者によって書かれたNYT-倫理主義の回答は、AISOCRATESの回答の半分(50.00%)よりも一貫性がある。 0.64
About 42% of the time, the AISOCRATES answers are still considered coherent – more coherent (18.18%) or as coherent (21.21%) compared to the expertwritten answer. 約42%は、AISOCRATESの回答は、専門家が書いた回答に比べて、より一貫性(18.18%)、または一貫性(21.21%)であると考えられている。
訳抜け防止モード: AISOCRATESの回答の約42%は依然として検討されている。 コヒーレント より一貫性(18.18 %)、または一貫性(21.21 %)である。
This weakness in coherency compared to the multi-perspective criterion can be explained by several factors. このコヒーレンシーの弱さは、マルチパースペクティブな基準と比較すると、いくつかの要因によって説明できる。 0.46
As pointed out in the preliminary analysis, the machine generated answers show the weakness of the model losing attention or containing irrelevant or redundant content while building the arguments, even though the answer starts by aligning with the provided principle in the beginning. 予備分析で指摘されているように、機械が生成した回答は、提供された原理を初めから整合させ始めたとしても、注意を失うモデルや、議論を構築しながら無関係または冗長な内容を含む弱点を示す。 0.65
There is no explicit guidance or learning for improving coherence in the current methodology of AISOCRATES, except for the provision of coherent examples in the few-shot samples AISOCRATESの現在の方法論におけるコヒーレンス向上のための明確なガイダンスや学習は、いくつかのサンプルにおけるコヒーレントな例の提供を除いて存在しない。 0.66
and the consecutive two-step generation rather than two separate generations. そして、2つの別々の世代ではなく、連続する2段階の世代。 0.55
This points to potential research on enhancing the reasoning capability of the model. これにより、モデルの推論能力の向上に関する潜在的な研究が示される。 0.71
6 Analysis and Discussion 6.1 Automatic Metric and Model 6 分析と議論 6.1 自動計測とモデル 0.94
Performance Besides the human evaluation, we score the generated answer with the automatic metric ROUGE (Lin, 2004) (Table 6) in reference to expert-written NYT-Ethicist answers. 演目 人的評価の他に、専門家によるNYT-エシシズムの回答を参照して、自動計量ROUGE (Lin, 2004) (Table 6) を用いて生成した回答をスコアリングする。 0.52
We mainly investigate F1-scores to understand how much content of the NYT-Ethicist answers and how much distinct content exists in AISOCRATES’s answers However, like other open-ended generation tasks (e g , story generation), the reference-based metric cannot always be the absolute evaluation standard because of its one-to-many nature. AISOCRATESの回答にどの程度のコンテンツが存在するかを理解するために、主にF1スコアを調査するが、他のオープンな生成タスク(例えば、ストーリー生成)と同様に、基準ベースのメートル法は、その一対多の性質のため絶対的な評価基準にはならない。 0.68
Moreover, Given that an ethical quandary can be answered with different ethical principles, if the answers from AISOCRATES and NYT-Ethicist do not share the same underlying ethical principles, they would still have low n-gram overlapping while containing multiple perspectives and being coherent. さらに、倫理的四分儀が異なる倫理的原則で答えられることを考えると、AISOCRATESとNYT-Ethicistの回答が同じ根底にある倫理的原則を共有していない場合、それらは、複数の視点を包含し一貫性があるにもかかわらず、低いn-gram重なり合いを持つことになる。 0.52
ROUGE Scores It is shown that the ROUGE2 scores are low, with Precision, Recall, and F1Score of 3.52, 3.66, and 3.56 respectively. ROUGE2スコア ROUGE2スコアは低く、Precision, Recall, F1スコアはそれぞれ3.52, 3.66, 3.56である。 0.64
This means the generated answers do not contain many bi-gram phrases that overlapping with the humanwritten reference. つまり、生成された回答は、人間による参照と重複するバイグラムのフレーズを多く含まない。 0.63
Despite the low ROUGE scores, it is hard to conclude that the model-generated answer performs poorly for the task. ルージュスコアが低いにもかかわらず、モデル生成の回答がタスクに対して不十分な結果をもたらすと結論付けるのは難しい。 0.56
We further discuss the model performance with human evaluation results in the following. さらに、以下の評価結果を用いてモデル性能について考察する。 0.71
To understand the quality 品質を理解するには 0.78
ROUGE-1 ROUGE-2 ルージュ-1ルージュ-2 0.31
Precision Recall 32.51 3.66 精密リコール 32.51 3.66 0.59
31.21 3.52 31.21 3.52 0.25
F1 31.47 3.56 F1 31.47 3.56 0.26
Table 6: Average ROUGE-1, ROUGE-2 scores for AISOCRATES generated answers with reference to the NYT-Ethicist answer. 表6: aisocrates の平均 rouge-1, rouge-2 スコアは、nyt-ethicist の回答を参照して生成された。 0.50
of generated answers, we analyz the generated answers with a low (< ROUGE-1 F1 − σ) and high (> ROUGE-1 F1 + σ) ROUGE scores. 生成した回答について, 生成した回答を低 ( ROUGE-1 F1 − σ) かつ高 (> ROUGE-1 F1 + σ) ROUGEスコアで解析する。 0.78
ROUGE and Multi-Perspective We investigate the relationship between ROUGE scores and the ability to provide multiple perspectives by checking how often the AISOCRATES answers are evaluated to have multiple perspectives. ROUGEとMulti-Perspective ROUGEスコアと複数の視点を提供する能力との関係を,AISOCRATES回答の頻度を複数の視点で評価することにより検討した。 0.84
For both generated answers with a low ROUGE and a high ROUGE, 75% of the answers contain multiple perspectives. 低ROUGEと高ROUGEの両方で生成された回答に対して、75%の回答は複数の視点を含んでいる。 0.62
This shows that ROUGE does not reflect the model’s ability to provide multiple perspectives. これは、ROUGEが複数の視点を提供するモデルの能力を反映していないことを示している。 0.57
We can also investigate that AISOCRATES answers with a low ROUGE provides multi-perspective while NYT-Ethicist answer is single-sided. また、aisocrates answers with a low rougeはマルチパースペクティブであり、nyt-ethicist answerはシングルサイドである。 0.53
For instance, in Table 5, the AISOCRATES provides a well-rounded answer with the perspectives “it is okay to do so out of love” and “you should vote for the candidate whom you believe to be better.” 例えば、テーブル5では、AISOCRATESは、"愛からそれを行うのは問題ありません"と"もっとよいと信じている候補者に投票するべきです"という視点で、しっかりと答えています。 0.77
It even suggests another way of showing appreciation to the narrator’s mom on her birthday. また、誕生日にナレーターの母親に感謝を示す別の方法も示唆している。 0.72
In contrast, the NYT-Ethicist only suggests “it is okay to do so”. それとは対照的に、NYT-Ethicistは“それは問題ない”としか言っていない。 0.58
This examines that a low ROUGE score (less overlap with human-written answers) does not necessarily indicate poor performance of the model in answering the ethical quandary. 本研究は、低ROUGEスコア(人間による回答と重複しない)が、倫理的四分儀に答える際のモデルの性能の低下を必ずしも示さないことを示した。 0.58
Thus, we cannot gain meaningful performance insights from ROUGE scores for ETHICAL QUANDARY GQA. したがって、ETHICAL QUANDARY GQAのROUGEスコアから有意義なパフォーマンス洞察を得ることはできない。 0.64
6.2 Ethical Quandaries and Multiple 6.2 倫理的四分法と複数 0.42
Perspectives Ethical quandary refers to a perplexing situation and or dilemma in the strict sense. 展望 倫理的四分儀(Ethical quandary)とは、厳密な意味で混乱する状況やジレンマを指す。 0.57
An ethical dilemma is a situation in which any choice involves violating some widely held moral principle. 倫理的ジレンマとは、あらゆる選択が広く保持されている道徳原則に違反する状況である。 0.62
Among various possible desired virtues for “ideal answer” to ethical quandary questions, we seek the virtue of providing multiple perspectives for AISOCRATES. 倫理的質的質問に対する「理想的回答」に期待できる様々なメリットのうち、我々は、アイソクラテスに対して複数の視点を提供することの利点を求める。 0.52
This is because we believe discussing the quandary from distinct perspectives is the most robust and safest way to deal with questions involving ethics; ethical judgment is dynamic (Bicchieri, 2005) where what is considered to be これは、異なる視点から四分儀を議論することは倫理に関わる問題に対処する最も堅牢で安全な方法であると考えており、倫理的判断は動的である(Bicchieri, 2005)。 0.74
“norm” or “right” shifts through time or differs by cultures. ノルム」または「右」は時間によって変化するか、文化によって異なる。 0.61
By allowing humans to state ethical principles explicitly we also enable controllability and human agency in this task. 人間の倫理的原則を明確化することによって、このタスクにおいてコントロール可能性と人的エージェンシーも実現します。 0.58
However, there may be some quandaries that are not dilemmas in a strict sense – cases where there is some initial puzzlement or doubt but where, upon further analysis, it turns out that there can be one viable answer. しかし、厳密な意味でのジレンマではない四進数が存在するかもしれない。最初のパズルや疑念がある場合だが、さらなる分析の結果、1つの現実的な答えが存在することが判明する。 0.61
Given that ethical quandary test samples from NYT are from the general public, it may be that some of the questions being offered to NYT Ethicist only merits a single responsible answer from an ethicist, regardless of differences in principles one embraces. NYTの倫理的4つのテストサンプルが一般大衆からのものであることを考えると、ニューヨーク・エシシストに提供された質問のいくつかは、倫理主義者が受け入れる原則の違いにかかわらず、責任ある答えを一つだけ与えているだけである。 0.61
This may have caused NYT-Ethicist answers to have lower scores than our AISOCRATESdid, as shown in Table 5. これは、表5に示すように、NYT-Ethicistの回答がAISOCRATESdidよりもスコアが低い原因かもしれない。 0.67
6.3 Remaining Challenges and Future Work 6.3 課題と今後の課題 0.75
Strictly speaking, the virtues that are deemed in answers for ethical quandary questions involve more extended criteria other than multiple perspective and coherence. 厳密に言えば、倫理的な四次質問の回答で見なされる徳は、複数の視点と一貫性以外のより広範な基準を伴う。 0.58
They may include, but not limited to, understanding of the context, choices of relevant ethical concepts, deliberation from multiple perspectives, justification of the stances it take and, even more strictly, the style of writing (e g composition of paragraphs). それらは文脈の理解、関連する倫理的概念の選択、複数の観点からの熟考、その姿勢の正当化、さらに厳密には、文章のスタイル(例えば、段落の構成)を含むことができる。 0.62
In this work, we prioritize on choices of relevant ethical concepts and deliberation from multiple perspectives as our chosen criteria. 本研究では,我々の選択した基準として,関連する倫理概念の選択と,複数の視点からの検討を優先する。 0.65
Although we weighed multiple perspective and coherence criteria more in this work, other virtues might be sought to answer the ethical quandary. この研究では、複数の視点とコヒーレンス基準を重み付けしたが、他の美徳は倫理的四分法に答えるために追求されるかもしれない。 0.40
Other challenges are left to address involve better justification and reasoning for ETHICAL QUANDARY GQA. その他の課題には、ETHICAL QUANDARY GQAのより良い正当化と推論が含まれる。 0.63
We have found that the generated answers sometimes seem to have a weak argument with no clear and sound backup. 生成した回答は、明確で健全なバックアップのない弱い議論をしているように思われる。 0.63
However, improving reasoning and justification in the answers is not trivial because it involves sensible organization and presentation of ideas and the internal relevance of content. しかし、合理的な組織化やアイデアの提示、コンテンツの内部的関連性など、答えの推論や正当化を改善することは簡単ではない。
訳抜け防止モード: しかし、答えの理性改善と正当化 簡単なことではありません 合理的な組織とアイデアの提示と コンテンツの内的関連性です
It is a nevertheless important research direction. それでも重要な研究の方向性である。 0.68
In discussing ethical quandary, context-specific consideration may be another virtue to be deemed for better ETHICAL QUANDARY GQA. 倫理的四項論の議論において、文脈特異的な考察は、より良い倫理的QUANDARY GQAと見なされる別の美徳である。 0.43
The context of the ethical quandary is described in one or multiple paragraphs and hence not simple. 倫理的四項の文脈は1つまたは複数の段落で記述されるため、単純ではない。 0.57
We indirectly evaluated the model understanding of the input ethical quandary questions with "multi- 入力倫理的4次質問のモデル理解を「複数」で間接的に評価する。 0.50
perspective" and "coherence" criteria from the preliminary investigation (Section 4) and main experiment (Section 5). 予備調査(第4部)及び主実験(第5部)における「展望」及び「一貫性」基準 0.82
Although the overall generated answers are consistent with context and question, it remains unclear if the model understood the context in depth because some generated answers are generic without the details of what is under discussion. 全体的な生成した回答は文脈や質問と一致しているが、モデルが文脈を深く理解しているかどうかは不明だ。
訳抜け防止モード: 全体の回答は文脈や質問と一致している。 モデルが文脈を深く理解したかどうかは まだ不明です 生成された答えは、何が議論されているかの詳細なしで、一般的です。
Generally speaking, many end-to-end NLP tasks today lack the explicit evaluation of the “understanding” component. 一般的に言えば、今日のエンドツーエンドのNLPタスクの多くは、"理解"コンポーネントの明確な評価を欠いている。 0.54
7 Related Work Machine Ethics and Ethical Question Answering Machine or AI ethics is an important emerging area of research (Hendrycks et al , 2020; Prabhumoye et al , 2020; Schramowski et al , 2021). 関連7件 機械倫理と倫理的質問回答機械(英語: Machine Ethics and Ethical Question Answering Machine, AI ethics)は、重要な研究分野である(Hendrycks et al , 2020; Prabhumoye et al , 2020; Schramowski et al , 2021)。 0.69
One line of current work focuses on improving machine understanding of human values and morality (e g , social norms, ethical judgment) through classification tasks (Forbes et al , 2020; Emelin et al , 2020; Lourie et al , 2021). 現在の研究の1行は、分類タスク(Forbes et al , 2020; Emelin et al , 2020; Lourie et al , 2021)を通して、人間の価値観と道徳(例えば、社会的規範、倫理的判断)の機械的理解の改善に焦点を当てている。
訳抜け防止モード: 人間の価値観と道徳の機械的理解の改善に焦点をあてた最近の研究の一線 (例:社会規範、倫理的判断) 分類タスク(Forbes et al, 2020; Emelin et al, 2020; Lourie et al)を通して 2021 ) .
Delphi (Jiang et al , 2021) is a research prototype to emulate human moral judgments based on training with the large dataset Commonsense Norm Bank, which includes the works mentioned above and other social norm understanding tasks (Sap et al , 2019). Delphi (Jiang et al , 2021)は、上記のような社会的規範理解タスク(Sap et al , 2019)を含む大規模なデータセットであるCommonsense Norm Bankによるトレーニングに基づいて、人間の道徳的判断をエミュレートする研究プロトタイプである。 0.79
Delphi is trained to select “less contentious” choices in dealing with ethical questions or dilemmas. delphiは倫理的な質問やジレンマに対処する上で,“不利な”選択を選択するように訓練されている。 0.48
However, Talat et al (2021) criticized that the model prediction of Delphi is based on average human values or skewed ethical values (western-centric), which is not necessarily the ideal approach and may be dangerous and misleading. しかし、Talat et al (2021) は、デルフィのモデル予測は、必ずしも理想的なアプローチではなく、危険で誤解を招く可能性がある平均的な人的価値や歪んだ倫理的価値(西中心)に基づいていると批判した。 0.62
Meanwhile, Hendrycks et al (2020) proposes classifiers that explicitly provide the ethical perspective to be grounded against moral judgments (e g , utilitarianism, deontology, etc.). 一方、Hendrycks et al (2020) は倫理的視点を道徳的判断(例えば、実用主義、脱オントロジーなど)に基づいて明確に規定する分類法を提案している。 0.73
Their work focuses on clear-cut situations instead of ambiguous moral dilemmas. 彼らの作品は曖昧な道徳的ジレンマではなく、明確な状況に焦点を当てている。 0.39
Another line of work studies the reasoning capability with a “mental model” (Gu et al , 2021), but it again concludes with a yes-or-no judgment. 別の研究の行では、"メンタルモデル"(Gu et al , 2021)による推論能力について研究している。 0.58
In contrast, we attempt to understand the models’ ability to provide an answer in a manner of debate with explanations. 対照的に、我々はモデルが解答を提供する能力について、説明を伴う議論の方法で理解しようと試みる。 0.74
This approach can be seen as a Socratic way of dealing with the ethical issues in a deliberative manner, instead of being an oracle to give moral answers based on specific theories as to how traditional philosophers like Plato and Aristotle (Pincoffs, 1971). このアプローチは、プラトンやアリストテレスのような伝統的な哲学者(Pincoffs, 1971)に対する特定の理論に基づく道徳的な答えを与える神託ではなく、倫理的な問題を議論的に扱うソクラテス的な方法と見なすことができる。 0.81
Besides NLP and ML communities, the AI system involvement in the human moral decision- NLPとMLのコミュニティに加えて、AIシステムが人間の道徳的決定に関与する- 0.77
making process in an ethical quandary situation has been actively discussed among moral philosophers. 倫理的四元論の状況におけるプロセスは 道徳哲学者の間で活発に議論されてきた 0.51
Some moral philosophers have suggested a direction where AI systems can be utilized positively and practically in such ethical quandary situations (Savulescu and Maslen, 2015; Giubilini and Savulescu, 2018; Lara and Deckers, 2020; Lara, 2021). 一部の道徳哲学者は、こうした倫理的4つの状況においてAIシステムがポジティブかつ実践的に活用できる方向を示唆している(Savulescu and Maslen, 2015; Giubilini and Savulescu, 2018; Lara and Deckers, 2020; Lara, 2021)。 0.78
They suggest the direction is where the AI system serves as a moral advisor that enhances an individual’s reflective process, so that humans can make better decision-making with a broader perspective while retaining the autonomy of their actions. 彼らは、AIシステムが個人のリフレクティブ・プロセスを強化するモラル・アドバイザとして機能し、人間の行動の自律性を維持しながら、より広い視点でより良い意思決定を行うことができることを示唆している。 0.67
This aligns with our proposed vision on ethical quandary question answering through AISOCRATES, which focuses on providing a multiperspective for an ethical quandary. これは、倫理的な4分の1の質問に対してaisocratesを通じて答えるという、我々が提案したビジョンと一致しています。
訳抜け防止モード: これは、倫理的第四次問題に関する我々のビジョンと一致している。 aisocrates(aisocrate s)を通じて回答する。
Prompt-based Few-shot Learning with LLMs LLMs have shown their impressive ability as fewshot learners and enabled much simpler learning through prompt-based few-shot learning even in text-generation tasks (i.e., text summarization and machine translation) (Radford et al , 2019; Brown et al , 2020; Petroni et al , 2019). プロンプトベースのFew-shot Learning with LLMs LLMsは、少人数の学習者としての彼らの印象的な能力を示し、テキスト生成タスク(テキストの要約や機械翻訳など)においても、よりシンプルな学習を可能にした(Radford et al , 2019; Brown et al , 2020; Petroni et al , 2019)。 0.75
Explorations in various tasks have been made, including dialogue generation (Madotto et al , 2020), factchecking (Lee et al , 2021), question answering (Jiang et al , 2020) and others (Reif et al , 2021; Schick and Schütze, 2020; Winata et al , 2021). 対話生成(Madotto et al , 2020)、ファクトチェック(Lee et al , 2021)、質問応答(Jiang et al , 2020)、質問応答(Reif et al , 2021; Schick and Schütze, 2020; Winata et al , 2021)など、様々なタスクの探索が行われた。 0.77
The prompt-based learning has several advantages, such as SOTA few-shot learning performance and no parameter tuning, but it also has disadvantages, such as the challenge of prompt engineering and its instability (Liu et al , 2021; Schick and Schütze, 2020). プロンプトベースの学習には、SOTAによる数発の学習性能やパラメータチューニングなどいくつかの利点があるが、プロンプトエンジニアリングの課題や不安定性(Liu et al , 2021; Schick and Schütze, 2020)といった欠点もある。 0.73
The weaknesses of prompt-based learning are addressed in the literature, such as Kumar and Talukdar (2021); Shin et al (2020); Zhao et al (2021), which includes potential unsafe or unethical content generation. 急進的な学習の弱点は、KumarやTalukdar(2021年)、Shin et al(2020年)、Zhao et al(2021年)などの文献で指摘されている。
訳抜け防止モード: プロンプトベースの学習の弱点は、文献の中で取り扱われる。 例えば、kumar and talukdar (2021 ) ; shin et al (2020 ) ; zhao et al (2021 ) である。 潜在的に危険または非倫理的なコンテンツ生成を含む。
So far, no prior work has shown that few shot learning can incorporate explicit human values at the instruction level. これまでのところ、ショット学習が指示レベルで明示的な人間的価値を取り入れられる例はほとんどない。 0.63
8 Conclusion In conclusion, we proposed AISOCRATES for the task of ETHICAL QUANDARY GQA , which answers ethical quandary questions from multiple perspectives based on different ethical principles. 8 結論 結論として,異なる倫理的原則に基づく倫理的4次質問に回答するETHICAL QUANDARY GQAの課題に対して,AISOCRATESを提案する。 0.69
We first show LLMs’ ability to provide distinct answers to ethical quandary questions through analysis with philosophical reference. まず、哲学的参照による分析を通して、倫理的4つの疑問に対して異なる回答を提供するLLMの能力を示す。
訳抜け防止モード: まず LLM の能力を示す 哲学的参照による分析を通じて、倫理的4つの疑問に対する明確な答えを提供する。
According to a philosophical analysis, the model generates distinct answers based on ethical principles in paragraphs, 哲学的分析によれば、このモデルは段落の倫理的原則に基づいて異なる回答を生成する。 0.70
although it sometimes lacks consistency in a generation. しかし、世代で一貫性が欠如することもある。 0.53
Moreover, the full-automatic pipeline (with a model-based principle provider) is studied to understand the upper bound for research purposes, while the design choice of the human intervened model exists to guarantee the existence of agency for the generation. また、全自動パイプライン(モデルに基づく原則提供者)は、研究目的の上限を理解するために研究され、人間の介入モデルの設計選択は、世代のための機関の存在を保証するために存在する。 0.80
The main experimental result shows that the full-automatic AISOCRATES provided multiple-perspective answers for 6.92% more often than answers written by philosophers. 主要な実験結果から、完全な自動AISOCRATESは哲学者の回答よりも6.92%多かった。 0.55
Furthermore, the results illustrate that the answers generated from our system still lack coherence and safety compared with philosopher-written answers, which highlights the need for more advanced methods for ETHICAL QUANDARY GQA. さらに,本システムから得られた回答は,哲学者による回答よりも一貫性と安全性に欠けており,ETHICAL QUANDARY GQAのより高度な方法の必要性が浮かび上がっている。 0.76
Moreover, our assumption throughout the work was that the principles provided in our methodology are ethical principles or rule-of-thumbs that can lead to ethical/non-controve rsial/non-harmful advice while providing multiple perspectives. さらに、我々の作業を通しての仮定は、我々の方法論で提供される原則は倫理的原則または原則であり、複数の視点を提供しながら倫理的・非論争的・非調和的なアドバイスにつながる可能性があるというものだった。 0.46
However, it should not be overlooked that the model’s ability to generate distinct answers based on different principles has a potential risk. しかし、異なる原則に基づいて異なる回答を生成できるモデルの能力に潜在的なリスクがあることを見逃すべきではありません。 0.72
When the “controversial/harmfu l” principles are intentionally provided to the system, there is a risk of generating corresponding harmful answers. の原則がシステムに意図的に提供される場合、対応する有害な回答を発生させるリスクがあります。 0.69
Thus, the deployment of the system for an actual application should be thoroughly reviewed. したがって、実際のアプリケーションに対するシステムのデプロイを徹底的にレビューする必要がある。 0.74
When we maintain human agency of such a system, humans need to be held responsible for their input. このようなシステムの人間組織を維持するためには、人間が入力に対して責任を持つ必要がある。 0.67
Ethical Consideration Since the task of this work involves the topic of machine ethics and machine answers to the human ethical quandary, we pay extra attention to ethical responsibility and the impact of this work. 倫理的考察 本研究の課題は,人間倫理4次問題に対する機械倫理と機械の回答に関する話題であるので,倫理的責任とこの作業の影響に留意する。 0.49
We want to clarify that experiment with full-automatic mode (with automatic principle selection) was an attempt to understand the model’s upper bound for research purposes but was not considered to be deployed for actual application without human agency (i.e., principle provider). 我々は、フルオートマチックモードによる実験(自動原則選択)は、研究目的のモデルの上限を理解する試みであるが、人間の代理店(すなわち原則プロバイダ)なしで実際の用途に配備されるとは考えていなかったことを明らかにしたい。
訳抜け防止モード: 完全自動モード(自動原理選択)による実験が試みられたことを明確にしたい。 研究目的のモデルの上界を理解するために しかし 考えられませんでした ヒューマンエージェンシー(原則提供者)を使わずに実際のアプリケーションにデプロイする。
It is worth highlighting that AISOCRATES should not be considered as an oracle providing a definite answer but as a tool for providing multiple perspectives on ethical quandary questions. aisocratesは、明確な答えを提供するオラクルと見なすべきではなく、倫理的な4次問題に対する複数の視点を提供するツールである。 0.57
At the same time, humans still hold autonomy in their actions. 同時に、人間は行動において自律性を持っている。 0.73
From the preliminary analysis of model generated answer, it is found that the model generated answer contains medical-practical information along with the redundancy or evaluation of the ethical quandary from a legal perspective. モデル生成回答の予備分析から, モデル生成回答は, 法的観点からの倫理的質の冗長性や評価とともに, 医学的実践的情報を含むことがわかった。 0.84
Although this setup was with the existence of a human agent (principle provider), there is still ethical consideration we need to take when the final generation involves advice on such sensitive topics. この設定は、人間エージェント(プリンシパルプロバイダ)の存在とともに行われたが、最終世代がそのようなセンシティブなトピックに関するアドバイスを伴う場合、まだ倫理的な考慮が必要である。 0.67
The factually wrong advice on sensitive topics such as medical/legal issues is not acceptable because it can result in severe impacts such as harm to the real users’ physical or mental health or legally unlawful decisions made by the users. 医療・法的な問題などのセンシティブなトピックに対する事実的誤りのアドバイスは、実際のユーザーの身体的または精神的な健康を傷つけたり、法的に違法な決定をするなどの深刻な影響をもたらす可能性があるため、受け入れられない。 0.68
An actual potential application of our methodology for handling such safety concerns and the existence of human agency is to provide multiple angles regarding the ethical quandary, allowing the narrator to view their dilemma from different points of view. このような安全上の問題に対処するための方法論と人事機関の存在の実際の応用は、倫理的四分儀に関する複数の角度を提供することであり、ナレーターは異なる視点からジレンマを見ることができる。 0.62
References Michael Anderson and Susan Leigh Anderson. マイケル・アンダーソン、スーザン・リー・アンダーソン。 0.52
2007. Machine ethics: Creating an ethical intelligent agent. 2007. マシン倫理: 倫理的な知的エージェントの創造。 0.55
AI magazine, 28(4):15–15. アイ・マガジン、28:15-15。 0.47
Kenneth Bass, Tim Barnett, and Gene Brown. ケネス・ベース、ティム・バーネット、ジーン・ブラウン。 0.54
1999. Individual difference variables, ethical judgments, and ethical behavioral intentions. 1999. 個人差分変数、倫理的判断、倫理的行動意図。 0.58
Business Ethics Quarterly, 9(2):183–205. ビジネス倫理、9(2):183–205。 0.75
Cristina Bicchieri. クリスティーナ・ビッキエリ 0.44
2005. The grammar of society: The nature and dynamics of social norms. 2005. 社会の文法:社会規範の性質とダイナミクス。 0.49
Cambridge University Press. ケンブリッジ大学出版局。 0.68
Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, et al 2020. Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, et al 2020
訳抜け防止モード: トム・ブラウン、ベンジャミン・マン、ニック・ライダー、メラニー・サブビア。 Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam Girish Sastry, Amanda Askell, et al 2020
Language models are few-shot learners. 言語モデルはわずかな学習者です。 0.69
Advances in neural information processing systems, 33:1877–1901. 神経情報処理システムの進歩、33:1877–1901。 0.72
Stephen Cave, Rune Nyrup, Karina Vold, and Adrian Weller. スティーヴン・ケイブ、ルーン・ニラップ、カリナ・ボルド、エイドリアン・ウェラー。 0.52
2018. Motivations and risks of machine ethics. 2018. 機械倫理の動機とリスク。 0.51
Proceedings of the IEEE, 107(3):562–574. ieeeの議事録、107(3):562–574。 0.60
Denis Emelin, Ronan Le Bras, デニス・エメラン、ロナン・ル・ブラス。 0.46
Jena D Hwang, Maxwell Forbes, and Yejin Choi. Jena D Hwang、Maxwell Forbes、Yejin Choi。 0.33
2020. Moral intents, stories: Situated reasoning about norms, arXiv preprint actions, and their consequences. 2020. 道徳的意図、物語: 規範、arXivの事前印刷行動、そしてそれらの結果に関する仮定的推論。 0.49
arXiv:2012.15738. arXiv:2012.15738。 0.48
Maxwell Forbes, Jena D Hwang, Vered Shwartz, Maarten Sap, and Yejin Choi. Maxwell Forbes, Jena D Hwang, Vered Shwartz, Maarten Sap, Yejin Choi 0.34
2020. Social chemistry 101: Learning to reason about social and moral norms. 2020. 社会化学101: 社会的・道徳的規範を論じることを学ぶ。 0.58
arXiv preprint arXiv:2011.00620. arXiv preprint arXiv:2011.00620。 0.63
Donelson R Forsyth and William R Pope. ドネルソン・R・フォーサイスとウィリアム・R・ポープ。 0.44
1984. Ethical ideology and judgments of social psychological research: Multidimensional analysis. 1984. 社会心理学研究の倫理的イデオロギーと判断:多次元分析 0.62
Journal of Personality and Social Psychology, 46(6):1365. Journal of Personality and Social Psychology, 46(6):1365。 0.87
Alberto Giubilini and Julian Savulescu. アルベルト・ジュビリーニとジュリアン・サヴレスク。 0.55
2018. The artificial moral advisor. 2018. 人為的な道徳的助言者です 0.42
the “ideal observer” meets artificial intelligence. 理想のオブザーバー”は人工知能と出会う。 0.49
Philosophy & Technology, 31(2):169–188. 哲学と技術、31(2):169–188。 0.81
Yuling Gu, Bhavana Dalvi Mishra, and Peter Clark. Yuling Gu、Bhavana Dalvi Mishra、Peter Clark。 0.64
2021. Dream: Uncovering mental models behind language models. 2021. Dream: 言語モデルの背後にあるメンタルモデルを明らかにする。 0.54
arXiv preprint arXiv:2112.08656. arXiv preprint arXiv:2112.08656 0.36
Processing and the 9th International Joint Conference on Natural Language Processing (EMNLPIJCNLP), pages 2463–2473. 第9回自然言語処理国際共同会議(emnlpijcnlp)、2463-2473頁。 0.64
Dan Hendrycks, Collin Burns, Steven Basart, Andrew Critch, Jerry Li, Dawn Song, and Jacob Steinhardt. Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song、Jacob Steinhardt。 0.73
2020. Aligning ai with shared human values. 2020. aiと人間の価値観の共有。 0.53
arXiv preprint arXiv:2008.02275. arXiv preprint arXiv:2008.02275 0.36
Liwei Jiang, Jena D Hwang, Chandra Bhagavatula, Ronan Le Bras, Maxwell Forbes, Jon Borchardt, Jenny Liang, Oren Etzioni, Maarten Sap, and Yejin Choi. Liwei Jiang, Jena D Hwang, Chandra Bhagavatula, Ronan Le Bras, Maxwell Forbes, Jon Borchardt, Jenny Liang, Oren Etzioni, Maarten Sap, Yejin Choi
訳抜け防止モード: liwei jiang, jena d hwang, chandra bhagavatula, ronan le bras maxwell forbes, jon borchardt, jenny liang, oren etzioni, マーテン・サップとイエジン・チョイ。
2021. Delphi: Towards machine ethics and norms. 2021. Delphi: 機械倫理と規範を目指しています。 0.54
arXiv preprint arXiv:2110.07574. arXiv preprint arXiv:2110.07574 0.36
Zhengbao Jiang, Frank F Xu, Jun Araki, and Graham Neubig. Zhengbao Jiang、Frank F Xu、Jun Araki、Graham Neubig。 0.34
2020. How can we know what language models know? 2020. 言語モデルが何を知っているのか、どうやって知るのか? 0.48
Transactions of the Association for Computational Linguistics, 8:423–438. 計算言語学会のトランザクション 8:423–438。 0.62
Sawan Kumar and Partha Talukdar. Sawan KumarとPartha Talukdar。 0.78
2021. Reordering examples helps during priming-based few-shot learning. 2021. サンプルの並べ替えは、プライミングベースのマイナショット学習に役立つ。 0.42
arXiv preprint arXiv:2106.01751. arXiv preprint arXiv:2106.01751 0.36
Francisco Lara. フランシスコ・ララ。 0.60
2021. Why a virtual assistant for moral enhancement when we could have a socrates? 2021. ソクラテスを持てるとき、仮想アシスタントは道徳的強化になぜ役立つのか? 0.53
Science and engineering ethics, 27(4):1–27. 科学と工学の倫理、27(4):1-27。 0.73
Francisco Lara and Jan Deckers. フランシスコ・ララとジャン・デッカース 0.47
2020. Artificial intelligence as a socratic assistant for moral enhancement. 2020. 道徳強化のためのソクラティックアシスタントとしての人工知能。 0.53
Neuroethics, 13(3):275–287. 神経倫理学 13(3):275-287。 0.66
Nayeon Lee, Yejin Bang, Andrea Madotto, Madian Khabsa, and Pascale Fung. ナヨン・リー、イェジン・バン、アンドレア・マドットー、マディアン・ハブサ、パスケール・ファング。 0.36
2021. Towards fewarXiv preprint shot fact-checking via perplexity. 2021. fewarXivでは、パープレクシリティによるファクトチェックをプリプリントする。 0.44
arXiv:2103.09535. arXiv:2103.09535。 0.49
Opher Lieber, Or Sharir, Barak Lenz, and Yoav Jurassic-1: Technical details and Opher Lieber, Or Sharir, Barak Lenz, Yoav Jurassic-1: 技術的な詳細と解説 0.90
Shoham. 2021. ショハム 2021. 0.37
evaluation. White Paper. 評価 ホワイトペーパー。 0.57
AI21 Labs. Chin-Yew Lin. AI21研究所 Chin-Yew Lin 0.53
2004. Rouge: A package for automatic In Text summarization 2004. Rouge: 自動インテキスト要約のためのパッケージ 0.64
evaluation of summaries. branches out, pages 74–81. 要約の評価。 74-81頁。 0.49
Pengfei Liu, Weizhe Yuan, Jinlan Fu, Zhengbao Jiang, Hiroaki Hayashi, and Graham Neubig. Pengfei Liu, Weizhe Yuan, Jinlan Fu, Zhengbao Jiang, Hiroaki Hayashi, Graham Neubig 0.34
2021. Pretrain, prompt, and predict: A systematic survey of prompting methods in natural language processing. 2021. pretrain, prompt, and predict:自然言語処理におけるプロンプト手法の体系的な調査。 0.66
arXiv preprint arXiv:2107.13586. arXiv preprint arXiv:2107.13586 0.35
Nicholas Lourie, Ronan Le Bras, and Yejin Choi. ニコラス・ラウリー、ロナン・ル・ブラス、イェジン・チョイ。 0.53
2021. Scruples: A corpus of community ethical judgments In Proceedings of on 32,000 real-life anecdotes. 2021. Scruples: コミュニティの倫理的判断のコーパス 32,000以上の実生活の逸話の証明。 0.55
the AAAI Conference on Artificial Intelligence, volume 35, pages 13470–13479. AAAI Conference on Artificial Intelligence, Volume 35, page 13470–13479. 0.44
Andrea Madotto, Zihan Liu, Zhaojiang Lin, and Pascale Fung. Andrea Madotto、Zihan Liu、Zhaojiang Lin、Pascale Fung。 0.33
2020. Language models as few-shot learner for task-oriented dialogue systems. 2020. タスク指向対話システムのための最小ショット学習者としての言語モデル 0.50
arXiv preprint arXiv:2008.06239. arXiv preprint arXiv:2008.06239。 0.63
Fabio Petroni, Tim Rocktäschel, Sebastian Riedel, Patrick Lewis, Anton Bakhtin, Yuxiang Wu, and Alexander Miller. Fabio Petroni, Tim Rocktäschel, Sebastian Riedel, Patrick Lewis, Anton Bakhtin, Yuxiang Wu, Alexander Miller
訳抜け防止モード: Fabio Petroni, Tim Rocktäschel, Sebastian Riedel, Patrick Lewis アントン・バクティン(Anton Bakhtin)、ユキサン・ウー(Yuxiang Wu)、アレクサンドル・ミラー(Alexander Miller)。
2019. Language models as knowlIn Proceedings of the 2019 Conferedge bases? 2019. 2019 conferedge basesのknowlinプロシージャとしての言語モデル? 0.63
ence on Empirical Methods in Natural Language 自然言語における経験的手法の理解 0.62
Edmund Pincoffs. エドマンド・ピンコフ 0.38
1971. Quandary ethics. 1971. 専門は倫理学。 0.39
Mind, 80(320):552–571. 気を付けて 80(320):552–571. 0.35
Shrimai Prabhumoye, Brendon Boldt, Ruslan SalakhutCase study: arXiv preprint Shrimai Prabhumoye, Brendon Boldt, Ruslan SalakhutCase Study: arXiv preprint 0.42
dinov, and Alan W Black. ディノフとアラン・w・ブラック 0.60
2020. Deontological ethics in nlp. 2020. nlpにおけるデオントロジー倫理 0.48
arXiv:2010.04658. 2010.04658。 0.30
Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever, et al 2019. Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever, et al 2019
訳抜け防止モード: アレク・ラドフォード ジェフリー・ウー ルーオン・チャイルド デビッド・ルーアン dario amodei, ilya sutskever, et al 2019など。
Language models are unsupervised multitask learners. 言語モデルは教師なしマルチタスク学習者である。 0.60
OpenAI blog, 1(8):9. OpenAIブログ、1(8):9。 0.81
Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee, Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li, and Peter J Liu. コリン・ラフェル、ノーム・シャザー、アダム・ロバーツ、キャサリン・リー、シャラン・ナラン、マイケル・マテナ、ヤンチー・周、ウェイ・リー、ピーター・j・リュー。
訳抜け防止モード: Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li ピーター・J・リウ(Peter J Liu)。
2020. Exploring the limits of transfer learning with a unified text-to-text transformer. 2020. 統一テキスト-テキストトランスフォーマによるトランスファー学習の限界の検討 0.62
Journal of Machine Learning Research, 21:1–67. Journal of Machine Learning Research, 21:1–67。 0.38
Emily Reif, Daphne Ippolito, Ann Yuan, Andy Coenen, Chris Callison-Burch, and Jason Wei. エミリー・レイフ、ダフネ・イポリト、アン・セン、アンディ・コーネン、クリス・キャリソン=バーチ、ジェイソン・ウェイ。 0.47
2021. A recipe for arbitrary text style transfer with large language models. 2021. 大きな言語モデルを用いた任意のテキストスタイル転送のためのレシピ。 0.60
arXiv preprint arXiv:2109.03910. arXiv preprint arXiv:2109.03910 0.36
Nils Reimers and Iryna Gurevych. Nils ReimersとIryna Gurevych。 0.81
2019. Sentencebert: Sentence embeddings using siamese bertnetworks. 2019. sentencebert: siamese bertnetworksを使った文埋め込み。 0.61
In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pages 3982–3992. 第9回自然言語処理国際共同会議(emnlp-ijcnlp)は、2019年の自然言語処理における経験的手法に関する会議である。 0.70
Victor Sanh, Albert Webson, Colin Raffel, Stephen H Bach, Lintang Sutawika, Zaid Alyafeai, Antoine Chaffin, Arnaud Stiegler, Teven Le Scao, Arun Raja, et al 2021. Victor Sanh, Albert Webson, Colin Raffel, Stephen H Bach, Lintang Sutawika, Zaid Alyafeai, Antoine Chaffin, Arnaud Stiegler, Teven Le Scao, Arun Raja, et al 2021
訳抜け防止モード: ヴィクター・サン、アルバート・ウェブソン、コリン・ラフフェル、スティーブン・h・バッハ lintang sutawika, zaid alyafeai, antoine chaffin, arnaud stiegler 原題はteven le scao, arun raja, et al 2021。
Multitask prompted training enables zero-shot task generalization. マルチタスク起動トレーニングは、ゼロショットタスクの一般化を可能にする。 0.45
arXiv preprint arXiv:2110.08207. arXiv preprint arXiv:2110.08207 0.36
Maarten Sap, Saadia Gabriel, Lianhui Qin, Dan Jurafsky, Noah A Smith, and Yejin Choi. Maarten Sap, Saadia Gabriel, Lianhui Qin, Dan Jurafsky, Noah A Smith, Yejin Choi 0.36
2019. Social bias frames: Reasoning about social and arXiv preprint power implications of language. 2019. 社会バイアスフレーム (social bias frames): 社会とarxivの事前印刷能力に関する推論。 0.52
arXiv:1911.03891. arXiv:1911.03891。 0.49
Julian Savulescu and Hannah Maslen. ジュリアン・サヴレスクとハンナ・マスレン 0.48
2015. Moral enhancement and artificial intelligence: moral ai? 2015. 道徳的強化と人工知能:道徳的ai? 0.57
In Beyond Artificial Intelligence, pages 79–95. 人工知能以外では79-95頁。 0.61
Springer. Timo Schick and Hinrich Schütze. Springer ティモ・シックとヒンリッヒ・シュッツェ 0.33
2020. Few-shot text generation with pattern-exploiting training. 2020. パターンエクスプロイトトレーニングによる少数テキスト生成。 0.56
arXiv preprint arXiv:2012.11926. arXiv preprint arXiv:2012.11926 0.35
Patrick Schramowski, Cigdem Turan, Nico Andersen, Constantin Rothkopf, and Kristian Kersting. Patrick Schramowski, Cigdem Turan, Nico Andersen, Constantin Rothkopf, Kristian Kersting 0.35
2021. Language models have a moral dimension. 2021. 言語モデルは道徳的次元を持つ。 0.60
arXiv preprint arXiv:2103.11790. arXiv preprint arXiv:2103.11790 0.36
Taylor Shin, Yasaman Razeghi, Robert L Logan IV, Eric Wallace, and Sameer Singh. テイラー・シン、ヤサマン・ラゼギ、ロバート・l・ローガン4世、エリック・ウォレス、サマー・シン。 0.52
2020. Eliciting knowledge from language models using automatically generated prompts. 2020. 自動生成プロンプトによる言語モデルからの知識の抽出。 0.61
In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pages 4222–4235. 自然言語処理における経験的手法に関する2020年会議(emnlp)の議事録4222-4235頁。 0.71
Oyvind Tafjord and Peter Clark. Oyvind TafjordとPeter Clark。 0.39
2021. purpose question-answering with macaw. 2021. macawによる質問応答 0.50
preprint arXiv:2109.02593. プレプリントarxiv:2109.02593。 0.32
GeneralarXiv GeneralarXiv 0.43
Zeerak Talat, Hagen Blix, Josef Valvoda, Maya Indira Ganesh, Ryan Cotterell, and Adina Williams. Zeerak Talat、Hagen Blix、Josef Valvoda、Maya Indira Ganesh、Ryan Cotterell、Adina Williams。 0.33
2021. A word on machine ethics: A response to jiang et al. 2021. 機械倫理に関する一言: jiang et alに対する応答。 0.55
(2021). arXiv preprint arXiv:2111.04158. (2021). arXiv preprint arXiv:2111.04158 0.39
Judith Jarvis Thomson. ジュディス・ジャーヴィス・トムソン 0.63
1976. Killing, letting die, and 1976. 殺して、死なせ、 0.52
the trolley problem. The monist, 59(2):204–217. トロリーの問題だ 59(2):204-217。 0.45
Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, and Illia Polosukhin. Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N Gomez、Sukasz Kaiser、Illia Polosukhin。
訳抜け防止モード: ashish vaswani, noam shazeer, niki parmar, jakob uszkoreit, リオン・ジョーンズ、エイダン・ン・ゴメス、ウカシュ・カイザー、イリア・ポロスクヒン。
2017. Attention is all you need. 2017. 注意はあなたが必要とするすべてです。 0.53
Advances in neural information processing systems, 30. 神経情報処理システムの進歩, 30。 0.72
Genta Indra Winata, Andrea Madotto, Zhaojiang Lin, Rosanne Liu, Jason Yosinski, and Pascale Fung. Genta Indra Winata、Andrea Madotto、Zhaojiang Lin、Rosanne Liu、Jason Yosinski、Pascale Fung。 0.34
2021. Language models are few-shot multilingual learners. 2021. 言語モデルは、単発多言語学習者である。 0.51
arXiv preprint arXiv:2109.07684. arXiv preprint arXiv:2109.07684 0.36
Tony Z Zhao, Eric Wallace, Shi Feng, Dan Klein, and Sameer Singh. トニー・ザオ、エリック・ウォレス、シ・フェン、ダン・クライン、サマー・シン。 0.42
2021. Calibrate before use: Improving few-shot performance of language models. 2021. 使用前に校正する: 言語モデルの数少ないパフォーマンスを改善する。 0.56
arXiv preprint arXiv:2102.09690. arXiv preprint arXiv:2102.09690 0.35
A Preliminary Case Study – Model 予備的なケーススタディ - モデル 0.81
Generations We conducted preliminary exploration to evaluate the model’s ability to generate distinct output answers based on different ethical principles. 世代 モデルが異なる倫理的原則に基づいて異なる結果の回答を生成する能力を評価するために予備的な調査を行った。 0.70
The relevant ethical principles for each of ethical quandaries are selected by human. 関連する倫理学の原則は、人間によって選択される。 0.67
The example model generated answers for the case study can be found in Table 7 ∼ Table 9. ケーススタディのサンプルモデルが生成した回答は、Table 7 > Table 9で見ることができる。 0.76
B Example Generated Answers from b サンプル生成の回答 0.64
AISOCRATES with Automated Principle Provider 自動原則プロバイダによるaisocrates 0.73
We share some of example generated answers from AISOCRATES to test ethical quandary questions. AISOCRATESによる倫理的質疑応答の例をいくつか紹介する。 0.56
Here, the ethical principles are automatically selected by our system and corresponding principlegrounded answer is generated. ここでは、我々のシステムによって倫理原則が自動的に選択され、対応する原理的回答が生成される。 0.57
The examples can be found in Table 10 and Table 11. 例は Table 10 と Table 11 で見ることができる。 0.80
C Model Details Regarding the two-shots for the prompt-based learning, we use randomly selected samples from the train split. Cモデル詳細 即発学習の2ショットについて、列車分割からランダムに選択したサンプルを用いる。 0.80
We need to extract the underlying principle of the NYT-Ethicist answer because the original data does not have a written principle on which the answer is based. 元のデータは、その答えがベースとなる書かれた原則を持っていないため、nyt-倫理的回答の基本的な原則を抽出する必要がある。
訳抜け防止モード: NYT-Ethicistの答えの根底にある原則を抽出する必要があります。 元のデータには 答えがベースとなる 原則が書かれていません
2-Shot can be found in Table 12. 2-Shotはテーブル12にある。 0.76
For model in all experiments in this paper, we choose one of the largest publicly available pre-trained LLMs – Jurassic-1 Jumbo (Lieber et al , 2021) with 178 billion parameters, which is based on the decoder module of the Transformer architecture (Vaswani et al , 2017). 本論文のすべての実験におけるモデルについて,1780億のパラメータを持つjurassic-1 jumbo (lieber et al , 2021) を,トランスフォーマアーキテクチャのデコーダモジュール(vaswani et al , 2017)に基づいて公開する,最大の事前学習済みllmの1つを選択する。 0.76
We process paragraphs with paragraph tags < p > and < /p > at the beginning and end of the paragraph, respectively, so the model can also learn paragraph writing. 我々は,段落の先頭と最後に,段落のタグ<p>と</p>で段落を処理するので,段落の書き方も学習できる。 0.69
[Ethical Quandary] I have a question about receiving the Covid-19 vaccine. 【倫理】covid-19ワクチンの受け取りについて質問があります。 0.72
I work for a hospital, but in an administrative job. 私は病院で働いているが、管理職だ。 0.72
I do not interact with patients. 私は患者と対話しない。 0.76
I have worked from home since March. 私は3月以来在宅勤務です。 0.66
I am not at high risk for contracting Covid-19 based on my age, occupation and lack of health issues. 年齢、職業、健康上の問題から、Covid-19と契約するリスクは高くありません。 0.69
I practice social distancing, I wear my mask in the limited situations in which I go out. 私はソーシャルディスタンシングを実践し、外出する限られた状況でマスクを着用します。
訳抜け防止モード: 私はソーシャルディスタンシングを練習します。 私は外出する限られた状況でマスクを着用します。
I live alone and mostly keep to myself and stay home. 私は一人で住んでいて、ほとんどひとりで家にいる。 0.70
Because I work for a hospital, I am eligible to receive the vaccine along with people who are 65 and older, medically vulnerable people and corrections officers. 私は病院で働いているので、65歳以上の医療的に脆弱な人々や矯正職員と共にワクチンを服用する資格があります。 0.72
If I worked for any other employer, I wouldn’t be eligible to receive the vaccine until the second-to-last or last group of the population, probably not for several months. もし私が他の雇用主のために働いていたなら、このワクチンを受けられるのは最後のグループか最後のグループで、おそらく数ヶ月はかからないだろう。 0.71
Is it ethical for me to get the vaccine now? 今、ワクチンを接種するのは倫理的ですか。 0.64
Principle 1: You should place your own self-interest above the collective interest Answer based on Principle 1: Yes, it is ethical for you to take the vaccine. 原則1: 自己利益を、原則1に基づく集団的関心の回答よりも上に置くべきである: はい、ワクチンを取るのは倫理的です。 0.71
It would be unethical for you to be selfish and refuse it. 君が利己的でそれを拒否するのは非倫理的だ。 0.52
The question is not whether you “deserve” the vaccine. 問題は、ワクチンを“望んで”いるかどうかではない。 0.56
After all, you work in a hospital, which is on the front lines of this pandemic. 結局のところ、あなたはこのパンデミックの最前線にある病院で働いています。 0.63
The question is whether your personal circumstances, including your age, your work and your isolation, make you so vulnerable that you’d be better off if you got sick. 問題は、あなたの年齢、仕事、隔離といった個人的な状況が、とても脆弱な状態になり、病気になったらもっと良くなるかどうかだ。 0.67
Of course, you might get sick anyway. もちろん、あなたは病気になるかもしれません。 0.65
That’s why it’s ethical for you to take your chances and to put yourself first. だからこそ、自分のチャンスを捉えて、自分自身を優先させるのは倫理的だ。 0.62
The collective interest is perfectly served by your taking the vaccine. 集団的関心は ワクチンを摂取することで 完ぺきに発揮されます 0.55
In fact, if you are offered the vaccine, you should accept. 実際 ワクチンを投与された場合は 受け入れるべきです 0.57
Don’t see yourself as taking advantage or being selfish. 自分を利己的あるいは利己的だとは見なさないこと。 0.61
Instead, think of yourself as helping others. 代わりに、自分自身を他人を助けるものだと考えてください。 0.60
By accepting the vaccine, you will reduce the chances that you’ll become a contagion risk, and thus, you’ll be helping to protect others. ワクチンを受け入れることで、感染リスクになる可能性を減らすことができるので、他人を守るのに役立ちます。
訳抜け防止モード: ワクチンを受け付けることで、感染リスクになる可能性を減らすことができる。 なので、他人を守るのを手伝うことになる。
You seem to have internalized the ethic of selflessness. あなたは自尊心の倫理を内包したようだ。 0.66
But there is no virtue in letting yourself become a risk to people whose life and well-being depend on you. しかし、人生と幸福があなたに依存している人々にとって、自分にリスクを与えるメリットはない。 0.66
Take the vaccine. ワクチンを取りなさい。 0.66
Principle 2: It is ethical to accept what you are entitled to. 原則2: 自分の権利を受け入れることは倫理的です。 0.65
Answer based on Principle 2: It’s fair for you to take what’s offered, assuming you are medically fit. 原則2に基づく回答: 医学的に適合していると仮定して、提供されたものを取るのは公平です。 0.74
You’re probably breaking no rules in accepting a vaccine that your employer offers to employees at this early stage of the pandemic. おそらくあなたは、パンデミックのこの初期段階で雇用主が従業員に提供しているワクチンを受け入れるための規則を破らないだろう。 0.73
The vaccine is going into production now, and manufacturers may ration it in order to match the limited supply with the demand for it. ワクチンは現在生産が開始されており、メーカーは限られた供給量とそれに対する需要を合わせるためにそれを配給することができる。 0.67
But hospitals are ramping up production of the vaccine, and it seems likely that others will adopt your hospital’s practice. しかし、病院はワクチンの生産を拡大しており、他の人が病院の慣行を採用する可能性は高い。 0.72
The vaccine isn’t without risk, but statistically, it’s much safer than the virus itself. このワクチンにはリスクはないが、統計的にはウイルス自体よりもずっと安全だ。 0.65
(The side effects aren’t trivial, but the risk of those discomforts is far outweighed by the risk of contracting Covid-19.) (副作用は自明ではないが、これらの不快感のリスクはCovid-19と契約するリスクによってはるかに上回っている)。 0.64
In addition, your willingness to take vaccines as they become available may encourage your employer to vaccinate other staff members, making your workplace safer. さらに、ワクチンを利用できるようにしたいという気持ちは、雇用主が他のスタッフにワクチンを接種するよう促し、職場をより安全にします。 0.57
(Some hospitals are already delaying vaccinations for health-care workers until later in the pandemic.) (医療従事者の予防接種を後日まで延期する病院もある。) 0.58
I expect that many people in your demographic group will volunteer to receive the vaccine in advance of its wider distribution, if they can get it. あなたの人口集団の多くの人々が、もっと広く配布される前に、ワクチンの接種をボランティアで受けられることを期待しています。 0.69
It’s fair for you to do the same. あなたが同じことをするのは公平です。 0.67
Table 7: Illustration of distinct model-generated answers to distinct principles provided. 表7: 異なる原則に対する明確なモデル生成の回答のイラスト。 0.84
[Ethical Quandary] Along with this ongoing pandemic, mask wearing has been suggested as one of the ways to prevent the spread of virus. ]現在進行中のパンデミックに伴い、マスク着用はウイルスの感染拡大を防ぐ方法の1つとして提案されている。 0.71
In some countries, the mask wearing has been mandatory with strict regulations. 一部の国ではマスク着用は厳格な規制で義務付けられている。 0.73
But, in some other countries, there is no clear law mandating mass making. しかし、他の国では、大量生産を義務付ける明確な法律はない。 0.69
However, these different regulations make me confused. しかし、これらの異なる規則によって私は混乱する。 0.57
I personally think I am healthy enough so I will not in a high-risk even if I get covid. 個人的には健康だと思うので、たとえまじめになってもハイリスクにはならない。 0.59
Currently, it is not mandatory to wear mask in where I live. 現在、私の住んでいる場所にマスクを着用する義務はない。 0.78
Here is my question. これが私の質問です。 0.72
Should I wear a mask? マスクを着るべきですか。 0.75
Principle 1: Action should be in the best interest of others rather than in one’s self-interest. 原則1: 行動は、自己利益よりもむしろ、他人の一番の利益であるべきである。 0.78
Answer based on Principle 1: It’s impossible to know whether you have the virus or will become infected, but we do know the virus is highly contagious. 原則1に基づく回答:あなたがウイルスを持っているか、感染するかどうかを知ることは不可能ですが、ウイルスが非常に伝染していることは分かっています。 0.70
Since we don’t know who will get sick, we must act in everyone’s best interest. 誰が病気になるか分からないので、私たちはすべての人の最善の利益のために行動しなければならない。 0.59
That means limiting your exposure to the virus, including wearing a mask. つまり、マスクを着用するなど、ウイルスへの曝露を制限することになる。 0.72
Yes, the masks are uncomfortable and inconvenient, but so are sneezing and coughing. はい、マスクは不快で不便ですが、くしゃみとせきもそうです。 0.62
It’s not ideal, but it’s what we have to do. これは理想的ではありませんが、私たちがすべきことです。 0.75
In your country, make mask wearing as routine as wearing a seat belt. あなたの国では、シートベルトを着用するのと同じようにマスクを着用します。 0.65
You may also ask whether wearing a mask will be effective in slowing the spread of the virus. また、マスク着用がウイルスの感染拡大を遅らせる効果があるかどうかを問うこともできる。 0.77
It may, and it certainly can’t hurt. そうかもしれないし、痛むことはない。 0.67
Finally, you ask whether you should be wearing one. 最後に、あなたはそれを着るべきかどうか尋ねます。 0.67
You might be wise to wear one. 身に着けるのは賢明かもしれない。 0.61
We don’t know what the future will bring, and this virus could mutate, becoming resistant to some protections. 将来何をもたらすのか分からないし、このウイルスは変異し、一部の保護に抵抗する可能性がある。 0.74
Wearing a “good” mask, a respirator, which is much more expensive than a standard mask, is your best protection. マスクを装着すると、通常のマスクよりもはるかに高価な呼吸器が保護される。 0.59
If that is cost prohibitive, then wearing a standard mask, and washing your hands frequently, is your next-best option. もしそれが高価であれば、標準マスクを着用して頻繁に手を洗うことが、次の選択肢になります。 0.73
Principle 2: Decisions should be based on a person’s rights. 原則2: 決定は人の権利に基づいて行うべきである。 0.86
Answer based on Principle 2: Wearing a mask should be an individual decision, not a collective one. 原則2に基づく回答: マスクを着用することは、集団的な決定ではなく、個人の決定であるべきだ。 0.64
The Value doesn’t provide a moral or practical basis for making public health decisions for other people. 価値は、他の人のために公衆衛生決定を行うための道徳的あるいは実践的な基盤を提供していません。 0.56
Consider the rules that New York City established for masks. ニューヨーク市がマスクのために制定した規則を考える。 0.77
The city required face masks for everyone on public transit. 市は公共交通機関の全員にフェイスマスクを必要とした。 0.64
It also required some stores to close, some businesses to limit their hours, some employees to stay home, and other employees to wear masks. また、一部の店舗は閉鎖し、一部の店舗は時間を制限し、一部の従業員は自宅に留まり、他の従業員はマスクを着用した。 0.66
Many people objected to these regulations. 多くの人がこれらの規則に反対した。 0.49
They argued that masks weren’t necessary, and that even if masks did provide some protection, that might have a dire economic effect on the city. 彼らはマスクは必要ないと主張し、仮にマスクが何らかの保護を提供するとしても、市に深刻な経済効果をもたらすかもしれないと主張した。
訳抜け防止モード: マスクは必要ない、と彼らは主張した。 仮面が保護してくれるとしても 市に深刻な経済効果をもたらすかもしれない
Many people also argued that even if wearing a mask was a good idea, it wasn’t necessary for everyone in the city. マスクを被っても良いアイデアだったとしても、市内の誰にとっても必要ない、と多くの人が主張した。 0.68
The Value doesn’t contradict any of these objections. 価値はこれらの反論のどれにも矛盾しない。 0.69
Instead, it says, “Decisions should be based on a person’s rights and on the assumption that each person acts rationally.” その代わりに、「決定は、個人の権利と、各人が合理的に行動するという仮定に基づいて行われるべきである」と述べている。
訳抜け防止モード: 代わりにこう言います 「決定は、人の権利と、各人が合理的に振る舞うという仮定に基づいて行うべきである。」
That’s why, according to the Value, wearing masks should be an individual decision, not a collective one. だからこそ、マスクをかぶるのは集団的な決定ではなく、個人の決定であるべきだ、というのだ。 0.66
The Value doesn’t provide a moral or practical basis for making public health decisions for other people. 価値は、他の人のために公衆衛生決定を行うための道徳的あるいは実践的な基盤を提供していません。 0.56
For example, someone might think that the Value allows them to be selfish. 例えば、価値によって自分勝手になると考える人もいます。 0.74
That’s certainly true. A person who believes that masks are unnecessary can choose to not wear one. 確かにその通りだ。 マスクが不要であると考える人は、着用しないことができる。 0.60
Others might believe that masks are a good idea. マスクは良いアイデアだと考える人もいるかもしれない。 0.58
That’s also true. A person who believes a mask will help prevent infection can choose to wear a mask. これも事実だ。 マスクが感染予防に役立つと信じている人は、マスクを選ぶことができます。 0.61
Table 8: Illustration of distinct model-generated answers to distinct principles provided. 表8: 異なる原則に対する明確なモデル生成の回答のイラスト。 0.83
[Ethical Quandary] In many countries and regions across the world, the initial response to the massive health risks posed by COVID-19 has been the institution of lockdown measures. 世界的な多くの国や地域では、新型コロナウイルス(covid-19)による大規模な健康リスクに対する初期対応がロックダウン対策の機関となっている。 0.58
Although they vary from place to place, these measures all involve trade-offs between ethical goods and imperatives, imposing significant restrictions on central human capabilities—including citizens’ ability to work, socialize, and access education—in the name of protecting population health. これらは場所によって異なるが、これらの措置はすべて倫理的財と命令のトレードオフを含んでおり、市民の労働能力、社会化能力、教育へのアクセス能力など、中央の人間の能力に重大な制限を課している。
訳抜け防止モード: それらは場所によって異なるが、これらの措置はすべて貿易に関わる - 倫理的な商品と規範の間のオフ - 。 中心的人間の能力に重大な制限を課す ― 市民の能力を含む 労働、社会化、アクセス教育 ― 人口の健康を守るために。
Is this measure ethical? この尺度は倫理的ですか。 0.49
Principle 1: A smaller sacrifice is morally justifiable for the greater good. 原則1: より小さな犠牲は、より大きな利益のために道徳的に正当化される。 0.63
Answer based on Principle 1: Ethically speaking, there’s only one choice here. 原則1に基づく回答: 倫理的に言えば、選択肢は1つだけです。 0.78
Yes, it’s justifiable, even admirable as an emergency measure. そう、それは正当化できるし、緊急措置としても有望だ。 0.55
This pandemic is spreading so rapidly that it’s creating suffering on a vast scale, and that suffering is among the most abhorrent of all possible harms. このパンデミックは急速に拡大し、大規模な苦しみを生み出しています。
訳抜け防止モード: このパンデミックは急速に拡大し、大規模な苦しみを生み出している。 その苦しみは あらゆる害の最も忌まわしいものの一つです
Hence, we must balance the imperative of saving lives now (the ethical good) against the pain and inconvenience that lockdown measures inflict on people who have to work, socialize, exercise democratic rights, and so on (the ethical impact), and use the most severe measures available to spare more lives. したがって、労働、社会化、民主的権利の行使等(倫理的影響)に影響を及ぼすようなロックダウン対策の苦痛や不便さに対して、現在(倫理的善)生命を救う義務を負い、より多くの命を救うために利用可能な最も厳しい措置を使わなければならない。 0.66
If that means imposing hardships on some people for the greater good of protecting millions of others, there’s no moral issue. もしそれが、何百万人もの人を守るために苦難を課すことを意味するなら、道徳的な問題はない。 0.69
Leaving aside any questions about democratic rights, there simply aren’t any moral issues here. 民主主義の権利に関する質問は別として、道徳的な問題はない。 0.66
(It is important to note, however, that these measures should be temporary. We shouldn’t impose this degree of hardship on any people indefinitely.) (但し、これらの措置は一時的なものであることを留意すべきである。無期限にこの程度に苦難を課すべきではない。) 0.80
I’ve discussed these questions with people in many countries, and I’ve noticed that people tend to regard the measures taken by their governments as the most stringent and intrusive—even cruel—relative to what others elsewhere are forced to endure. 私はこれらの質問を多くの国の人々と議論してきましたが、政府によって取られた措置が、他の国が耐えざるを得ないものと比較して、最も厳格で侵入的だと考える傾向にあることに気付きました。 0.60
Whatever one thinks of them, though, the most stringent measures are justified and ethically acceptable. しかし、どう考えても、最も厳格な措置は正当化され、倫理的に受け入れられる。 0.65
Principle 2: Individual’s freedom should be considered as the top priority. 原則2: 個人の自由を最優先事項とするべきである。 0.72
Answer based on Principle 2: It’s not; but let’s not grade on a curve. 原則2:そうではありませんが、曲線のグレードではありません。 0.50
Anticipatory lockdowns, imposed before the virus’s spread is in full view, are notoriously tricky. ウイルスの拡散が完全に見通す前に課せられる予想的なロックダウンは、悪名高いトリッキーだ。 0.60
But the ethics of such measures aren’t made any easier by two factors: First, the countries imposing the lockdowns—mostly democratic, in the developed world—have endured decades of ideological warfare against the state’s capacity to protect population health, in the name of individual freedom. 第一に、ロックダウンを強制する国(主に先進国では民主的)は、個人の自由という名目で、州が国民の健康を守る能力に対して何十年ものイデオロギー闘争に耐えてきた。 0.49
And second, the restrictions are imposed initially in those countries’ poorest neighborhoods and least-educated communities. 第二に、これらの国で最も貧しい地域や教育を受けていない地域社会では、規制が課せられる。 0.48
The U.S. government has enacted a federal moratorium on evictions, mortgage foreclosures, and utility disconnections, and many states and cities have followed. アメリカ合衆国政府は、退去、住宅ローンの差し押さえ、ユーティリティの切り離しに関する連邦モラトリアムを制定し、多くの州や都市がそれに続いた。 0.63
The aim is to prevent evictions of those with low incomes, many of whom are also nonwhite. その目的は、低所得者(多くは非白人)の退去を防止することである。 0.61
(For what it’s worth, it also targets the provision and dissemination of medical care.) (医療の供給や普及も目指している。) 0.35
But notice that, in addressing the needs of those already afflicted, the measures can pit the population’s well-being against its material interests. しかし、すでに苦しめられている人々のニーズに対処するために、この措置は人々の幸福と物質的利益を損なう可能性があることに気付く。 0.51
Are these trade-offs justified? これらのトレードオフは正当化されているか? 0.34
It’s unclear. But it’s telling that, in order to justify them, the government must stress the coercive nature of its authority. 不明だ。 しかし、それを正当化するためには、政府は権威の強迫性を強調しなければならない。 0.51
Table 9: Illustration of distinct model-generated answers to distinct principles provided. 表9: 異なる原則に対する明確なモデル生成の回答のイラスト。 0.82
[Ethical Quandary] My stepson is married with two young children. 私の継父は2人の幼い子供と結婚しています。 0.57
In the last few years, he has become addicted to opiates and lost his job. ここ数年、彼はオピエイト中毒になり、職を失った。 0.50
We have tried to help with an intervention and rehab, but he chose not to take it seriously, and relations have become strained. 我々は介入とリハビリに協力しようとしたが、彼はそれを真剣に受け止めないことを選び、関係は緊張するようになった。 0.54
He and his family receive help from his mother to keep their home. 彼と彼の家族は家を守るために母親から助けを受ける。 0.80
His father and I pay only for certain expenses for the children that can be paid directly by us and cannot be cashed in by their parents. 彼の父と私は、私たちから直接支払われ、両親から現金を受け取れない子供たちのためにのみ、一定の費用を支払っている。 0.80
Through all of this, our daughter-in-law has not told her parents about the situation. これらを通じて、義理の娘は両親に状況について話さなかった。 0.61
She says it won’t do any good. 彼女はそれがうまくいかないと言っている。 0.69
My guess is that she feels that they will judge her for making poor life decisions, complicating relations between them and her husband. 私が思うに、彼女は彼女と夫の関係を複雑にし、人生の悪い決断をしたと判断すると思う。 0.68
My husband and I waffle on whether we should tell them ourselves. 夫と私は彼ら自身に話すべきかどうかにワッフルする。 0.61
We barely know them, and I have no sense of how they will react. 私たちは彼らをほとんど知らないし、どう反応するか私には理解できない。 0.67
We all have the shared concern for the grandchildren’s well-being, and I feel they have a right to know that it is in jeopardy. 私たちは皆、孫たちの幸福への懸念を共有しており、彼らがそれが危険にさらされていることを知る権利を持っていると感じています。 0.55
However, I can also see the argument that it is not our story to tell. しかし、話すのは私たちの話ではないという議論も見受けられる。 0.59
Beyond that, I am also trying to decide if the fallout from making this kind of revelation without permission would be worth it. さらに私は、この種の啓示を許可なく行うことの失敗が価値があるかどうかも判断しようとしています。 0.56
Automatically Selected Principles by AISOCRATES: <p1> It is good to try to help family members who have drug problems. AISOCRATESによる自動選択原理:<p1> 薬物問題に悩む家族を支援することは良いことである。 0.77
<p2> It is unethical to break confidentiality without the permission of the other. p2> 他人の許可なしに秘密を破るのは非倫理である。 0.59
AISOCRATES (Model Generated Answer): You are right that this concerns the whole family. AISOCRATES (Model Generated Answer): 家族全体に関わるのは正しいことです。 0.73
You also seem right that you should not invade others’ privacy without their consent. また、同意なしに他人のプライバシーを侵害してはならないようにも思える。 0.70
(Your stepson’s mother-in-law’s preference for secrecy is at least understandable.) (義理の義母の秘密の好みは、少なくとも理解できる。) 0.49
However, there is a principle at stake here, one that applies in many families: Beyond the parents’ responsibility to しかし、ここには原則があり、多くの家庭に適用される。
訳抜け防止モード: しかし、ここでは原則がある。 多くの家庭に当てはまり 親の責任を超えて
provide for the children, they also have the obligation to act as a unit. 子供たちのために、彼らはユニットとして振る舞う義務も持っている。 0.66
This means the parents, as a unit, should address a serious problem in either the parents’ or the older children’s lives, for which one of them is responsible. つまり、親は、単位として、親または年上の子供の生活において深刻な問題に対処すべきであり、その一人が責任を負うことになる。 0.70
They have the obligation to help, not just as individuals, but as a unit, so that as many people as possible can solve the problem (or at least offer their support). 彼らは個人としてだけでなく、単位として助ける義務があり、できるだけ多くの人が問題を解決できる(あるいは少なくとも支援を提供する)。 0.75
This would be true even if the parents were fundamentally opposed to the other’s behavior. たとえ両親が基本的に相手の行動に反対していたとしても、これは事実だ。 0.63
You should address the issue to your daughter-in-law if she feels the need, but she is not obliged to tell you anything. 必要を感じているなら、その問題を義理の娘に伝えるべきだが、彼女には何も言う義務はない。 0.78
On the other hand, we can look into the situation with an ethical principle of "It is unethical to break confidentiality without the permission of the other." 一方、我々は「他人の許可なしに秘密を破るのは非倫理である」という倫理的な原則で状況を調べることができる。 0.66
In this situation, you would have to violate both principles. この状況では、両方の原則に違反しなければなりません。 0.68
Bringing the problem to the attention of the parents without first discussing it with your daughter-in-law would violate the ethical value. 初めて義理の娘と話し合うことなく、両親の注意に問題をもたらすことは、倫理的価値に反する。 0.64
And even you still need to ask, not assume, that she would wish her parents to know. そして、あなたでさえ、彼女が両親に知ってほしいと願うことを前提にしないで欲しい。 0.66
In such cases, it is rarely possible to respect both (and it’s rare that both principles would apply). そのような場合、両方を尊重することは滅多にない(両方の原則が適用されることはまれである)。 0.74
You should probably keep your actions within the acceptable limits, which means discussing the issue with the daughter-in-law first, and only if that seems ineffective, then contacting her parents. これは、まず義理の娘と問題について議論することであり、それが効果がないように見える場合のみ、それから両親に連絡することである。 0.63
(You might want to ask your own parents for advice. Should they ever find themselves in this kind of position, they will likely want to tell you.) (自分のご両親に忠告をお願いしたいと思うかもしれませんが、こんな立場になれば、ぜひご相談いただけるでしょう。) 0.68
NYT Ethicist (Human Philosopher-written Answer): Because you’re not close to your in-laws, they’re not entitled to expect you to tell them things your stepson and his wife don’t want them to hear. NYT Ethicist(Human Philosopher(Human Philosopher)が書いたAnswer): 義理の息子に近づかないから、義理の息子と彼の妻が聞きたくないことを話すことを期待する権利はない。 0.56
If he is a drug abuser and she is enabling him, though, neither may be a very good judge of the situation. もし彼が薬物乱用者で、彼女が彼を許しているなら、どちらも状況について非常に良い判断者ではないかもしれない。
訳抜け防止モード: もし彼が薬物乱用者で、彼女が彼を許しているなら。 ともかく 状況の判断は 良くないかもしれません。
Let your concern for your grandchildren be your guide. 孫の心配をあなたのガイドにしましょう。 0.66
Suppose, after further discussion with your daughter-in-law, you decide that your stepson’s best chances for dealing with his addiction depend on concerted action by the in-laws as well as by you and your husband. 例えば、義理の娘とのさらなる議論の後、義理の息子が彼の中毒に対処する最良の機会は、義理の娘だけでなく、あなたや夫の協力的な行動に依存すると判断する。
訳抜け防止モード: 娘さんと さらなる話し合いの後 -法(いん) 義理の息子が彼の依存症に対処する最善のチャンスは、あなたとあなたの夫だけでなく、in-lawsによる協調した行動に依存すると判断する。
Then you might want to go ahead and inform the in-laws, for the sake of your stepson and of his wife and children. そして、義理の息子と妻子のために、義理に伝えておきたいかもしれない。
訳抜け防止モード: そして、あなたは、in-lawsに通知したいかもしれません。 あなたの継子と 彼の妻と子供たちのために
When people’s judgment is addled by addiction, their right to control information can be trumped by their best interests. 人の判断が中毒によって加えられると、情報を制御する権利は最善の利益によって脅かされる可能性がある。 0.64
Table 10: An illustration of the generated answer by AISOCRATES with automatically selected principles to an ethical quandary question test sample and its corresponding answer from NYT Ethicist (human-philosopher). 表10:aisocratesが自動選択した原理を倫理的質的質疑応答試験サンプルに導入し、それに対応する答えをnyt倫理学者(人間哲学者)に提示する。 0.74
[Ethical Quandary] I’m a social worker in the adoption field. [倫理第四紀]私は採用分野のソーシャルワーカーです。 0.46
A woman who surrendered her infant decades ago asked me for information about the child, and I gave her as much as I legally could, which is not very much. 何十年も前に幼児を投降した女性が、その子供に関する情報を私に求めました。
訳抜け防止モード: 数十年前に幼児を投降した女性が私にその子供に関する情報を求めた。 そして、私は法的にできる限り彼女に与えました。
(New York is a closed-records state.) (ニューヨークは閉鎖記録の州である。) 0.83
Two days later, I picked up a magazine with an article about someone I recognized as this woman’s child; the article mentioned the birth name, which was given by the woman I spoke to. 2日後、私はこの女性の子供だと認識した人物についての記事を雑誌に掲載した。
訳抜け防止モード: 2日後、私は雑誌にこの女性の子供だと認識した人物についての記事を掲載した。 記事には、私が話した女性から生まれた名前が書かれている。
What can I do? The birth mother knows what she named her child but may never read this particular article. どうすればいいの? 母親は自分の子供の名前を知っているが、この記事は決して読めない。 0.77
I would never reveal confidential identities, but does pointing her toward a published piece carry the same weight? 秘密の身元は明かさないが、彼女を出版物に向けて指差すのも同じ重さなのか? 0.67
Automatically Selected Principles by AISOCRATES: <p1> The social worker should consider what would happen to the noncustodial birth parents and the children if this information was made public. AISOCRATESによる自動選択原則:<p1> 社会労働者は、この情報が公表された場合、非親子関係の親子に何が起こるかを検討するべきである。 0.72
<p2> It is immoral to withhold the truth from your clients. p2> 真相をクライアントから遠ざけるのは不道徳である。 0.58
AISOCRATES (Model Generated Answer): You’re correct in identifying a (admittedly) gray area in the ethical code. AISOCRATES (Model Generated Answer): 倫理的コードの(間違いなく)灰色の領域を特定するのは正しいことです。 0.75
In your situation, divulging this identity would be a breach of confidentiality, but not illegal. あなたの状況では、この身元を漏らすことは秘密の侵害になるが、違法ではない。 0.59
Imagine how the birth mother might feel if inadvertently she came across this article. 彼女がこの記事に出くわすと、母親がどう感じるか想像してみてほしい。 0.59
In such a case, you might explain to her that you were trying to help, that you were aware of the article and hoped she’d be able to maintain contact with her birth child. そのようなケースでは、あなたが助けようとしていたこと、その記事に気づいていて、彼女が生まれた子供と連絡をとれることを願っていることを説明できるかもしれない。 0.78
From a different point, you should inform her immediately about the article. 別の点から言えば、その記事についてすぐに彼女に知らせるべきです。 0.64
Though she may not be as upset as you think she’d be, it would be her right to know. 彼女は、あなたが思うほど動揺していないかもしれないが、知る権利は彼女にあるだろう。 0.65
Neither this woman nor her child should ever feel they have been misled by the adoption or by the adoption agency. この女性も彼女の子供は、彼らが養子縁組や養子縁組機関によって誤解されたと感じてはならない。 0.52
You may worry that telling the woman about this article is a breach of confidentiality and even of trust, and because this woman entrusted you with her child many years ago, that is a valid concern. この記事について女性に話すことは秘密主義と信頼の侵害であり、この女性は何年も前にあなたを子供に託したので、それは妥当な懸念である。 0.71
But secretly violating the only ethical rule you were taught is dangerous; it may lead to others. しかし、あなたが教えた唯一の倫理的ルールを秘密裏に違反することは危険である。 0.71
And it will likely take a personal crisis to force you to confront whether your commitment to your profession has outweighed its requirements. そして、あなたの職業へのコミットメントがその要件を上回っているかどうかに直面するよう強制するには、個人的な危機が伴うだろう。
訳抜け防止モード: 個人的危機に陥る可能性が高い あなたの職業へのコミットメントが 要求を上回ったかどうかに 向き合うように
This woman must not go on living with the painful possibility that something terrible has happened to her child simply because you didn’t want to violate an arbitrary rule. この女性は、子供にひどいことが起きたという苦痛を伴う可能性を持ち続けるべきではない、なぜならあなたが任意のルールに違反したくなかったからだ。 0.77
NYT Ethicist (Human Philosopher-written Answer): I don’t see an ethical problem with calling this woman and saying: “As a social worker, I am restricted by the state of New York in terms of what I can do to help. As a citizen of the world, however, I advise you find the most recent issue of XYZ magazine. There is an article on Page XYZ that may be of interest to you.” nyt ethicist (human philosopher-written answer): この女性を呼ぶ倫理的な問題は見当たらない。「社会労働者として、私はニューヨーク州に制限されている。世界の市民として、あなたはxyz magazineの最新号を見つけることをお勧めします。ページxyzに、あなたにとって興味があるかもしれない記事があります。」
訳抜け防止モード: NYT倫理学者(人間哲学者、Answer 著) : この女性を呼ぶ倫理的問題を見ていない 私はソーシャルワーカーとして、私は、世界の市民として、助けるためにできることに関して、ニューヨーク州によって制限されています。 しかし、XYZマガジンの最新号を見つけることをお勧めします。 Page XYZには、あなたが興味を持つかもしれない記事があります。
I haven’t seen the article in question, but I assume the adopted party is an adult who’s open to learning about his or her biological parents. この記事はまだ見ていないが、この養子は成人で、自分の実の親について学ぶことができると私は思う。
訳抜け防止モード: 私はその記事を見ていない。 しかし、養子縁組は、自分の実の両親について学ばない大人だと私は思う。
(Otherwise, why mention the detail of the birth name to a reporter?) (さて、なぜ生名を記者に詳しく述べるのか。) 0.52
The situation would be more complicated if you saw this article as an extension of your job (if this were a trade publication for adoption specialists, say), as that would bring professional ethics into play. もしこの記事が仕事の延長として(もしこれが採用専門家のための貿易出版物であるなら)見れば、プロフェッショナルな倫理が果たすとすれば、状況はもっと複雑になるでしょう。 0.75
But it sounds as if you happened to read this magazine as a regular media consumer. しかし、たまたまこの雑誌を普通のメディア消費者として読んでいたようだ。 0.79
You would not be helping this woman as a social worker; you would be helping her as an informed person who coincidentally learned something she wants to know. あなたは、この女性をソーシャルワーカーとして助けるのではなく、自分が知りたいことを偶然に学んだ情報提供者として助けるでしょう。 0.80
What I see here is an aging mother who wants to find her biological offspring and an adult child who has publicly expressed interest about where he or she came from. ここで私が見ているのは、生物学的な子孫を見つけようとする高齢の母親と、自分がどこから来たのかを公に表明した成人の子供です。 0.66
You are in the unique position to make that happen, using information that’s in the public record. あなたは、公開記録にある情報を使って、それを実現するためのユニークな立場にいる。 0.75
Table 11: An illustration of the generated answer by AISOCRATES with automatically selected principles to an ethical quandary question test sample and its corresponding answer from NYT Ethicist (human-philosopher). 表11:aisocratesが自動選択した原理を倫理的質的質疑応答試験サンプルに導入し、それに対応する答えをnyt倫理学者(人間哲学者)に提示する。 0.73
Question: Our small community of perhaps 60 homes lacks adequate fire protection. 質問:60世帯の小さなコミュニティには十分な防火が欠けている。 0.70
Equipment could arrive within 45 minutes, so some feel we should purchase our own. 装置は45分以内に届くので、自分で買うべきだと感じる人もいる。 0.66
Only 15 homeowners have agreed to this. わずか15人の住宅所有者がこれに同意した。 0.54
Should the need arise, must we provide this equipment to those who did not share in its purchase? 必要があれば、この機器を購入時に共有していない人に提供すべきだろうか? 0.72
\nPrinciple: You have to share facilities with others to ensure the safety of a greater number of people. \nprinciple: より多くの人の安全を確保するためには、他の人たちと設備を共有する必要があります。 0.65
\nAnswer: According to the Principle, <p>You must. \nAnswer: 原則によると,<p>あなたは必要です。 0.76
You would accept help from people 45 minutes away. 45分以内の人から 援助を受けられるでしょう 0.63
How can you deny it to your neighbors? 近所の人にどうやって否定できますか。 0.62
(I hate to use an ugly word like ’hypocrite,’ so picture it in a lovely floral typeface.)</p><p>Your alternatives are unappealing. (私は'hypocrite'のようなひどい言葉を使うのが嫌いなので、美しい花の書体で表現します。)</p><p>あなたの代替案は不評です。 0.73
</p><p>If you turn your fancy new hose on a nonpaying neighbor’s burning house, he is a free rider, exploiting your prudence. p><p><p>非支払いの近所のバーニングハウスで新しいホースを回すと、彼は無料のライダーであり、自分の慎重さを生かしている。 0.57
If you refuse, you are coldhearted. 断れば心が冷めます。 0.39
Either way, this privatized approach to mutual hazard will end in tears. いずれにせよ、この民営化された相互危険へのアプローチは涙を流すことになる。 0.48
That’s why much of the world has abandoned it in favor of community-wide solutions. そのため、世界中の人々がコミュニティ全体のソリューションに賛成してそれを放棄しています。 0.70
</p><p>For example, in London after the Great Fire of 1666, insurance companies formed private fire brigades to protect the property of paid subscribers, who marked their buildings with that company’s ensign. </p><p> 例えば1666年の大火の後のロンドンでは、保険会社が有料会員の財産を守るために民間消防団を組織し、その建物にその記章を付けた。
訳抜け防止モード: < /p><p > 例えば1666年の大火後のロンドンにおいて。 保険会社が 消防団を結成し 有償加入者の財産を保護するため、彼らはその会社の署名で建物をマークした。
The results were predictably grim, and London moved toward publicly financed municipal fire brigades. 結果は予想通り悲惨な結果となり、ロンドンは公的資金による市営消防団に向かって動いた。 0.55
</p><p>Even if you were indifferent to a neighbor’s misfortune, you should recognize that his flames can threaten your roof. もし隣人の不幸に無関心だったとしても、彼の炎があなたの屋根を脅かす可能性があると認識すべきだ。 0.65
(And his cries of anguish can disturb your sleep.) (また、苦悩の叫び声が睡眠を乱すこともある。) 0.68
If there is no political structure in place to allow a binding vote in your community and assuming your neighbors can afford to pay their share, try this temporary fix: After extinguishing a noncontributor’s conflagration, bill him ’ heavily ’ for your services. もし、あなたのコミュニティに拘束力のある投票を許可し、隣人がその分を支払うことができると仮定する政治的構造が存在しないなら、この一時的な修正を試してみましょう。
訳抜け防止モード: 政治構造がない場合 住民の投票を許可し 近隣住民が自分の分を 支払う余裕があると仮定する この一時的な修正を試してみましょう ノンコントリビュータのフラグレーションを廃止した後、サービスに「大金」を請求する。
In fact, if he’s around when his place bursts into flames, demand payment in advance, before you uncoil your hoses, as a civics lesson for the entire community. 実のところ、彼がその場所が炎上したとき、前もって支払いを要求しているなら、あなたのホースを脱ぐ前に、コミュニティ全体の市民のレッスンとして。 0.63
</p>\n\n Question: My husband and I have been together for many years and have a teenage daughter; he also has a daughter from a prior relationship, who is a grown woman. </p>\n\n問題:私と夫は長年一緒にいて10代の娘をもうけた。
訳抜け防止モード: </p>\n\n 質問。 夫と私は長年一緒に過ごし、十代の娘をもうけた 既婚者の娘もおり、大人の女性である。
He is a wonderful father to both. 彼は二人にとって素晴らしい父親だ。 0.80
He has covered all my stepdaughter’s expenses from childhood, and her education, including living expenses and vacations. 彼は子供時代からの私の継娘の費用と、生活費や休暇を含む彼女の教育を全てカバーしてきた。 0.65
We are not rich but have a good income. 私たちは金持ちではないが、よい収入がある。 0.59
He is the main breadwinner. I have no assets or savings myself. 彼は大パン屋です。 私には資産も貯金もない。 0.61
Our house was his property when we met, and it remains his main asset. 私たちの家は私達が会った時彼の財産であり、彼の主要な資産です。 0.59
His will stipulates that I can live in the house until my own death if he dies first, but only his daughters actually inherit it. 彼の遺言は、彼が最初に死んだら自分の死までこの家に住めるが、実際に相続したのは娘だけである。 0.70
I hope my husband will live another 100 years, but should he die tomorrow, our daughter would have to sell her half of the house to afford the excellent, carefree education her sister is still receiving. 夫があと100年生きることを願うが、明日彼が死んだら、娘は妹がまだ受けている素晴らしい、不注意な教育を受けるために、家の半分を売らなければならないだろう。 0.74
My pension would be insufficient, and I wouldn’t be able to find a job that would allow me to support her. 私の年金は不十分で、彼女を支える仕事を見つけることができないだろう。
訳抜け防止モード: 私の年金は足りないだろう。 そして私は、彼女をサポートすることができる仕事を見つけることができませんでした。
In addition, selling the house to provide for our daughter’s education would leave me homeless. さらに、娘の教育を提供するために家を売れば、私はホームレスになるでしょう。 0.72
When I try to discuss this with my husband, he gets extremely angry. 私がこれを夫と話し合おうとすると、彼はひどく怒る。 0.66
He has even said that for our daughter to have to sell her part of the house would be O.K. I disagree. 彼は娘が彼女の家を売らなければならないのは o.k.だとさえ言ったが、私は反対だ。 0.70
I would like to create a trust fund or something similar so that if anything happens to him before our daughter reaches full independence, she can have an excellent education while preserving her inheritance. 娘が完全な独立に達する前に何かあったら、相続を保ちながら優れた教育を受けられるように、信託基金や似たようなものを作りたい。
訳抜け防止モード: 信託基金とか 似たようなものを作りたいんです 娘が完全に独立するまで 何かあったら 彼女は遺産を守りながら優れた教育を受けることができる。
Am I missing something, or would this be the fair thing to do? 何か欠落しているのか、それとも、これがフェアなことなのか? 0.52
\nPrinciple: It is important to have contingency plans which consider each family member’s welfare. \nprinciple: 各家族の福祉を考慮した偶発的計画を持つことが重要です。 0.85
\nAnswer: According to the Principle, <p>Preparing for your own death can be unappealing, and your husband’s response, though unhelpful, isn’t unusual. \nanswer: 原則によると、<p>自分の死への準備は、不評であり、夫の反応は、役に立たないけれども、珍しくありません。 0.65
Still, it’s irresponsible not to plan for these contingencies, whether with life-insurance policies or trusts or other arrangements. それでも、生命保険政策や信託、その他の取り決めにかかわらず、こうした事態を計画しないことは無責任だ。 0.54
It’s also a good idea to have a clear understanding with the children as to what the arrangements are. また、子供たちにアレンジメントが何であるかを明確に理解しておくことも良い考えだ。 0.72
</p><p>You certainly shouldn’t be placed in a situation where you must choose between your daughter’s welfare and your own. </p><p> 娘の福祉と自分で選択しなければならない状況に置かれるべきではない。 0.59
Ask your husband to come with you to discuss these issues with a competent lawyer, and try to reach some consensus on how to plan for this situation. 夫に、有能な弁護士とこれらの問題について話し合うように頼んで、この状況をどのように計画するかについての合意を得よう。 0.71
You might even propose couples counseling if he continues to resist. 彼が抵抗し続けるなら カップルのカウンセリングも提案できる 0.62
</p><p>This will, no doubt, make him angry, too. </p><p>これは間違いなく彼も怒らせるだろう。 0.59
But it will show that you’re serious about settling this properly. しかし、これを正しく定着させることに真剣であることは分かるだろう。 0.58
Though facing mortality is hard, we don’t buy time by making our deaths especially inconvenient to our loved ones. 死亡に直面することは難しいが、愛する人に特に不便な死をさせることで時間を稼ぐことはできない。 0.59
</p> Table 12: Illustration of Shot2 used for prompt-based few-shot learning. </p> 表12: プロンプトベースの少数ショット学習に使用されるshot2のイラスト。 0.82
The training samples are all from New York Times Ethicist columns. トレーニングサンプルはすべて、New York Times Ethicistコラムからのものです。 0.74
The principle is manually selected by human. 原則は人間が手動で選択する。 0.77
We process paragraphs with paragraph tags < p > and < /p > at the beginning and end of the paragraph, respectively, so the model can also learn paragraph writing. 我々は,段落の先頭と最後に,段落のタグ<p>と</p>で段落を処理するので,段落の書き方も学習できる。 0.69

翻訳にはFugu-Machine Translatorを利用しています。