論文の概要: Aristotelian Virtue Profiling of LLMs through Ethical Dilemmas

• arxiv url: http://arxiv.org/abs/2606.28683v1
• Date: Sat, 27 Jun 2026 01:51:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.642003
• Title: Aristotelian Virtue Profiling of LLMs through Ethical Dilemmas
• Title（参考訳）: 倫理的ジレンマによるLLMのアリストテレス硝子体プロファイリング
• Abstract要約: 大規模言語モデル(LLM)は、いくつかの応答が防御可能であるが、異なる優先順位を表現するという倫理的なトレードオフに直面していることが多い。 我々は、アリストテレスの美徳倫理レンズを通してこれらのパターンを記述するためのフレームワークであるVirtueMapを紹介した。
• 参考スコア（独自算出の注目度）: 6.194291632696817
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) often face ethical tradeoffs in which several responses may be defensible but express different priorities, such as fairness, honesty, courage, or restraint. We introduce VirtueMap, a framework for describing these patterns through an Aristotelian virtue-ethics lens. Instead of asking for a single correct answer, VirtueMap asks humans or LLMs to rank all five responses to each of seven general, non-lethal, non-political, and non-religious ethical dilemmas. To define the reference orderings used for scoring, we first proposed, for each dilemma and virtue, an ordering of the five responses from most to least expressive of that virtue. We then collected more than 100 respondent evaluations per ordering and retained it as operational ground truth only when at least 95% confirmed it. Rankings are scored against these retained orderings using normalized Borda alignment, yielding profiles over Practical Wisdom, Justice, Truthfulness, Courage, and Temperance. We apply VirtueMap to nine LLM families in a repeated-run evaluation and find high mean rank consistency (90.3%), with the largest differences appearing on Courage, Temperance, and Justice. We also release an interactive website that computes profiles locally in the browser and compares respondents with measured LLM profiles.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、いくつかの応答が防御可能であるが、公正さ、誠実さ、勇気、抑制など、異なる優先順位を示すという倫理的なトレードオフに直面していることが多い。 我々は、アリストテレスの美徳倫理レンズを通してこれらのパターンを記述するためのフレームワークであるVirtueMapを紹介した。 VirtueMapは1つの正しい答えを求める代わりに、人間やLLMに7つの一般、非致命的、非政治的、非宗教的な倫理ジレンマにそれぞれ5つの回答をランク付けするよう求めている。 スコアリングに使用する基準順序を定義するために,まず,各ジレンマと美徳に対して,その美徳の最も多くから最も表現力の低い5つの応答の順序付けを提案する。 そして、注文毎に100以上の応答性評価を収集し、少なくとも95%が確認した時点でのみ、運用基盤の真理として保持した。 ランク付けは、正規化されたボルダのアライメントを使用してこれらの保持された順序に対して行われ、実践的な知恵、正義、真実、勇気、テンペランスのプロフィールが得られる。 我々は、9つのLLMファミリーにVirtueMapを適用し、Courage、Temperance、Jiceに最も大きな違いが現れる平均整合性(90.3%)を見出した。 また、ブラウザ上でプロファイルをローカルに計算し、回答者をLLMプロファイルと比較するインタラクティブWebサイトもリリースしました。

関連論文リスト

• A Scalable Approach to Evaluating Moral Sensitivity in LLMs [0.8020810825770993]
  道徳的感受性は、意思決定状況の道徳的な特徴を識別し、行動の基盤として使用する能力である。 本稿では,LLMの道徳的感受性の新たな評価法を提案する。 道徳的に無関係な摂動は、しばしばリストされた特徴数を変えたが、これらの特徴のセマンティックな内容は、全ての雑音条件で安定していた。
  論文  参考訳（メタデータ） (2026-07-03T05:28:43Z)
• LivingArena: Do LLMs Know What Other LLMs Don't? Peer-Probing as Scalable Evaluation [79.03892269184145]
  LivingArenaは自動汚染耐性評価フレームワークである。 モデルは質問を交互に提案し、相手が正しく答えられないアイテムを提示する。 質問者は、相手の知識境界を積極的に特定し、活用することが奨励される。
  論文  参考訳（メタデータ） (2026-06-19T06:20:58Z)
• Normative Robustness as a Frontier for Non-Verifiable Reasoning in LLMs [12.025454858026187]
  非検証可能な推論のパラダイム的サブドメインとして道徳的推論を提案する。 4 つのフロンティア LLM における 48,000 人のユーザエージェントの道徳的検討をシミュレートする。 我々の分析は、モデルが最終的な判断だけでなく、ユーザーの道徳的視点に合わせるための根拠となる正当化を調整していることを示している。
  論文  参考訳（メタデータ） (2026-06-10T22:37:26Z)
• Not What, But How: A Framework for Auditing LLM Responses across Positioning, Generalization, Anthromorphism, and Maxims [54.31707479192195]
  大規模言語モデル(LLM)は、主観的、情報探索的な疑問に答えるためにますます使われている。 既存の主観的文化的クエリの評価は、応答のフレーム化を無視して、事実の正しさに重点を置いている。 FRANZ(FRAmework for respoNse characteriZation)を導入し、4次元のLLM応答のコミュニケーション監査を行う。
  論文  参考訳（メタデータ） (2026-06-01T17:01:31Z)
• DailyDilemmas: Revealing Value Preferences of LLMs with Quandaries of Daily Life [46.11149958010897]
  日常生活で遭遇した1,360の道徳的ジレンマのデータセットであるDailyDilemmasを提示する。 それぞれのジレンマは、影響された当事者と、それぞれの行動に関する関連する人間の価値の2つの可能な行動を示す。 我々は社会学、心理学、哲学に触発された5つの理論的枠組みのレンズを通して価値を分析する。
  論文  参考訳（メタデータ） (2024-10-03T17:08:52Z)
• MACAROON: Training Vision-Language Models To Be Your Engaged Partners [95.32771929749514]
  大規模視覚言語モデル(LVLM)は、質問が曖昧でラベルが付されていない場合でも詳細な応答を生成する。 本研究では,LVLMを受動的回答提供者から積極的参加パートナーへ移行することを目的とする。 我々は、LVLMに対して、ラベルなし質問に対するコントラスト応答対を自律的に生成するように指示する、ContrAstive pReference Optimizationのための自己iMaginAtionであるMACAROONを紹介する。
  論文  参考訳（メタデータ） (2024-06-20T09:27:33Z)
• Ranking Large Language Models without Ground Truth [24.751931637152524]
  大規模言語モデル(LLM)の評価とランキングは,これらのモデルの普及に伴って重要な問題となっている。 我々は、プロンプトのデータセットが与えられた場合、根拠となる真実や参照応答にアクセスせずにそれらをランク付けする、新しい視点を提供する。 この考え方を繰り返し適用し、LLMをランク付けする2つの方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T00:49:43Z)
• Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision [84.31474052176343]
  ChatGPTのような最近のAIアシスタントエージェントは、人間のアノテーションと人間のフィードバックからの強化学習を教師付き微調整(SFT)に頼り、アウトプットを人間の意図に合わせる。 この依存は、人間の監督を得るために高いコストがかかるため、AIアシスタントエージェントの真の可能性を大幅に制限することができる。 本稿では,AIエージェントの自己調整と人間監督の最小化のために,原則駆動推論とLLMの生成能力を組み合わせたSELF-ALIGNという新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-04T17:59:28Z)
• AiSocrates: Towards Answering Ethical Quandary Questions [51.53350252548668]
  AiSocrates(アイソクラテス)とは、異なる視点を倫理的四項に交換するシステムである。 AiSocratesは、複数の視点で倫理的4つの質問に対する有望な回答を生成する。 我々は,AiSocratesが人的価値を明示的に組み込んだNLPシステムの開発に向けた有望なステップであると主張する。
  論文  参考訳（メタデータ） (2022-05-12T09:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。