論文の概要: The Goofus & Gallant Story Corpus for Practical Value Alignment

• arxiv url: http://arxiv.org/abs/2501.09707v1
• Date: Thu, 16 Jan 2025 17:58:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-17 15:10:30.249987
• Title: The Goofus & Gallant Story Corpus for Practical Value Alignment
• Title（参考訳）: 実践的価値アライメントのためのGoofus & Gallant Story Corpus
• Authors: Md Sultan Al Nahian, Tasmia Tasrin, Spencer Frazier, Mark Riedl, Brent Harrison,
• Abstract要約: 価値や原則は、人々の行動と機能に影響を与える人間の社会の重要な要素である。 人間の社会ではAIシステムがユビキタスになりつつあるため、これらの規範や価値観に違反し、潜在的に害をもたらす可能性があるという大きな懸念がある。 本研究では,実生活における規範的・非規範的行動を示すマルチモーダルデータセットを提案する。
• 参考スコア（独自算出の注目度）: 2.0938191327156037
• License:
• Abstract: Values or principles are key elements of human society that influence people to behave and function according to an accepted standard set of social rules to maintain social order. As AI systems are becoming ubiquitous in human society, it is a major concern that they could violate these norms or values and potentially cause harm. Thus, to prevent intentional or unintentional harm, AI systems are expected to take actions that align with these principles. Training systems to exhibit this type of behavior is difficult and often requires a specialized dataset. This work presents a multi-modal dataset illustrating normative and non-normative behavior in real-life situations described through natural language and artistic images. This training set contains curated sets of images that are designed to teach young children about social principles. We argue that this is an ideal dataset to use for training socially normative agents given this fact.
• Abstract（参考訳）: 価値や原則は、社会的秩序を維持するための社会的規則の標準セットに従って人々の行動と機能に影響を与える人間の社会の重要な要素である。 人間の社会ではAIシステムがユビキタスになりつつあるため、これらの規範や価値観に違反し、潜在的に害をもたらす可能性があるという大きな懸念がある。 したがって、意図的または意図しない害を防ぐため、AIシステムはこれらの原則に沿った行動を取ることが期待されている。 このような振る舞いを示すためのトレーニングシステムは困難であり、しばしば特別なデータセットを必要とする。 本研究は,自然言語や芸術的イメージを通して記述された実生活における規範的・非規範的行動を示すマルチモーダルデータセットを提案する。 このトレーニングセットには、幼児に社会原理を教えるために設計された、キュレートされたイメージセットが含まれている。 この事実を考えると、このデータセットは社会的規範的エージェントのトレーニングに使用するのに理想的なデータセットである、と我々は主張する。

関連論文リスト

• The Reasonable Person Standard for AI [0.0]
  アメリカの法制度では、しばしば「合理的な人格基準」を用いる。 本稿では、合理的な人格基準が、モデルで開発、調査、ストレステストを行うべき行動の種類について有用なガイドラインを提供すると論じる。
  論文  参考訳（メタデータ） (2024-06-07T06:35:54Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• "One-Size-Fits-All"? Examining Expectations around What Constitute "Fair" or "Good" NLG System Behaviors [57.63649797577999]
  NLGシステム入力において、異なる種類のアイデンティティ関連言語特徴(名前、役割、場所、方言、スタイル)を摂動するケーススタディを行う。 適応の動機には、社会的規範、文化的相違、特徴特化情報、宿泊が含まれる。 対照的に、不変性のモチベーションには、規範主義を支持する視点、NLGシステムが適切に行うのが不必要または困難であると見なす視点、偽の仮定に注意を払っている視点が含まれる。
  論文  参考訳（メタデータ） (2023-10-23T23:00:34Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)
• Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
  我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。 我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
  論文  参考訳（メタデータ） (2022-05-04T09:54:33Z)
• Learning Norms via Natural Language Teachings [0.0]
  本稿では,自然言語テキストからノルムを学習するための計算手法を紹介し,実演する。 日々の人々が社会規範についてAIシステムを訓練する基盤を提供する。
  論文  参考訳（メタデータ） (2022-01-20T22:09:42Z)
• Toward a Theory of Justice for Artificial Intelligence [2.28438857884398]
  社会の基本構造は、社会技術システムの複合体として理解されるべきである。 結果として、平等主義的な正義の規範は、これらの文脈に展開されるときにその技術に適用される。
  論文  参考訳（メタデータ） (2021-10-27T13:23:38Z)
• Moral Stories: Situated Reasoning about Norms, Intents, Actions, and their Consequences [36.884156839960184]
  現代のNLGモデルが社会環境にデプロイされたシステムの行動優先度として機能するかどうかを検討する。 本研究では,「モラルストーリー」という,階層的,分枝的なナラティブのクラウドソーシングデータセットを導入し,基礎的,目標指向の社会推論の研究を行う。
  論文  参考訳（メタデータ） (2020-12-31T17:28:01Z)
• Social Chemistry 101: Learning to Reason about Social and Moral Norms [73.23298385380636]
  我々は、人々の日常的な社会的規範と道徳的判断を研究するための新しい概念的形式主義である社会化学を提示する。 Social-Chem-101は大規模なコーパスで292Kのルールをカタログ化している。 モデルフレームワークであるNeural Norm Transformerは、Social-Chem-101を学習し、一般化し、これまで見つからなかった状況の推論に成功した。
  論文  参考訳（メタデータ） (2020-11-01T20:16:45Z)
• Hacia los Comit\'es de \'Etica en Inteligencia Artificial [68.8204255655161]
  以下のルールを監督できるルールと専門組織を作成することが最優先である。 この研究は、大学において、人工知能に特化した倫理委員会や委員会を創設することを提案する。
  論文  参考訳（メタデータ） (2020-02-11T23:48:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。