論文の概要: Machine Learning Approaches for Principle Prediction in Naturally Occurring Stories

• arxiv url: http://arxiv.org/abs/2212.06048v1
• Date: Sat, 19 Nov 2022 03:14:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-18 19:03:32.540843
• Title: Machine Learning Approaches for Principle Prediction in Naturally Occurring Stories
• Title（参考訳）: 自然発生ストーリーの原理予測のための機械学習アプローチ
• Authors: Md Sultan Al Nahian, Spencer Frazier, Brent Harrison, Mark Riedl
• Abstract要約: 本研究では,自然発生ストーリーデータに対する規範的原理予測の課題に対する機械学習モデルの利用について検討する。 個別の原則は分類できるが、「道徳的原則」が表すもののあいまいさは、人間の参加者と自律システムの両方に課題をもたらすことを示す。
• 参考スコア（独自算出の注目度）: 9.652610879417326
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Value alignment is the task of creating autonomous systems whose values align with those of humans. Past work has shown that stories are a potentially rich source of information on human values; however, past work has been limited to considering values in a binary sense. In this work, we explore the use of machine learning models for the task of normative principle prediction on naturally occurring story data. To do this, we extend a dataset that has been previously used to train a binary normative classifier with annotations of moral principles. We then use this dataset to train a variety of machine learning models, evaluate these models and compare their results against humans who were asked to perform the same task. We show that while individual principles can be classified, the ambiguity of what "moral principles" represent, poses a challenge for both human participants and autonomous systems which are faced with the same task.
• Abstract（参考訳）: 価値アライメントは、人間の価値と一致した自律的なシステムを構築するタスクである。 過去の研究は、ストーリーが人間の価値に関する情報の潜在的に豊富な情報源であることを示してきたが、過去の作業はバイナリな意味での価値を考えることに限られていた。 本研究では,自然発生するストーリーデータに対する規範原理予測タスクにおける機械学習モデルの利用について検討する。 これを実現するために、これまでに二項規範分類器のトレーニングに使用されたデータセットを道徳的原則のアノテーションで拡張する。 次に、このデータセットを使用して、さまざまな機械学習モデルをトレーニングし、これらのモデルを評価し、同じタスクを実行するように求められた人間と比較します。 個別の原則は分類できるが、「道徳的原則」が表すもののあいまいさは、人間の参加者と、同じ課題に直面している自律システムの両方に課題をもたらすことを示す。

関連論文リスト

• Process-aware Human Activity Recognition [1.912429179274357]
  本稿では,HARの性能向上のために,コンテキストからのプロセス情報を組み込んだ新しい手法を提案する。 具体的には、機械学習モデルによって生成された確率的事象と、文脈情報から導出されるプロセスモデルとを一致させる。 このアライメントは、これらの2つの情報源を適応的に重み付けし、HARの精度を最適化する。
  論文  参考訳（メタデータ） (2024-11-13T17:53:23Z)
• When is an Embedding Model More Promising than Another? [33.540506562970776]
  埋め込みは機械学習において中心的な役割を担い、あらゆるオブジェクトを数値表現に投影し、様々な下流タスクを実行するために利用することができる。 埋め込みモデルの評価は一般にドメイン固有の経験的アプローチに依存する。 本稿では, 組込み器の評価を統一的に行い, 充足性と情報性の概念を考察する。
  論文  参考訳（メタデータ） (2024-06-11T18:13:46Z)
• Quantifying Human Bias and Knowledge to guide ML models during Training [0.0]
  トレーニングプロセスに人間を含めることで、歪んだデータセットを扱うための実験的なアプローチを導入する。 我々は、データセットの特徴の重要性をランク付けし、ランクアグリゲーションを通じて、モデルの初期重みバイアスを決定するよう人間に求める。 我々は、集団的人間の偏見によって、機械学習モデルがバイアス標本の代わりに真の人口についての洞察を学習できることを示した。
  論文  参考訳（メタデータ） (2022-11-19T20:49:07Z)
• JECC: Commonsense Reasoning Tasks Derived from Interactive Fictions [75.42526766746515]
  本稿では,人間のインタラクティブ・フィクション(IF)ゲームプレイ・ウォークスルーに基づく新しいコモンセンス推論データセットを提案する。 本データセットは,事実知識ではなく,機能的コモンセンス知識ルールの評価に重点を置いている。 実験の結果、導入したデータセットは、以前の機械読影モデルと新しい大規模言語モデルに難題であることが示されている。
  論文  参考訳（メタデータ） (2022-10-18T19:20:53Z)
• Synthetic Model Combination: An Instance-wise Approach to Unsupervised Ensemble Learning [92.89846887298852]
  ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。 専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
  論文  参考訳（メタデータ） (2022-10-11T10:20:31Z)
• Masked prediction tasks: a parameter identifiability view [49.533046139235466]
  マスク付きトークンの予測に広く用いられている自己教師型学習手法に着目する。 いくつかの予測タスクは識別可能性をもたらすが、他のタスクはそうではない。
  論文  参考訳（メタデータ） (2022-02-18T17:09:32Z)
• Representative & Fair Synthetic Data [68.8204255655161]
  公平性制約を自己監督学習プロセスに組み込むためのフレームワークを提示する。 私たちはuci成人国勢調査データセットの代表者および公正版を作成します。 我々は、代表的かつ公正な合成データを将来有望なビルディングブロックとみなし、歴史的世界ではなく、私たちが生きようとしている世界についてアルゴリズムを教える。
  論文  参考訳（メタデータ） (2021-04-07T09:19:46Z)
• Ethical behavior in humans and machines -- Evaluating training data quality for beneficial machine learning [0.0]
  本研究では、教師付き機械学習アプリケーションのためのデータ品質の新しい次元について述べる。 本研究の目的は、その行動の倫理的評価に基づいて、トレーニングデータをどのように選択できるかを説明することである。
  論文  参考訳（メタデータ） (2020-08-26T09:48:38Z)
• Aligning AI With Shared Human Values [85.2824609130584]
  私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。 現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。 私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
  論文  参考訳（メタデータ） (2020-08-05T17:59:16Z)
• Probabilistic Active Meta-Learning [15.432006404678981]
  先行経験に基づくタスク選択をメタ学習アルゴリズムに導入する。 シミュレーションロボット実験の強いベースラインと比較して,本手法がデータ効率を向上させるという実証的証拠を提供する。
  論文  参考訳（メタデータ） (2020-07-17T12:51:42Z)
• Learning Predictive Models From Observation and Interaction [137.77887825854768]
  世界との相互作用から予測モデルを学ぶことで、ロボットのようなエージェントが世界がどのように働くかを学ぶことができる。 しかし、複雑なスキルのダイナミクスを捉えるモデルを学ぶことは大きな課題である。 本研究では,人間などの他のエージェントの観察データを用いて,トレーニングセットを増強する手法を提案する。
  論文  参考訳（メタデータ） (2019-12-30T01:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。