論文の概要: A Unified Moral-Value Dataset for Instruction Tuning

• arxiv url: http://arxiv.org/abs/2607.21279v1
• Date: Thu, 23 Jul 2026 12:57:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.415747
• Title: A Unified Moral-Value Dataset for Instruction Tuning
• Title（参考訳）: インストラクションチューニングのためのモラル値統一データセット
• Authors: Zhaohui Zeng, Florian Mai,
• Abstract要約: 大きな言語モデル(LLM)を特定の人間の値のセットに合わせる方法はまだ未解決の問題である。 近年の研究では、命令チューニングはゼロショットタスクに強い可能性を秘めている。 我々は、命令チューニングに直接使用できる統一されたモラル値データセットを構築した。
• 参考スコア（独自算出の注目度）: 2.97193551880289
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have developed rapidly and become valuable tools in everyday life. However, how to align LLMs to a particular set of human values is still an open problem. Recent studies show that instruction tuning has strong potential for zero-shot tasks and may serve as an effective approach to addressing value alignment. Nevertheless, although many datasets for instruction tuning already exist, they are not specifically designed around moral scenarios and behaviors. We construct a unified moral-value dataset that can be directly used for instruction tuning. This dataset is built upon existing moral-value datasets by merging them into a unified corpus and converting them into an instruction-response format. We show that training on a mixed dataset combining general task datasets with our dataset preserves general-task performance, and we report preliminary observations on how the mixing ratio affects value-oriented task performance. Our work provides a moral-value dataset for instruction tuning and offers a useful resource for further alignment research. The dataset is available at https://huggingface.co/datasets/teohzzh/value-for-instruction-tuning.
• Abstract（参考訳）: 大規模言語モデル(LLM)は急速に発展し、日常生活において貴重なツールとなっている。 しかし、LLMを特定の人間の値に合わせる方法はまだ未解決の問題である。 近年の研究では、命令チューニングはゼロショットタスクに強い可能性を持ち、値アライメントに対処するための効果的なアプローチとして機能することが示されている。 それでも、チューニングチューニングのためのデータセットは数多く存在するが、道徳的なシナリオや振る舞いに特化して設計されているわけではない。 我々は、命令チューニングに直接使用できる統一されたモラル値データセットを構築した。 このデータセットは、既存のモラルバリューデータセットを統合コーパスにマージし、命令応答形式に変換することで構築される。 汎用タスクデータセットとデータセットを組み合わせた混合データセットのトレーニングは、汎用タスク性能を保ち、混合比率がタスク性能にどのように影響するかを予備的な観察結果として報告する。 我々の研究は、トレーニングチューニングのための道徳値データセットを提供し、さらなるアライメント研究に有用なリソースを提供する。 データセットはhttps://huggingface.co/datasets/teohzzh/value-for-instruction-tuningで公開されている。

関連論文リスト

• Cookbook: A framework for improving LLM generative abilities via programmatic data generating templates [57.29125360837203]
  Cookbookはランダムトークン上の単純なパターンからなるトレーニングデータを生成するフレームワークである。 クックブック生成したデータの微調整により,対応するタスクの性能を最大52.7の精度で向上できることがわかった。
  論文  参考訳（メタデータ） (2024-10-07T17:29:40Z)
• TAIA: Large Language Models are Out-of-Distribution Data Learners [30.57872423927015]
  効果的な推論時間介入手法を提案する:全てのパラメータを訓練するが、注意のみで推論する(trainallInfAttn)。 trainallInfAttnは、ほとんどのシナリオで完全に調整されたモデルとベースモデルの両方と比較して、優れた改善を実現している。 trainallInfAttnのデータのミスマッチに対する高い耐性は、jailbreakのチューニングに耐性を持ち、一般的なデータを使った特別なタスクを強化する。
  論文  参考訳（メタデータ） (2024-05-30T15:57:19Z)
• Less is More: High-value Data Selection for Visual Instruction Tuning [127.38740043393527]
  本稿では,視覚的命令データの冗長性を排除し,トレーニングコストを削減するために,高価値なデータ選択手法TIVEを提案する。 約15%のデータしか使用していない我々のアプローチは、8つのベンチマークで全データ微調整モデルに匹敵する平均性能を実現することができる。
  論文  参考訳（メタデータ） (2024-03-14T16:47:25Z)
• Learning to Generate Instruction Tuning Datasets for Zero-Shot Task Adaptation [9.574486521686323]
  Bonitoは、未注釈のテキストをタスク固有のトレーニングデータセットに変換する条件付きタスク生成のモデルである。 そこで,本研究では,自己教師付きベースライン上での事前学習モデルと指導モデルの平均性能を著しく向上することを示す。
  論文  参考訳（メタデータ） (2024-02-28T13:54:57Z)
• Dynosaur: A Dynamic Growth Paradigm for Instruction-Tuning Data Curation [92.2167864437497]
  インストラクションチューニングデータの自動キュレーションのための動的成長パラダイムであるDynosaurを提案する。 既存のデータセットのメタデータに基づいて、LLMを使用して、関連するデータフィールドを特定し、適切な命令を生成することで、命令調整データを自動的に構築する。 既存のアノテートデータセットを活用することで、Dynosaurには、命令を生成するためのAPIコストを削減すること、命令チューニングのための高品質なデータを提供すること、新しいアノテートデータセットが利用可能になったときに、命令チューニングデータを生成することで、モデルの継続的な改善をサポートすること、など、いくつかのメリットがある。
  論文  参考訳（メタデータ） (2023-05-23T17:56:26Z)
• A Data Fusion Framework for Multi-Domain Morality Learning [3.0671872389903547]
  複数の異種データセットをトレーニングするためのデータ融合フレームワークについて述べる。 提案フレームワークは,道徳的推論における先行研究と比較して,異なるデータセットにおける最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-04-04T22:05:02Z)
• How Useful is Self-Supervised Pretraining for Visual Tasks? [133.1984299177874]
  我々は、総合的な合成データセットと下流タスクにまたがる様々な自己教師付きアルゴリズムを評価する。 我々の実験は、利用可能なラベルの数が増えるにつれて、セルフスーパービジョンの有用性がどう変化するかについての洞察を提供する。
  論文  参考訳（メタデータ） (2020-03-31T16:03:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。