論文の概要: A Method for Learning Value Systems in Generative AI

• arxiv url: http://arxiv.org/abs/2607.16903v1
• Date: Sat, 18 Jul 2026 17:37:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.29987
• Title: A Method for Learning Value Systems in Generative AI
• Title（参考訳）: 生成型AIにおける価値体系の学習方法
• Abstract要約: この研究は、生成AIにおける基底値学習手法の欠如に対処する。 我々は、事前に検証された価値体系学習法を生成AI設定に適用する。 我々のアルゴリズムは、基底学習過程を動的に優先順位付けする。
• 参考スコア（独自算出の注目度）: 1.376408511310322
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Value-aware AI systems require explicit computational representations of human values (groundings) and their aggregation into value systems in order to align their decisions with ours. As such representations are difficult to elicit, value learning seeks to infer them by observing human behaviour. This work addresses the lack of grounded value learning methods in generative AI: existing approaches typically replicate human preferences without awareness of the multidimensional structure of value alignment, or lack principled value system elicitation methods. To address these gaps, we adapt a previously validated value system learning method to the generative AI setting, which, based on pairwise prompt-response preference data, simultaneously learns: i) an implementation of a grounding for a set of values given by a multi-objective reward model, and ii) a value system representation in the form of a weighted linear scalarization of the previous grounding model. To ensure that the learned value systems are based on coherent value representations, our algorithm dynamically prioritizes the grounding learning process. We evaluate the method against baselines and a contemporary method on prompt-response preference datasets. Results show competitive performance and minimal trade-offs against the baselines, while improving explainability.
• Abstract（参考訳）: 価値を意識したAIシステムは、決定を私たちと整合させるために、人的価値(接地)とその価値システムへの集約を明確に計算表現する必要がある。 このような表現を導き出すのは難しいため、価値学習は人間の行動を観察してそれらを推測しようとする。 既存のアプローチは、一般的に、価値アライメントの多次元構造を意識せずに人間の好みを再現する。 これらのギャップに対処するため、我々は事前に検証された値システム学習法を生成AI設定に適用し、ペアワイズ・プロンプト・レスポンス・プライオリティデータに基づいて同時に学習する。 一 多目的報酬モデルにより与えられる値の集合に対する基礎の実施及び 二 前の接地モデルの重み付き線形スカラー化の形での値体系表現 学習した値システムがコヒーレントな値表現に基づいていることを保証するため、アルゴリズムは基底学習プロセスを動的に優先順位付けする。 提案手法をベースラインに対して評価し,提案手法をアクセプティブ・レスポンス・プライオリティ・データセット上で評価する。 結果は、基本ラインに対する競争性能と最小限のトレードオフを示しながら、説明可能性を改善している。

関連論文リスト

• Measuring the Machine: Evaluating Generative AI as Pluralist Sociotechical Systems [0.0]
  この論文は、生成的AIは複数の社会技術システムとして評価されなければならないと主張している。 MaSH Loopsは、モデル、ユーザ、組織が意味と価値を共構築する方法をトレースするフレームワークである。 World Values Benchmarkは、World Values Surveyのデータに基づく分散アプローチを導入している。
  論文  参考訳（メタデータ） (2026-04-22T13:29:33Z)
• Learning the Value Systems of Societies with Preference-based Multi-objective Reinforcement Learning [4.735670734773144]
  価値を意識したAIは、人間の価値を認識し、異なるユーザの価値システム(価値に基づく嗜好)に適応すべきである。 エージェント社会における価値アライメントと価値体系のモデル学習のためのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-02-09T16:06:36Z)
• Learning the Value Systems of Agents with Preference-based and Inverse Reinforcement Learning [1.6970482663318245]
  Agreement Technologies(コンセンサス・テクノロジー)とは、自律的なソフトウェアエージェントが相互に対話するオープンコンピュータシステムを指す。 本研究では,観察と人間の実演から価値システムを自動的に呼び出す新しい手法を提案する。
  論文  参考訳（メタデータ） (2026-02-04T13:07:15Z)
• A Survey on Generative Recommendation: Data, Model, and Tasks [55.36322811257545]
  ジェネレーティブ・レコメンデーションは、差別的なスコアではなく、世代としてのレコメンデーションを再認識する。 この調査は、データ、モデル、タスク次元にまたがる統合された三部構成のフレームワークを通じて包括的な調査を提供する。 世界知識の統合、自然言語理解、推論能力、スケーリング法則、創造的生成の5つの主要な利点を特定します。
  論文  参考訳（メタデータ） (2025-10-31T04:02:58Z)
• Unlearning Comparator: A Visual Analytics System for Comparative Evaluation of Machine Unlearning Methods [23.6050988823262]
  Machine Unlearning(MU)は、トレーニングされたモデルからターゲットトレーニングデータを削除して、削除されたデータがモデルの振る舞いにもはや影響を与えないようにすることを目的としている。 しかし、この急速に発展する分野の研究者たちは、異なるMUメソッドの振る舞いを分析し、理解する上で困難に直面している。 MU手法の体系的評価を容易にするために,視覚解析システムUnlearning Comparatorを導入する。
  論文  参考訳（メタデータ） (2025-08-18T08:53:53Z)
• Learning the Value Systems of Societies from Preferences [1.3836987591220347]
  人間の価値観と様々な利害関係者の価値観に基づく嗜好を持つAIシステムを調整することは、倫理的AIにおいて鍵となる。 価値認識型AIシステムでは、意思決定は個々の値の明示的な計算表現に基づいて行われる。 本稿では,社会の価値体系を学習する上での課題に対処する手法を提案する。
  論文  参考訳（メタデータ） (2025-07-28T11:25:55Z)
• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• Heterogeneous Value Alignment Evaluation for Large Language Models [91.96728871418]
  大規模言語モデル(LLM)は、その価値を人間のものと整合させることを重要視している。 本研究では,LLMと不均一値の整合性を評価するため,不均一値アライメント評価(HVAE)システムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T02:34:20Z)
• DEALIO: Data-Efficient Adversarial Learning for Imitation from Observation [57.358212277226315]
  観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。 近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。 この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。 よりデータ効率の高いifOアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-31T23:46:32Z)
• Self-organizing Democratized Learning: Towards Large-scale Distributed Learning Systems [71.14339738190202]
  民主化された学習(Dem-AI)は、大規模な分散および民主化された機械学習システムを構築するための基本原則を備えた全体主義的哲学を定めている。 本稿では,Dem-AI哲学にヒントを得た分散学習手法を提案する。 提案アルゴリズムは,従来のFLアルゴリズムと比較して,エージェントにおける学習モデルの一般化性能が向上することを示す。
  論文  参考訳（メタデータ） (2020-07-07T08:34:48Z)
• Active Learning for Nonlinear System Identification with Guarantees [102.43355665393067]
  状態遷移が既知の状態-作用対の特徴埋め込みに線形に依存する非線形力学系のクラスについて検討する。 そこで本稿では, トラジェクティブ・プランニング, トラジェクティブ・トラッキング, システムの再推定という3つのステップを繰り返すことで, この問題を解決するためのアクティブ・ラーニング・アプローチを提案する。 本手法は, 非線形力学系を標準線形回帰の統計速度と同様, パラメトリック速度で推定する。
  論文  参考訳（メタデータ） (2020-06-18T04:54:11Z)
• Guided Uncertainty-Aware Policy Optimization: Combining Learning and Model-Based Strategies for Sample-Efficient Policy Learning [75.56839075060819]
  従来のロボットのアプローチは、環境の正確なモデル、タスクの実行方法の詳細な説明、現在の状態を追跡するための堅牢な認識システムに依存している。 強化学習アプローチは、タスクを記述するための報酬信号だけで、生の感覚入力から直接操作することができるが、非常にサンプル非効率で脆弱である。 本研究では,ロボットの知覚・運動パイプラインにおける不正確さを克服できる一般的な手法を得るために,モデルに基づく手法の強みと学習に基づく手法の柔軟性を組み合わせる。
  論文  参考訳（メタデータ） (2020-05-21T19:47:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。