論文の概要: Predicting Alignment Generalization with Value Representations

• arxiv url: http://arxiv.org/abs/2610.12410v1
• Date: Thu, 08 Oct 2026 17:47:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.237666
• Title: Predicting Alignment Generalization with Value Representations
• Title（参考訳）: 値表現によるアライメント一般化の予測
• Abstract要約: 我々は、アライメント一般化予測(アライメント一般化予測)、すなわち、与えられた値に従うためのモデルの微調整が、広範囲の保持された値にわたってその振舞いを変えるかを予測するタスクを確立する。 我々は、現代のアライメント目標にある66の値にまたがるアライメント一般化効果の大規模解析を行い、アライメント一般化予測タスクにおけるベンチマーク表現技術について述べる。
• 参考スコア（独自算出の注目度）: 40.04089215140122
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM developers post-train their models to exhibit prosocial values and behavioral traits, which are enumerated in an alignment target. However, while recent post-training developments have yielded models that score highly on alignment evaluations, training models on sets of narrow behaviors still influences their behavior across unseen contexts and environments in unexpected ways. In this paper, we establish the task of alignment generalization prediction, i.e., predicting how fine-tuning a model to follow a given value changes its behavior across a wide range of held-out values. We conduct a large-scale analysis of alignment generalization effects across 66 values found in modern alignment targets, and benchmark representational techniques on the alignment generalization prediction task. We find that representations based on model activations when applying values in context significantly outperform methods based on textual descriptions of the values. Specifically, the best activations-based methods achieve correlations of 0.45 with our generalization matrix, compared with 0.05 from description-based baselines. We then show the applicability of representations that predict alignment generalization toward downstream tasks by using them to measure how similar the values in a multi-value alignment target are, which we find is significantly correlated with model robustness. Finally, we show initial evidence towards a shared, model-independent value space, which we use to develop the first taxonomy of LLM values grounded in empirical generalization dynamics. Our work demonstrates the importance of studying value generalization in LLMs and its application toward the more empirical design and training of model behavior.
• Abstract（参考訳）: LLM開発者は、アライメントターゲットに列挙された社会的価値と行動特性を示すために、モデルを訓練後、トレーニングする。 しかし、近年の訓練後の開発では、アライメント評価に高いスコアを付けるモデルが生み出されているが、狭い振る舞いのセットのトレーニングモデルは、予期せぬ状況や環境をまたいだ行動に影響を与える。 本稿では,モデルが与えられた値に従うための微調整が,広範囲の保持値にまたがってどのように振る舞うかを予測することで,アライメント一般化予測のタスクを確立する。 我々は、現代のアライメント目標にある66の値にまたがるアライメント一般化効果の大規模解析を行い、アライメント一般化予測タスクにおけるベンチマーク表現技術について述べる。 文脈で値を適用する場合のモデルアクティベーションに基づく表現は,その値のテキスト記述に基づく手法よりも有意に優れていた。 具体的には、最良のアクティベーションベースの手法は、我々の一般化行列と0.45の相関を、記述ベースベースラインの0.05と比較して達成する。 次に、下流タスクに対するアライメント一般化を予測する表現の適用性を示し、多値アライメントターゲットの値がどの程度類似しているかを計測し、モデルロバスト性と有意な相関性を示す。 最後に、経験的一般化力学に基づくLDM値の最初の分類法を開発するために用いられる共有モデル非依存値空間に対する最初の証拠を示す。 本研究は,LLMにおける価値一般化の研究の重要性と,モデル行動のより経験的な設計と訓練への応用を実証するものである。

関連論文リスト

• Generative Archetype-Grounded Item Representations for Sequential Recommendation [45.91194797303667]
  GenAIRは、ジェネレーティブアーキタイプのグラウンドドアイテム表現でシーケンシャルなレコメンデーションを付与する一般的なフレームワークである。 本稿では,実際のインタラクションからの行動信号を明示的に組み込んだ行動校正手法を提案する。 3つの実世界のデータセットで実施された実験は、GenAIRが様々なシーケンシャルレコメンデーションモデルの性能を大幅に改善することを示した。
  論文  参考訳（メタデータ） (2026-06-09T15:59:14Z)
• On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
  本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。 本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。 実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
  論文  参考訳（メタデータ） (2026-05-12T11:33:49Z)
• Value Alignment Tax: Measuring Value Trade-offs in LLM Alignment [16.1422306417719]
  我々は、アライメントによって引き起こされる変化が価値間でどのように伝播するかを測定するフレームワークであるバリューアライメント税(VAT)を紹介します。 VATはアライメント圧力下での値表現のダイナミクスをキャプチャする。 その結果、アライメントはしばしば、値間の不均一で構造化されたコモーメントを生成することがわかった。
  論文  参考訳（メタデータ） (2026-02-12T16:21:22Z)
• Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
  ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。 連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。 複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
  論文  参考訳（メタデータ） (2026-02-04T05:37:09Z)
• LVLM-Aided Alignment of Task-Specific Vision Models [49.96265491629163]
  タスク固有の視覚モデルは、高い領域において不可欠である。 本稿では,タスク固有の視覚モデルと人間のドメイン知識を協調する,新しい,効率的な手法を提案する。 提案手法は, モデル動作と人間の仕様との整合性を大幅に向上させる。
  論文  参考訳（メタデータ） (2025-12-26T11:11:25Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Benchmarking community drug response prediction models: datasets, models, tools, and metrics for cross-dataset generalization analysis [36.689210473887904]
  本稿では,ディープラーニング(DL)モデルと機械学習(ML)モデルにおけるデータセット間予測の一般化を評価するためのベンチマークフレームワークを提案する。 絶対的なパフォーマンス(データセット間での予測精度など)と相対的なパフォーマンス(例えば、データセット内の結果と比較してパフォーマンス低下)の両方を定量化します。 本結果は,厳密な一般化評価の重要性を浮き彫りにして,未知のデータセット上でモデルをテストする場合の大幅な性能低下を明らかにした。
  論文  参考訳（メタデータ） (2025-03-18T15:40:18Z)
• An Examination of the Compositionality of Large Generative Vision-Language Models [7.639748270719836]
  GVLM(Generative Vision-Language Models)はマルチモーダル・インストラクション・チューニングによって構築されている。 本稿では,GVLMの構成性を評価するための評価指標(VisualGPTScoreなど)と現在のベンチマークについて検討する。 我々は,GVLMの言語的能力を利用して,現在のベンチマークにおける構文バイアスを同定する。
  論文  参考訳（メタデータ） (2023-08-21T06:50:29Z)
• On the Compositional Generalization Gap of In-Context Learning [73.09193595292233]
  In-distriion (ID) と Out-of-distriion (OOD) の相違について考察する。 我々は,3つの意味解析データセットを用いて,OPT,BLOOM,CodeGen,Codexの4つのモデルファミリを評価する。
  論文  参考訳（メタデータ） (2022-11-15T19:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。