論文の概要: Alignment via Generalization

• arxiv url: http://arxiv.org/abs/2610.34242v1
• Date: Sun, 25 Oct 2026 12:15:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.565236
• Title: Alignment via Generalization
• Title（参考訳）: 一般化によるアライメント
• Abstract要約: AIシステムは、本当に望むことを行うのが良くなることなく、与える目標を達成するのに役立ちます。 本稿では,一般化に対するアライメントの低減を主目的とするアラインド-PAC学習を提案する。 我々は、独立評価が、代表される要件にまたがる厳密なアライメントの証拠をいかに提供できるかを示す。 また、明示的な仮定の下で学習モデルを組み合わせて学習要求を満たす最適化手法も開発している。
• 参考スコア（独自算出の注目度）: 10.077047840804974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI systems can become better at achieving the goals we give them without becoming better at doing what we actually want. Studying this alignment problem rigorously requires a framework connecting measurable performance to intended behavior. We propose Aligned-PAC learning, whose central idea is to reduce alignment to generalization: does success on the requirements used for training extend to requirements the system has not encountered? Rather than express our entire intention through a single training objective, we represent its different aspects through a collection of specific requirements. This perspective already yields strong theoretical results. We show how independent evaluation can provide rigorous evidence of alignment across the represented requirements, and establish how much evaluation is needed. We also develop an optimization method that, under explicit assumptions, combines learned models to satisfy the training requirements. The framework does not solve alignment in full: choosing requirements that faithfully capture our intentions, and understanding when learning will generalize to unseen requirements, remain open challenges. It provides a foundation for making these questions precise and studying them with the tools of learning theory.
• Abstract（参考訳）: AIシステムは、本当に望むことを行うのが良くなることなく、与える目標を達成するのに役立ちます。 このアライメント問題を厳格に研究するには、測定可能なパフォーマンスと意図した振る舞いを結びつけるフレームワークが必要である。 我々は、アラインドPAC学習(Aligned-PAC learning)を提案し、その中心となる考え方は、一般化への整合性を減らすことである。 単一のトレーニング目標を通じて、意図全体を表現するのではなく、特定の要件の収集を通じて、その異なる側面を表現します。 この見方は、既に強い理論的な結果をもたらす。 我々は、独立評価が、表現された要求にまたがる厳密なアライメントの証拠をいかに提供できるかを示し、どの程度の評価が必要かを確立する。 また、明示的な仮定の下で学習モデルを組み合わせて学習要求を満たす最適化手法も開発している。 このフレームワークは、私たちの意図を忠実に捉えている要件を選択し、学習が未確認の要件に一般化する際の理解をオープンな課題のまま残します。 これらの質問を正確にし、学習理論のツールでそれらを研究するための基礎を提供する。

関連論文リスト

• Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
  大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。 LLMは、マイナーな単語変更で予測不能に変動する。 この双対性を解決することは 信頼できるAIアライメントに 不可欠です
  論文  参考訳（メタデータ） (2026-09-15T03:35:04Z)
• Requirements for Aligned, Dynamic Resolution of Conflicts in Operational Constraints [2.752817022620644]
  デプロイされた自律型AIシステムは、新規または未特定のコンテキストにおいて、複数のもっともらしい行動コースを評価する必要がある。 本稿では,これらの文脈におけるエージェント決定の要件を特徴付ける。 また、目標を達成し、人間の期待に沿うために、意思決定を堅牢にするために必要な知識エージェントの種類を特定する。
  論文  参考訳（メタデータ） (2025-11-14T04:33:15Z)
• Interpretable by Design: Query-Specific Neural Modules for Explainable Reinforcement Learning [0.3655021726150367]
  我々はRLシステムを推論エンジンとして設計し、環境に関する多様な問い合わせに答える。 クエリ条件付き決定論的推論ネットワーク(QDIN)は,クエリの種類を第一級市民として扱う統一アーキテクチャである。 予測精度は、制御性能が最適以下であってもほぼ完璧なレベルに達する。
  論文  参考訳（メタデータ） (2025-11-11T20:08:32Z)
• What Makes a Good Curriculum? Disentangling the Effects of Data Ordering on LLM Mathematical Reasoning [47.10036442634749]
  大規模言語モデル(LLMs)における推論改善戦略として,カリキュラム学習(CL)が普及している。 しかし、以前の作業では、異なる難易度メトリクスとトレーニングのセットアップを採用しており、オープンな根本的な疑問を残している。 我々は,カリキュラムの難易度を5つの相補的な次元に分解する統合されたオフライン評価フレームワークを通じて,これらの疑問に対処する。
  論文  参考訳（メタデータ） (2025-10-21T21:43:38Z)
• Goal-Conditioned Supervised Learning for Multi-Objective Recommendation [8.593384839118658]
  多目的学習は、一つのモデルを用いて複数の目的を同時に最適化する。 本稿では,オフラインシーケンシャルデータから複数の目標を自動学習する多目的目標定義型監視学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-12T03:47:40Z)
• Thinking LLMs: General Instruction Following with Thought Generation [56.30755438254918]
  本稿では,人体データの追加を使わずに,そのような思考能力を持つ既存LLMの訓練方法を提案する。 各命令に対して、思考候補は判断モデルを用いて応答のみを評価し、好みの最適化によって最適化される。 この手法がAlpacaEvalやArena-Hardに優れたパフォーマンスをもたらすことを示すとともに,マーケティング,健康,一般知識といった非合理的なカテゴリーの考え方から得られる利益を示す。
  論文  参考訳（メタデータ） (2024-10-14T15:38:56Z)
• Discrete Factorial Representations as an Abstraction for Goal Conditioned Reinforcement Learning [99.38163119531745]
  離散化ボトルネックを適用することにより,目標条件付きRLセットアップの性能が向上することを示す。 分布外目標に対する期待した回帰を実験的に証明し、同時に表現的な構造で目標を指定できるようにします。
  論文  参考訳（メタデータ） (2022-11-01T03:31:43Z)
• Towards a General Pre-training Framework for Adaptive Learning in MOOCs [37.570119583573955]
  異種学習要素を適切に活用した,データ観測と学習スタイル分析に基づく統合フレームワークを提案する。 授業の構造やテキスト,知識は,学生の非逐次学習行動に本質的に整合性があり,モデリングに有用であることがわかった。
  論文  参考訳（メタデータ） (2022-07-18T13:18:39Z)
• Probably Approximately Correct Constrained Learning [135.48447120228658]
  我々は、ほぼ正しい学習フレームワーク(PAC)に基づく一般化理論を開発する。 PAC学習可能なクラスも制約のある学習者であるという意味では,学習者の導入は学習問題を難しくするものではないことを示す。 このソリューションの特性を分析し,制約付き学習が公平でロバストな分類における問題にどのように対処できるかを説明する。
  論文  参考訳（メタデータ） (2020-06-09T19:59:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。