論文の概要: Acceptable Misalignment

• arxiv url: http://arxiv.org/abs/2610.16881v1
• Date: Mon, 12 Oct 2026 14:42:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.389271
• Title: Acceptable Misalignment
• Title（参考訳）: 受け入れられるミスアライメント
• Abstract要約: 我々は、完全なアライメントは理論上も実用上も不可能であることを示す多くの課題に直面していると論じる。 本稿では,不整合事象を許容レベルに導くことを目的としたアライメント機構の規範的要件を定式化した,許容不能な不整合の概念を導入する。 我々はこれらの要件を満たすアライメント機構からなる新しい方法論の枠組みを提示することで結論付ける。
• 参考スコア（独自算出の注目度）: 1.3790804685502662
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There is a specific challenge designers face in developing autonomous robots capable of open-ended learning. This challenge is how one can develop such systems in an ethically sound way when there are many unknowns during design time about their manner of deployment, what they can and will learn, and how these systems will act on the basis of what they have learned. One response to this challenge is to align, as far as possible, the activities and goals of autonomous robots with human values, raising the question of how to make this alignment possible, a question known as the value alignment problem. We argue that the value alignment problem faces a number of challenges that show that full alignment is both theoretically and practically impossible, meaning that misalignment incidents will keep occurring. This undermines current alignment approaches, as the attempt to maximize alignment cannot properly deal with the possibility that the risk of misalignment that remains after alignment methods have been implemented might still be unacceptable to society. To overcome this difficulty, we argue that a shift in perspective is required from a focus on the maximization of alignment to the conditions under which misalignment incidents become acceptable. In this paper, we explore what this shift in perspective entails. We introduce the concept of acceptable misalignment, formulate normative requirements for alignment mechanisms aimed at bringing misalignment incidents to an acceptable level, and we conclude by presenting a new methodological framework that consists of alignment mechanisms that can meet these requirements.
• Abstract（参考訳）: オープンエンド学習が可能な自律ロボットの開発には、デザイナが特に直面している課題がある。 このようなシステムを倫理的に健全な方法で開発する方法は、設計期間中に、デプロイの方法、何が可能で、何が学習できるか、これらのシステムが、彼らが学んだことに基づいてどのように振る舞うのか、などについて多くの未知が存在する場合である。 この課題に対する1つの反応は、可能な限り、自律ロボットの活動と目標を人間の価値と整合させることであり、どのようにしてこのアライメントを可能にするかという疑問、すなわちバリューアライメント問題である。 バリューアライメントの問題には、完全なアライメントが理論的にも現実的にも不可能であることを示す多くの課題がある、と我々は主張する。 このことは、アライメントを最大化しようとする試みが、アライメントの方法が実行された後も残っているミスアライメントのリスクが社会に受け入れられない可能性に適切に対処できないため、現在のアライメントアプローチを損なう。 この難しさを克服するためには,不整合が許容される状況に対するアライメントの最大化に焦点をあてる視点の転換が必要であると論じる。 本稿では,この視点の変化がもたらす意味について考察する。 本稿では,アライメント・アライメント・インシデントを許容レベルに引き上げるためのアライメント・アライメント・アライメント・アライメント・アライメントの規範的要件を定式化し,これらの要件を満たすアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメントの枠組みを提案する。

関連論文リスト

• Relative Principals, Pluralistic Alignment, and the Structural Value Alignment Problem [0.20305676256390934]
  私は、この問題はガバナンスに関する構造的な問題としてよりよく理解されていると論じます。 本稿では, 目的, 情報, プリンシパルの3つの軸に沿って生じる不一致について再認識する。
  論文  参考訳（メタデータ） (2026-04-22T17:36:52Z)
• Position: General Alignment Has Hit a Ceiling; Edge Alignment Must Be Taken Seriously [51.03213216886717]
  我々は、一般的なアライメントの支配的なパラダイムが、矛盾する値の設定において構造的な天井に達するという立場を取る。 エッジアライメント(Edge Alignment)は,多次元の値構造を保持するシステムにおいて,異なるアプローチである。
  論文  参考訳（メタデータ） (2026-02-23T16:51:43Z)
• Dynamic Normativity: Necessary and Sufficient Conditions for Value Alignment [0.0]
  我々は,人的目標と価値を人工システムで従うことができるような方法で表現する上での課題に,不必要な敵意を伴わない「調整」の問題を見出した。 この研究は、AIシステム開発に規範的理論をもたらす、しっかりとした哲学的基礎と実践的な実装を必要とする技術的哲学的問題としてのアライメントに対処する。
  論文  参考訳（メタデータ） (2024-06-16T18:37:31Z)
• On the Essence and Prospect: An Investigation of Alignment Approaches for Big Models [77.86952307745763]
  ビッグデータはAIの分野で画期的なブレークスルーを達成したが、潜在的な懸念を生じさせるかもしれない。 このような懸念に対処するため、これらのモデルを人間の嗜好や価値観に適合させるアライメント技術が導入された。 過去1年間にかなりの進歩があったにもかかわらず、最適アライメント戦略の確立には様々な課題がある。
  論文  参考訳（メタデータ） (2024-03-07T04:19:13Z)
• AI Alignment: A Comprehensive Survey [69.61425542486275]
  AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。 AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。 我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
  論文  参考訳（メタデータ） (2023-10-30T15:52:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。