論文の概要: Formal Raising: Embedding Verifiable Ethical Properties into the Development of AI

• arxiv url: http://arxiv.org/abs/2610.25501v1
• Date: Sun, 18 Oct 2026 19:41:46 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:28:27.98578
• Title: Formal Raising: Embedding Verifiable Ethical Properties into the Development of AI
• Title（参考訳）: フォーマルレイジング - 検証可能な倫理的特性をAI開発に組み込む
• Abstract要約: 本稿では,形式的レイジング(FR:Formal Raising)を提案する。 本稿では、優先順位付けされた倫理的特性に対して、候補行動を評価するC型推論フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 1.4910833190248318
• License:
• Abstract: Alan Turing proposed constructing a ``child machine'' and educating it rather than directly programming an adult-like intelligent machine. Recent work on model raising revives this developmental view for Large Language Models by arguing that moral values should accompany capability acquisition from the beginning rather than be added only through post-hoc alignment. This paper proposes Formal Raising (FR): selected moral values are represented as explicit, machine-checkable properties that participate in development, evaluation, and action selection. We present a C-based reasoning framework in which candidate actions are evaluated against prioritized ethical properties. Conflicts are resolved w.r.t. a given order, strict rules are non-defeasible, and underdetermination is reported explicitly. Exceptions are not encoded as special cases but emerge from the comparison of alternatives. We provide examples that cover conflicts involving life, truthfulness, harm, privacy, autonomy, and strict rules. We outline a property layer inspired by a Property Specification Language (PSL) for state and temporal requirements and discuss its integration into a raising process.
• Abstract（参考訳）: アラン・チューリングは'子マシン'の構築を提案し、大人のような知的な機械を直接プログラミングするのではなく、それを教育した。 モデル作成に関する最近の研究は、大規模言語モデルに対するこの発展的視点を復活させ、道徳的価値は、ポストホックアライメントによってのみ追加されるのではなく、最初から能力獲得に付随すべきである、と論じている。 本稿では,フォーマルレイジング(FR:Formal Raising)を提案する。 選択されたモラル値は,開発,評価,行動選択に参画するマシンチェック可能な特性として表される。 本稿では、優先順位付けされた倫理的特性に対して、候補行動を評価するC型推論フレームワークを提案する。 紛争は与えられた順序で解決され、厳格な規則は無効であり、過小判定は明示的に報告される。 例外は特別なケースとしてエンコードされるのではなく、代替品の比較から現れる。 生活、誠実さ、害、プライバシー、自律性、厳格な規則を含む紛争をカバーしている例を提示します。 我々は、状態と時間的要求に対するProperty Specification Language(PSL)にインスパイアされたプロパティレイヤの概要と、その上昇プロセスへの統合について論じる。

関連論文リスト

• Beyond Preferences: Learning Alignment Principles Grounded in Human Reasons and Values [0.2511917198008257]
  グラウンドド・コンスティチューショナル・AI(GCAI)は、原則のコンスティチューションを生成する統一的なフレームワークである。 本稿では,GCAI が生成する構成が,AI の行動管理において,ICAI を通じて生成した構成よりも人間の方が好まれることを示す。
  論文  参考訳（メタデータ） (2026-01-26T18:27:00Z)
• Epistemic Constitutionalism Or: how to avoid coherence bias [0.0]
  本稿では、システムがどのように形成し、どのように信念を表現するかを規定する、明示的で議論の余地のあるメタノルムを論じる。 私は、フロンティアモデルが、予想されるイデオロギー的位置が議論の内容と矛盾するソースに起因する議論を罰するアイデンティティ・スタンス・コヒーレンスを強制していることを示します。 私は、正式な正当性とデフォルトのソース独立を規定するプラトンと、そのような特権を拒否する自由主義の2つの立憲的アプローチを区別します。
  論文  参考訳（メタデータ） (2026-01-16T07:36:30Z)
• Seeing to Act, Prompting to Specify: A Bayesian Factorization of Vision Language Action Policy [59.44168425139687]
  BayesVLA(ベイズVLA)は、前もってポリシーを視覚的アクションに分解し、ルック・トゥ・アクティベーションと言語条件付き可能性をサポートし、即時特定を可能にするベイズ因子化である。 実験は、既存の方法と比較して、目に見えない命令、オブジェクト、環境に対して優れた一般化を示す。
  論文  参考訳（メタデータ） (2025-12-12T01:59:23Z)
• MoReBench: Evaluating Procedural and Pluralistic Moral Reasoning in Language Models, More than Outcomes [31.1183238867944]
  MoReBench: 1,000のモラルシナリオを紹介します。それぞれが、シナリオを推論するとき、専門家が必須とみなす基準のセットと組み合わせています。 MoReBenchには、道徳的考慮事項の特定、トレードオフの重み付け、行動可能なレコメンデーションなど、23万以上の基準が含まれている。 第二に、MoReBench-Theory: 150の例を使って、AIが規範的倫理の5つの主要なフレームワークで推論できるかどうかを検証します。
  論文  参考訳（メタデータ） (2025-10-18T07:34:31Z)
• Few-shot Policy (de)composition in Conversational Question Answering [54.259440408606515]
  本稿では,大規模言語モデル(LLM)を用いて数ショット設定でポリシーコンプライアンスを検出するニューラルシンボリックフレームワークを提案する。 提案手法は,回答すべきサブクエストを抽出し,文脈情報から真理値を割り当て,与えられたポリシーから論理文の集合を明示的に生成することで,政策コンプライアンスに関する会話に対して健全な理由を示す。 本手法は,PCDおよび会話機械読解ベンチマークであるShARCに適用し,タスク固有の微調整を伴わずに競合性能を示す。
  論文  参考訳（メタデータ） (2025-01-20T08:40:15Z)
• Automated legal reasoning with discretion to act using s(LAW) [0.294944680995069]
  倫理的および法的懸念は、自動化された推論者が人間の理解可能な言葉で正当化する必要がある。 パターンのセットに従って曖昧な概念をモデル化するために、ASPを述語するためのトップダウン実行モデルであるs(CASP)を使うことを提案する。 我々は、s(LAW)と呼ばれるフレームワークを実装して、適用可能な法律をモデル化、理由付け、正当化し、代表的なユースケースを翻訳(およびベンチマーク)することでそれを検証しました。
  論文  参考訳（メタデータ） (2024-01-25T21:11:08Z)
• Towards Generative Abstract Reasoning: Completing Raven's Progressive Matrix via Rule Abstraction and Selection [52.107043437362556]
  Raven's Progressive Matrix (RPM) は、マシンインテリジェンスにおける抽象的な視覚的推論を探索するために広く使われている。 RPMテストの参加者は、属性変更ルールを推論し、組み合わせることで、強力な推論能力を示すことができる。 本稿では,ルール AbstractIon と Selection を用いて,回答生成問題に対する潜時変数モデルを提案する。
  論文  参考訳（メタデータ） (2024-01-18T13:28:44Z)
• What Makes it Ok to Set a Fire? Iterative Self-distillation of Contexts and Rationales for Disambiguating Defeasible Social and Moral Situations [48.686872351114964]
  道徳的または倫理的な判断は、それらが起こる特定の文脈に大きく依存する。 我々は,行動が多かれ少なかれ道徳的に容認されるような,根底的な文脈を提供するという,デファシブルな道徳的推論を導入する。 文脈化と論理の1.2M項目からなる高品質なデータセットを115Kデファシブルな道徳行動のために蒸留する。
  論文  参考訳（メタデータ） (2023-10-24T00:51:29Z)
• Provable Limitations of Acquiring Meaning from Ungrounded Form: What will Future Language Models Understand? [87.20342701232869]
  未知のシステムが意味を習得する能力について検討する。 アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。 言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。 しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
  論文  参考訳（メタデータ） (2021-04-22T01:00:17Z)
• Morality, Machines and the Interpretation Problem: A value-based, Wittgensteinian approach to building Moral Agents [0.0]
  機械に道徳性を持たせようとする試みは、我々が解釈問題と呼ぶものである。 我々は、マシンに与えるいかなるルールも、道徳的に不適切な方法で無限の解釈に開放されていると主張する。
  論文  参考訳（メタデータ） (2021-03-03T22:34:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。