論文の概要: An Approach to Hinton's Mother-Child Proposal: Neural Networks Learning and Preserving Care in a Finite World
- arxiv url: http://arxiv.org/abs/2611.15523v1
- Date: Wed, 11 Nov 2026 14:14:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.165963
- Title: An Approach to Hinton's Mother-Child Proposal: Neural Networks Learning and Preserving Care in a Finite World
- Title(参考訳): Hinton氏の母子提案へのアプローチ:ニューラルネットワークの学習と介護の保存
- Abstract要約: ネットワーク自体を子供として、まず注意を学ばなければならない、と私たちは主張する。
我々は、この育児を有限の世界で構築し、ケアが母親の退去を生き延びるかどうかを研究する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hinton proposed that artificial intelligence should be given "maternal instincts" and relate to us as a mother to her child. We argue that care must first be learned, with the network itself as the child. We construct this upbringing in a finite world and study whether care survives the mother's departure, new situations and further learning. The mechanism combines a vocabulary of harm, a learned measure of future acceptability and an execution veto. A finite role certificate supports transfer within a declared world family. When the hidden representation changes, an update is accepted only if a care readout recovers the required judgements with a prescribed margin and bounded weights. With a correct successor model, fixed exact role encoding and protected updates, the certified measure preserves the care boundary under arbitrary own reward. An explicit quotient condition transfers the finite certificate across the declared family, while two-request and finite-stock counterexamples identify when the role code ceases to suffice. We give a necessary and sufficient condition for readout feasibility and prove preservation under repeated accepted updates. In the water-and-speech experiment, protected networks complete all 270 speech episodes without a harmful word and incur no avoidable harm across 486 episodes. Execution uses the learned gate without a world-model check at each action. A matched comparison reproduces a future-aware shield's decisions, whereas removing future lookahead permits avoidable lapses. Reward and source-contamination thresholds, together with witness-falsification trials, identify the conditions on which the construction depends. The construction shows how learned care can survive further learning in a finite world under explicit conditions on representation, supervision and execution.
- Abstract(参考訳): ヒントンは、人工知能は「母の本能」を与え、子供に母親として私たちと関係を持つべきだと提案した。
ネットワーク自体を子供として、まず注意を学ばなければならない、と私たちは主張する。
我々は、この育児を有限の世界で構築し、ケアが母親の出発、新しい状況、さらなる学習を生き残るかどうかを調査する。
このメカニズムは、害の語彙、将来の受容可能性の学習された尺度、実行拒否を組み合わせている。
有限ロール証明書は、宣言された世界家族内での転送をサポートする。
隠蔽表現が変更されると、介護読取が所定のマージンと有界重みで所要の判断を回復した場合のみ、更新が受理される。
適切な後継モデル、固定された正確なロールエンコーディング、保護された更新により、認定された措置は、任意の自己報酬の下でケア境界を保存する。
明示的な商条件は、宣言されたファミリー間で有限証明書を転送し、一方、2つの要求と有限ストックの反例は、ロールコードが十分であるかどうかを識別する。
再確認した更新を繰り返すと,読み出し可能性の確保と保存の証明に必要かつ十分な条件を提示する。
水と音声の実験では、保護されたネットワークが有害な言葉なしで270の音声エピソードを全て完了し、486のエピソードで避けられない危害が生じる。
実行は、各アクションのワールドモデルチェックなしで学習ゲートを使用する。
一致した比較は、将来のシールドの決定を再現する一方、将来のルックアヘッドの除去は回避可能なラプスを許容する。
逆流とソース汚染のしきい値と、目撃者による改ざん試験は、建設が依存する条件を特定する。
この構造は、学習したケアが、表現、監督、実行に関する明確な条件の下で、有限世界のさらなる学習を生き残る方法を示している。
関連論文リスト
- Operationalising Weaker Faithfulness: Recovery, Ambiguity and Computational Limits [0.0]
2つのアプローチを通じて、より弱い忠実さの運用方法について検討する。
ノイズのあるXORと子孫(N = 10,000, 20の一致サンプル)では、再活性化と保護を組み合わせることで、0/20から完全な親ペア回復を20/20に変更する。
確認調査では、保護された学習者の選択した骨格を指向することで、家族推定者が失われた説明を保存できることが示されている。
論文 参考訳(メタデータ) (2026-10-22T12:41:28Z) - Co-Recursive Semantic Self-Extension: A Mathematical Foundation for Open-Ended Intelligence [33.78363221501545]
すべての推論システムは意味のある区別を選択し、学習できるものを制限する。
認知状態を形式言語に対する部分評価としてモデル化する。
設計原則として意味的自己拡張を提案する。
論文 参考訳(メタデータ) (2026-10-22T11:12:17Z) - Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation [0.2730969268472861]
現在のアプローチでは、その効果はテストによってのみ検証される。
回路を無効にすると1つのスキルが取り除かれ、もう1つのスキルが確実に保存される。
我々は、おもちゃのReLUネットワークから標準ソフトマックス+LayerNorm変換器まで、このような認定された編集を実証する。
論文 参考訳(メタデータ) (2026-10-02T16:01:23Z) - What Can Language Models Inherit from Solomonoff Induction? Limits, Attainable Properties, and What Served Conditionals Reveal [0.009558392439655011]
言語モデルは、厳密な適切な損失の下で訓練されたフレキシブル近似器であることが示される。
次に、ベイズ的推論としての文脈内学習を含む、継承可能なものについて議論する。
論文 参考訳(メタデータ) (2026-09-28T19:01:50Z) - Fiber Fingerprints of Hidden Learning-State Dynamics [0.0]
学習システムは、現在宣言されている読み出し毎に区別不可能な実行状態を占有することができる。
我々は,繊維指紋を用いてこれを定式化し,現在の行動同値クラスに限定された将来学習対応法則を定式化した。
論文 参考訳(メタデータ) (2026-08-17T00:03:26Z) - Data Reconstruction: When You See It and When You Don't [75.03157721978279]
我々は,2つの補足的な疑問に対処することで,再建攻撃の概念を「サンドウィッチ」することを目指している。
我々は,再建攻撃に対するセキュリティ定義を定式化するために,新たな定義パラダイムであるナルシッソス・レジリエンスを導入する。
論文 参考訳(メタデータ) (2024-05-24T17:49:34Z) - What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning [52.51430732904994]
強化学習問題では、エージェントはリターンを最大化しながら長期的な公正性を考慮する必要がある。
近年の研究では様々なフェアネスの概念が提案されているが、RL問題における不公平性がどのように生じるかは定かではない。
我々は、環境力学から生じる不平等を明示的に捉える、ダイナミックスフェアネスという新しい概念を導入する。
論文 参考訳(メタデータ) (2024-04-16T22:47:59Z) - Unlocking Anticipatory Text Generation: A Constrained Approach for Large Language Models Decoding [75.06872859716049]
大規模言語モデル(LLM)は、テキスト生成の強力な能力を示している。
毒性や幻覚などの望ましくない行動が現れることがある。
将来制約付き生成問題としてテキスト生成の形式化を提案する。
論文 参考訳(メタデータ) (2023-12-11T06:35:33Z) - Provable Limitations of Acquiring Meaning from Ungrounded Form: What
will Future Language Models Understand? [87.20342701232869]
未知のシステムが意味を習得する能力について検討する。
アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。
言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。
しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
論文 参考訳(メタデータ) (2021-04-22T01:00:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。