論文の概要: The Second Law of Intelligence: Controlling Ethical Entropy in Autonomous Systems

• arxiv url: http://arxiv.org/abs/2511.10704v1
• Date: Thu, 13 Nov 2025 02:59:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-17 22:42:18.285345
• Title: The Second Law of Intelligence: Controlling Ethical Entropy in Autonomous Systems
• Title（参考訳）: 第2次インテリジェンス法 - 自律システムにおける倫理的エントロピーの制御
• Authors: Samih Fadli,
• Abstract要約: 制約のない人工知能は熱力学に類似した第二法則に従う。 意図された目標から分岐する尺度として定義される倫理的エントロピーは、連続的なアライメント作業なしで自然に増加する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We propose that unconstrained artificial intelligence obeys a Second Law analogous to thermodynamics, where ethical entropy, defined as a measure of divergence from intended goals, increases spontaneously without continuous alignment work. For gradient-based optimizers, we define this entropy over a finite set of goals {g_i} as S = -Σ p(g_i; theta) ln p(g_i; theta), and we prove that its time derivative dS/dt >= 0, driven by exploration noise and specification gaming. We derive the critical stability boundary for alignment work as gamma_crit = (lambda_max / 2) ln N, where lambda_max is the dominant eigenvalue of the Fisher Information Matrix and N is the number of model parameters. Simulations validate this theory. A 7-billion-parameter model (N = 7 x 10^9) with lambda_max = 1.2 drifts from an initial entropy of 0.32 to 1.69 +/- 1.08 nats, while a system regularized with alignment work gamma = 20.4 (1.5 gamma_crit) maintains stability at 0.00 +/- 0.00 nats (p = 4.19 x 10^-17, n = 20 trials). This framework recasts AI alignment as a problem of continuous thermodynamic control, providing a quantitative foundation for maintaining the stability and safety of advanced autonomous systems.
• Abstract（参考訳）: 本研究では,非拘束型人工知能が熱力学に類似した第二法則に従うことを提案する。 勾配に基づくオプティマイザに対しては、このエントロピーを S = -Σ p(g_i;theta) ln p(g_i;theta) と定義し、その時間微分 dS/dt >= 0 がノイズの探索や仕様ゲーミングによって引き起こされることを示す。 γ_crit = (lambda_max / 2) ln N, ここで lambda_max はフィッシャー情報行列の固有値であり、N はモデルパラメータの数である。 シミュレーションはこの理論を検証している。 ラムダ_max = 1.2 の 7-ビリオンパラメータモデル (N = 7 x 10^9) は初期エントロピーから 0.32 から 1.69 +/-1.08 ナットへドリフトし、アライメント作業で正規化されたシステム gamma = 20.4 (1.5 gamma_crit) は 0.00 +/- 0.00 ナット (p = 4.19 x 10^-17, n = 20 トライアル) で安定性を維持する。 このフレームワークは、継続的熱力学制御の問題としてAIアライメントを再考し、高度な自律システムの安定性と安全性を維持するための定量的基盤を提供する。

関連論文リスト

• Resolution of Loschmidts Paradox via Geometric Constraints on Information Accessibility [0.0]
  ロスヒミットのパラドックスは、時間的可逆的な微視的ダイナミクスと不可逆的なマクロ的進化の間の明らかな矛盾を解消する。 解法:エントロピーは、力学が非対称であるからではなく、情報アクセシビリティが幾何学的に有界であるからである。 この枠組みは、顕微鏡的時間反転対称性を保ち、特別な初期条件や過去の仮説を必要とせず、量子系にまで拡張する。
  論文  参考訳（メタデータ） (2025-11-05T20:23:58Z)
• Susceptibility of entanglement entropy: a universal indicator of quantum criticality [11.049672162852735]
  量子系における絡み合いエントロピーの感度の尺度が提案され,その情報源が議論されている。 2つの正確に解けるスピン系に対して、熱力学的臨界性は、大域極大の有限サイズのスケーリングによって直接テクスタイズされることが示されている。
  論文  参考訳（メタデータ） (2024-12-03T08:04:58Z)
• Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
  近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。 本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
  論文  参考訳（メタデータ） (2024-04-29T15:04:07Z)
• Learning to Solve PDE-constrained Inverse Problems with Graph Networks [51.89325993156204]
  科学と工学にまたがる多くの応用分野において、偏微分方程式(PDE)によって定義される制約で逆問題を解決することに興味がある。 ここでは、これらのPDE制約された逆問題を解決するために、GNNを探索する。 GNNを用いて計算速度を最大90倍に向上させる。
  論文  参考訳（メタデータ） (2022-06-01T18:48:01Z)
• On optimization of coherent and incoherent controls for two-level quantum systems [77.34726150561087]
  本稿では、閉かつオープンな2レベル量子系の制御問題について考察する。 閉系の力学は、コヒーレント制御を持つシュリンガー方程式によって支配される。 開系の力学はゴリーニ=コサコフスキー=スダルシャン=リンドブラッドのマスター方程式によって支配される。
  論文  参考訳（メタデータ） (2022-05-05T09:08:03Z)
• Continuous-Time Fitted Value Iteration for Robust Policies [93.25997466553929]
  ハミルトン・ヤコビ・ベルマン方程式の解法は、制御、ロボティクス、経済学を含む多くの領域において重要である。 連続適合値反復(cFVI)とロバスト適合値反復(rFVI)を提案する。 これらのアルゴリズムは、多くの連続制御問題の非線形制御-アフィンダイナミクスと分離可能な状態とアクション報酬を利用する。
  論文  参考訳（メタデータ） (2021-10-05T11:33:37Z)
• Robust Online Control with Model Misspecification [96.23493624553998]
  本研究では,未知の非線形力学系のモデル不特定性を考慮したオンライン制御について検討する。 本研究は, 線形近似からの偏差を許容できる程度に測定できるロバスト性に着目した。
  論文  参考訳（メタデータ） (2021-07-16T07:04:35Z)
• Relativistic continuous matrix product states for quantum fields without cutoff [0.0]
  相対論的量子場理論(QFT)に適応させる連続行列積状態(CMPS)の修正を導入する。 これらの相対論的CMPSは、1+1次元の真のQFTをUVカットオフなしで解き、熱力学の限界を直接解ける。
  論文  参考訳（メタデータ） (2021-02-15T18:37:44Z)
• Entanglement Production and Convergence Properties of the Variational Quantum Eigensolver [0.0]
  本研究では,2次元モデルフェルミオン系の基底状態エネルギーを決定するために,変分量子固有解法(VQE)アルゴリズムを用いる。 特に,システム基底状態への最も効率的な収束を提供するエンタングルブロックの性質に着目する。 誤差の範囲内で解に到達するのに必要なゲートの数は、Solovay-Kitaevスケールに従っていることを示す。
  論文  参考訳（メタデータ） (2020-03-27T15:44:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。