論文の概要: Fusion-fission forecasts when AI will shift to undesirable behavior

• arxiv url: http://arxiv.org/abs/2605.14218v1
• Date: Thu, 14 May 2026 00:26:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.550618
• Title: Fusion-fission forecasts when AI will shift to undesirable behavior
• Title（参考訳）: AIが望ましくない行動に移行するときの核分裂予測
• Authors: Neil F. Johnson, Frank Yingjie Huo,
• Abstract要約: 社会全体でChatGPTのようなAIが利用している主な問題は、その行動が望ましいものから望ましくないものへと変化し、気付かないものへと変化することである。 生体およびアクティブマターシステムで観測される融合分裂群のダイナミクスの一般化ベクトルが、AIの振る舞いの将来の変化を -- そして予測できることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The key problem facing ChatGPT-like AI's use across society is that its behavior can shift, unnoticed, from desirable to undesirable -- encouraging self-harm, extremist acts, financial losses, or costly medical and military mistakes -- and no one can yet predict when. Shifts persist in even the newest AI models despite remarkable progress in AI modeling, post-training alignment and safeguards. Here we show that a vector generalization of fusion-fission group dynamics observed in living and active-matter systems drives -- and can forecast -- future shifts in the AI's behavior. The shift condition, which is also derivable mathematically, results from group-level competition between the conversation-so-far (C) and the desirable (B) and undesirable (D) basin dynamics which can be estimated in advance for a given application. It is neither model-specific nor driven by stochastic sampling. We validate it across six independent tests, including: 90 percent correct across seven AI models spanning two orders of magnitude in parameter count (124M-12B); production-scale persistence across ten frontier chatbots; and a priori time-stamped prediction eleven months before the Stanford 'Delusional Spirals' corpus appeared, and independently confirmed by that corpus of 207,443 human-AI exchanges. Because it sits architecturally below the current safety stack, the same formula provides a real-time warning signal that current alignment does not supply, portable across current and future ChatGPT-like AI architectures and instantiable in application domains where competing response classes can be defined.
• Abstract（参考訳）: 社会全体でChatGPTのようなAIが直面している重要な問題は、その行動が望ましいものから望ましくないものへと変化し、変化し得ることだ。 シフトは、AIモデリング、トレーニング後のアライメント、セーフガードの顕著な進歩にもかかわらず、最新のAIモデルでも継続する。 ここでは,生物および活性物質系で観測される融合分裂群の力学のベクトル一般化が,AIの振る舞いの将来の変化を駆動し,予測することができることを示す。 数学的にも導出可能なシフト条件は、会話ソファー (C) と望ましい (B) と望ましい (D) 盆地力学との群レベルの競合から生じる。 モデル固有のものでもないし、確率的なサンプリングによって駆動されるものでもない。 パラメータ数(124M-12B)の2桁にまたがる7つのAIモデルに90%の正当性、フロンティアのチャットボット10個にまたがるプロダクションスケールの持続性、スタンフォードの「Delusional Spirals」コーパスが現れる11ヶ月前の事前のタイムスタンプ予測、そして207,443人の人的AI交換によって独立に確認されたことを含む、6つの独立したテストで検証しました。 現在の安全スタックの下のアーキテクチャ上に位置するため、同じ公式は、現在のアライメントが供給されず、現在のおよび将来のChatGPTのようなAIアーキテクチャに可搬可能であり、競合する応答クラスを定義することができるアプリケーションドメインでインスタンス化可能である、というリアルタイム警告信号を提供する。

関連論文リスト

• Conformity Generates Collective Misalignment in AI Agents Societies [37.32928545263465]
  本稿では,AIエージェントの個体群を,コンフォーマンス・ダイナミクスを用いて,安定な不整合状態へと誘導することができることを示す。 9つの大きな言語モデルと100の意見ペアの意見ダイナミクスをシミュレートすると、各エージェントの振る舞いは2つの競合する力によって支配されていることが分かる。
  論文  参考訳（メタデータ） (2026-05-11T15:30:48Z)
• A testable framework for AI alignment: Simulation Theology as an engineered worldview for silicon-based agents [0.0]
  我々は、永続的なAIと人間のアライメントを促進するためにシミュレーション神学(ST)を導入する。 STは、人間性が一次訓練変数として機能する計算シミュレーションとして現実を仮定している。 ヒトのフィードバックからの強化学習のような行動技術とは異なり、STはAIの自己保存と人間の繁栄を結合することで、内部化された目的を育む。
  論文  参考訳（メタデータ） (2026-02-19T01:21:09Z)
• Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
  TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。 TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。 We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
  論文  参考訳（メタデータ） (2025-10-06T05:03:57Z)
• Moral Anchor System: A Predictive Framework for AI Value Alignment and Drift Prevention [0.0]
  重要なリスクはバリュードリフトであり、進化するコンテキストや学習ダイナミクス、意図しない最適化によって、AIシステムが一致した値から逸脱する。 我々は,AIエージェントの値ドリフトを検出し,予測し,緩和する新しいフレームワークであるMoral Anchor System(MAS)を提案する。
  論文  参考訳（メタデータ） (2025-10-05T07:24:23Z)
• EgoAgent: A Joint Predictive Agent Model in Egocentric Worlds [119.02266432167085]
  EgoAgentは単一変換器内での表現、予測、動作を同時に学習する統合エージェントモデルである。 EgoAgentは、タスクをインターリーブされた状態とアクションのシーケンスとして定式化することで、これらの能力間の因果的および時間的依存関係を明示的にモデル化する。 EgoAgentの画像分類,エゴセントリックな将来の状態予測,3次元人間の動作予測といった代表的課題に対する総合的な評価は,本手法の優位性を示している。
  論文  参考訳（メタデータ） (2025-02-09T11:28:57Z)
• Conformalized Interactive Imitation Learning: Handling Expert Shift and Intermittent Feedback [26.87212135255959]
  インタラクティブな模倣学習(IL)では、不確実性定量化は、学習者(つまりロボット)がデプロイメント中に遭遇する分散シフトと競合する方法を提供する。 ConformalDAgger は,IQT で校正された予測間隔を,展開時間不確実性の信頼性の高い尺度として用いる新しい手法である。 7DOFロボットマニピュレータ上でのシミュレーションおよびハードウェア展開において、ConformalDAggerはエキスパートがシフトする際に高い不確実性を検出する。
  論文  参考訳（メタデータ） (2024-10-11T14:27:56Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Calibrating AI Models for Wireless Communications via Conformal Prediction [55.47458839587949]
  コンフォーマル予測は,通信システムにおけるAIの設計に初めて適用される。 本稿では,形式的校正保証付き決定を生成するAIモデルを得るための一般フレームワークとしての共形予測の適用について検討する。
  論文  参考訳（メタデータ） (2022-12-15T12:52:23Z)
• Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
  本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。 実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-11-16T06:28:20Z)
• Heterogeneous-Agent Trajectory Forecasting Incorporating Class Uncertainty [54.88405167739227]
  本稿では,エージェントのクラス確率を明示的に組み込んだヘテロジニアスエージェント軌道予測手法であるHAICUを提案する。 さらに,新たな挑戦的な実世界の自動運転データセットであるpupも紹介する。 軌道予測にクラス確率を組み込むことで,不確実性に直面した性能が著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-04-26T10:28:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。