論文の概要: Many-body Tipping Dynamics of ChatGPT-like AIs

• arxiv url: http://arxiv.org/abs/2607.25279v1
• Date: Tue, 28 Jul 2026 04:32:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.711915
• Title: Many-body Tipping Dynamics of ChatGPT-like AIs
• Title（参考訳）: チャットGPTライクなAIの多体ティッピングダイナミクス
• Abstract要約: ChatGPTのようなAIは、決定論的欲求デコードの下でも、予想外に望ましくないコンテンツに転換する。 このようなチップの幅広いクラスは、有限層系を横断するトークン間の多体相互作用によって引き起こされることを示す。 これらの結果は、AIの失敗の幅広いクラスが、本質的に予測不可能な振る舞いではなく、"予測可能なエンジニアリングリスク"を表していることを示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Why do ChatGPT-like AIs, despite major architectural and training differences, unexpectedly tip to undesirable content (e.g. harmful, misleading, repetitive) even under deterministic greedy decoding? We show that a broad class of such tippings is caused by the many-body interactions between tokens (spins) as they cross the finite-layer system. Tipping emerges as a dynamical first passage process between competing output basins. Attention disorder controls the transport toward, away from, or along the basins' boundary. A few-basin reduction yields a closed finite-layer threshold, whose coarse-grained predictions show good agreement across ChatGPT-like families. These results suggest that a broad class of AI failures represents 'foreseeable engineering risk' rather than inherently unpredictable behavior, with important implications for legal and societal assessments of AI harm.
• Abstract（参考訳）: なぜChatGPTのようなAIは、アーキテクチャとトレーニングの大きな違いにもかかわらず、決定論的欲求デコーディングでさえも、予期しないほど望ましくないコンテンツ(有害、誤解を招く、繰り返しなど)に転換するのだろうか? このようなチップの幅広いクラスは、有限層系を横断するトークン(スピン)間の多体相互作用によって引き起こされることを示す。 タイピングは、競合する出力盆地間の動的第1通過過程として現れる。 注意障害は、盆地の境界の方向、遠く、あるいは沿いの輸送を制御する。 数塩基還元は閉じた有限層しきい値となり、その粗い粒度の予測はChatGPTのような族間で良い一致を示す。 これらの結果は、AIの失敗の幅広いクラスは、本質的に予測不可能な振る舞いよりもむしろ「予測可能なエンジニアリングリスク」を表しており、AIの害に対する法的および社会的評価に重要な意味があることを示唆している。

関連論文リスト

• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• Making MLLMs Blind: Adversarial Smuggling Attacks in MLLM Content Moderation [54.38271718421492]
  敵の密輸攻撃は人間とAIの能力ギャップを悪用する。 有害なコンテンツを人間の読みやすい視覚形式にエンコードする。 我々は緩和戦略の予備的な調査を行う。
  論文  参考訳（メタデータ） (2026-04-08T11:13:16Z)
• Competition for attention predicts good-to-bad tipping in AI [0.0]
  世界の人口の半数以上が、インターネット接続なしでChatGPTのような言語モデルを実行できるデバイスを持っている。 我々は、機械の注意を競うために、このようなエッジAIにおいて、潜在的に危険なチップの大規模なクラスが、原子論的なスケールで発生していることを示します。
  論文  参考訳（メタデータ） (2026-02-16T00:43:56Z)
• The Hot Mess of AI: How Does Misalignment Scale With Model Intelligence and Task Complexity? [53.15349353876531]
  AIがより有能になるにつれて、より汎用的で簡潔なタスクを委任します。 我々はAIモデルによる誤りのバイアス分散分解を用いてこの問題を運用する。 より有能なAIはより困難なタスクを追求し、よりシーケンシャルな行動と思考を必要とするので、私たちの結果は失敗がより一貫性のない行動を伴うことを予測します。
  論文  参考訳（メタデータ） (2026-01-30T14:52:03Z)
• Multispin Physics of AI Tipping Points and Hallucinations [0.0]
  ChatGPTは、ユーザーが気付くことなく、中間応答を良い状態から悪い状態に導くことができる。 2024年だけで670億ドルの損失と数名の死者を出したと伝えられている。 AIの「原子」の規模で隠れたチップの不安定性を明らかにする
  論文  参考訳（メタデータ） (2025-08-01T22:24:15Z)
• Absolutist AI [0.0]
  絶対的な制約でAIシステムを訓練することは、多くのAI安全問題にかなりの進歩をもたらす可能性がある。 ミスアライメントの最悪の結果を避けるためのガードレールを提供する。 非常に価値のある結果を得るために、AIが大惨事を引き起こすのを防げるかもしれない。
  論文  参考訳（メタデータ） (2023-07-19T03:40:37Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Behavioral Intention Prediction in Driving Scenes: A Survey [70.53285924851767]
  行動意図予測(BIP)は、人間の思考過程をシミュレートし、特定の行動の早期予測を満たす。 この作業は、利用可能なデータセット、重要な要因と課題、歩行者中心および車両中心のBIPアプローチ、BIP対応アプリケーションからのBIPの包括的なレビューを提供する。
  論文  参考訳（メタデータ） (2022-11-01T11:07:37Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• On Adversarial Examples and Stealth Attacks in Artificial Intelligence Systems [62.997667081978825]
  本稿では,汎用人工知能(AI)システムに対する2種類の多元性行動の評価と分析を行うための公式な枠組みを提案する。 最初のクラスは、逆例を含み、誤分類を引き起こす入力データの小さな摂動の導入を懸念する。 第2のクラスは、ここで初めて導入され、ステルス攻撃と名付けられたもので、AIシステム自体に対する小さな摂動を伴う。
  論文  参考訳（メタデータ） (2020-04-09T10:56:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。