論文の概要: On the Foundations of Trustworthy Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2603.24904v1
• Date: Thu, 26 Mar 2026 00:37:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.030763
• Title: On the Foundations of Trustworthy Artificial Intelligence
• Title（参考訳）: 信頼できる人工知能の基礎について
• Authors: TJ Dunham,
• Abstract要約: プラットフォーム決定論的推論は信頼に値するAIにとって必要で十分であることを示す。 我々はこれを決定論として定式化し、非決定論のコストを定量化するために信頼エントロピーを導入する。 私たちのシステムは、3つの大陸にまたがって展開された99,000行のRustで、AI信頼が算術的な問題であることを証明しています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We prove that platform-deterministic inference is necessary and sufficient for trustworthy AI. We formalize this as the Determinism Thesis and introduce trust entropy to quantify the cost of non-determinism, proving that verification failure probability equals 1 - 2^{-H_T} exactly. We prove a Determinism-Verification Collapse: verification under determinism requires O(1) hash comparison; without it, the verifier faces an intractable membership problem. IEEE 754 floating-point arithmetic fundamentally violates the determinism requirement. We resolve this by constructing a pure integer inference engine that achieves bitwise identical output across ARM and x86. In 82 cross-architecture tests on models up to 6.7B parameters, we observe zero hash mismatches. Four geographically distributed nodes produce identical outputs, verified by 356 on-chain attestation transactions. Every major trust property of AI systems (fairness, robustness, privacy, safety, alignment) presupposes platform determinism. Our system, 99,000 lines of Rust deployed across three continents, establishes that AI trust is a question of arithmetic.
• Abstract（参考訳）: プラットフォーム決定論的推論は信頼に値するAIにとって必要で十分であることを示す。 我々はこれを決定論論として定式化し、信頼エントロピーを導入して非決定論のコストを定量化し、検証失敗確率が正確に 1 - 2^{-H_T} であることを示す。 決定論の検証にはO(1)ハッシュ比較が必要であり、それなしでは、検証者は難解な会員問題に直面している。 IEEE 754 浮動小数点演算は基本的に決定論の要件に違反している。 我々は、ARMとx86をまたいでビット単位で同一の出力を達成する純粋整数推論エンジンを構築することで、この問題を解決する。 最大6.7Bパラメータのモデルに対する82のクロスアーキテクチャテストでは、ゼロハッシュミスマッチが観察される。 4つの地理的に分散したノードは同じ出力を生成し、356のオンチェーン認証トランザクションによって検証される。 AIシステムのすべての主要な信頼特性(公正性、堅牢性、プライバシ、安全性、アライメント)は、プラットフォーム決定論を前提としています。 私たちのシステムは、3つの大陸にまたがって展開された99,000行のRustで、AI信頼が算術的な問題であることを証明しています。

関連論文リスト

• Epistemic Observability in Language Models [0.0]
  製造時に高い信頼性を報告できるモデルがあることがわかりました。 正式な仮定では、これは能力ギャップではなく観察的なギャップである。 我々は,計算副産物を輸出することで不合理性から逃れるテンソルインタフェースを構築した。
  論文  参考訳（メタデータ） (2026-03-20T21:59:34Z)
• EigenAI: Deterministic Inference, Verifiable Results [3.231493128964671]
  EigenAIは、EigenLayerの再試行エコシステムの上に構築された検証可能なAIプラットフォームである。 決定論的大言語モデル(LLM)推論エンジンと、暗号学的に保護された楽観的な再実行プロトコルを組み合わせる。
  論文  参考訳（メタデータ） (2026-01-30T04:46:22Z)
• Stochastic CHAOS: Why Deterministic Inference Kills, and Distributional Variability Is the Heartbeat of Artifical Cognition [14.945980804235885]
  LLMにとって、決定論的推論は致命的である、と我々は主張する。 不確実性をモデル化し、創発的な能力を抑え、単一の脆い経路に推論を崩壊させ、尾のリスクを隠すことで安全性のアライメントを弱める。
  論文  参考訳（メタデータ） (2026-01-12T06:19:09Z)
• Limitations on Safe, Trusted, Artificial General Intelligence [14.425238904385074]
  安全、信頼、人工知能(Artificial General Intelligence、AGI)は、人工知能(AI)システムにおける野心的な目標である。 安全・信頼・AGIの厳密な数学的定義を提案する。 プログラム検証、計画、およびグラフ到達性に関する結果を示す。
  論文  参考訳（メタデータ） (2025-09-25T22:16:38Z)
• On the Undecidability of Artificial Intelligence Alignment: Machines that Halt [0.0]
  内部アライメント問題は、任意の人工知能モデルがその入力によって出力の非自明なアライメント関数を満たすかどうかを主張するが、決定不可能である。 任意のAIモデルにポストホックの特質を課すのではなく、アライメントはAIアーキテクチャから保証されたプロパティであるべきだ、と私たちは主張する。 我々は、AIモデルが有限実行ステップで終端状態に常に到達することを保証し、停止制約を課すことも提案する。
  論文  参考訳（メタデータ） (2024-08-16T19:55:26Z)
• Networks of Networks: Complexity Class Principles Applied to Compound AI Systems Design [63.24275274981911]
  多くの言語モデル推論コールからなる複合AIシステムは、ますます採用されている。 本研究では,提案した回答の生成と正当性検証の区別を中心に,ネットワークネットワーク(NoN)と呼ばれるシステムを構築した。 我々は,Kジェネレータを備えた検証器ベースの判定器NoNを導入し,"Best-of-K"あるいは"judge-based"複合AIシステムのインスタンス化を行う。
  論文  参考訳（メタデータ） (2024-07-23T20:40:37Z)
• Neuro-Symbolic Integration Brings Causal and Reliable Reasoning Proofs [95.07757789781213]
  LLMの複雑な推論には2行のアプローチが採用されている。 1行の作業は様々な推論構造を持つLLMを誘導し、構造出力は自然に中間推論ステップと見なすことができる。 他方の行では、LCMのない宣言的解法を用いて推論処理を行い、推論精度は向上するが、解法のブラックボックスの性質により解釈性に欠ける。 具体的には,Prologインタプリタが生成した中間検索ログにアクセスし,人間可読推論に解釈可能であることを示す。
  論文  参考訳（メタデータ） (2023-11-16T11:26:21Z)
• Bayesian Inference Forgetting [82.6681466124663]
  忘れられる権利は多くの国で合法化されているが、機械学習の施行は耐え難いコストを引き起こすだろう。 本稿では,ベイズ推論において忘れられる権利を実現するための it bayesian inference forgetting (bif) フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-16T09:52:51Z)
• Causal Expectation-Maximisation [70.45873402967297]
  ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。 我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。 我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
  論文  参考訳（メタデータ） (2020-11-04T10:25:13Z)
• A Weaker Faithfulness Assumption based on Triple Interactions [89.59955143854556]
  より弱い仮定として, 2$-adjacency faithfulness を提案します。 より弱い仮定の下で適用可能な因果発見のための音方向規則を提案する。
  論文  参考訳（メタデータ） (2020-10-27T13:04:08Z)
• From Checking to Inference: Actual Causality Computations as Optimization Problems [79.87179017975235]
  本稿では、最適化問題として二元非巡回モデルよりも、因果推論の異なる概念を定式化するための新しいアプローチを提案する。 8000ドル以上の変数を持つモデルを用いて,MaxSAT が ILP を上回り,数秒単位でチェック処理を行う場合が多い。
  論文  参考訳（メタデータ） (2020-06-05T10:56:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。