論文の概要: humancompatible.interconnect: Testing Properties of Repeated Uses of Interconnections of AI Systems

• arxiv url: http://arxiv.org/abs/2507.09626v1
• Date: Sun, 13 Jul 2025 13:35:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-15 18:48:23.657848
• Title: humancompatible.interconnect: Testing Properties of Repeated Uses of Interconnections of AI Systems
• Title（参考訳）: Human compatible.interconnect: AIシステムの相互接続の繰り返し使用の特性のテスト
• Authors: Rodion Nazarov, Anthony Quinn, Robert Shorten, Jakub Marecek,
• Abstract要約: 本稿では,AIシステムをモデル化するためのオープンソースのPyTorchベースのツールキットとその繰り返し使用の特性について述べる。 クローズドループ方式でロバストネスとフェアネスデシダラタをモデル化し、これらの相互接続に対する事前保証を提供する。
• 参考スコア（独自算出の注目度）: 4.038600443291142
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial intelligence (AI) systems often interact with multiple agents. The regulation of such AI systems often requires that {\em a priori\/} guarantees of fairness and robustness be satisfied. With stochastic models of agents' responses to the outputs of AI systems, such {\em a priori\/} guarantees require non-trivial reasoning about the corresponding stochastic systems. Here, we present an open-source PyTorch-based toolkit for the use of stochastic control techniques in modelling interconnections of AI systems and properties of their repeated uses. It models robustness and fairness desiderata in a closed-loop fashion, and provides {\em a priori\/} guarantees for these interconnections. The PyTorch-based toolkit removes much of the complexity associated with the provision of fairness guarantees for closed-loop models of multi-agent systems.
• Abstract（参考訳）: 人工知能(AI)システムは、しばしば複数のエージェントと相互作用する。 このようなAIシステムの規制は、公正性と堅牢性の保証を満足させることが要求されることが多い。 エージェントのAIシステムの出力に対する応答の確率的モデルでは、そのような保証は対応する確率的システムに関する非自明な推論を必要とする。 本稿では,AIシステムの相互接続のモデル化における確率的制御技術の利用と,その繰り返し使用の特性について,オープンソースのPyTorchベースのツールキットを提案する。 クローズドループ方式でロバストネスとフェアネス・デシダラタをモデル化し、これらの相互接続に対する事前保証を提供する。 PyTorchベースのツールキットは、マルチエージェントシステムのクローズドループモデルに対するフェアネス保証の提供に関連する複雑さの多くを取り除く。

関連論文リスト

• Generative Grasp Detection and Estimation with Concept Learning-based Safety Criteria [0.0]
  本稿では,適切なツールを検出し,最適なグリップを生成するロボットグリップアルゴリズムのパイプラインを提案する。 本稿では,この手法の一貫性とハンドオーバ位置を改善するための基準を示す。 このアプローチは、ロボットが特定のツールやオブジェクトを拾えるようにカメラシステムが設定された産業環境でテストされた。
  論文  参考訳（メタデータ） (2025-06-21T22:33:25Z)
• XAI-based Feature Ensemble for Enhanced Anomaly Detection in Autonomous Driving Systems [1.3022753212679383]
  本稿では,複数の Explainable AI (XAI) メソッドを統合する新しい機能アンサンブルフレームワークを提案する。 このフレームワークは、6つの多様なAIモデルにまたがって、これらのXAIメソッドによって識別されるトップ機能を融合することによって、異常の検出に不可欠な堅牢で包括的な機能のセットを生成する。 我々の技術は、AIモデルの精度、堅牢性、透明性の向上を示し、より安全で信頼性の高い自動運転システムに貢献します。
  論文  参考訳（メタデータ） (2024-10-20T14:34:48Z)
• CommonPower: A Framework for Safe Data-Driven Smart Grid Control [7.133681867718039]
  PythonツールのCommonPowerは、機械学習に適したパワーシステム管理のモデリングとシミュレーションのための最初のフレームワークである。 CommonPowerには、機械学習ベースの予測器のためのトレーニングパイプラインと、RLコントローラの学習アップデートにセーフガードのフィードバックを組み込む柔軟なメカニズムが含まれている。
  論文  参考訳（メタデータ） (2024-06-05T13:06:52Z)
• Discovering Decision Manifolds to Assure Trusted Autonomous Systems [0.0]
  本稿では,システムが提示できる正誤応答の範囲を最適化した探索手法を提案する。 この多様体は、従来のテストやモンテカルロシミュレーションよりもシステムの信頼性をより詳細に理解する。 この概念実証では,本手法を自動運転車のループ内ソフトウェア評価に適用する。
  論文  参考訳（メタデータ） (2024-02-12T16:55:58Z)
• Probabilistic ML Verification via Weighted Model Integration [11.812078181471634]
  機械学習モデルの確率形式検証(PFV)はその初期段階にある。 重み付きモデル統合(WMI)に基づくMLシステムのPFV統合フレームワークを提案する。 ML検証文献におけるスケーリング手法が,本来の範囲を超えていかに一般化できるかを示す。
  論文  参考訳（メタデータ） (2024-02-07T14:24:04Z)
• Correct-by-Construction Control for Stochastic and Uncertain Dynamical Models via Formal Abstractions [44.99833362998488]
  我々は、様々なモデリングの前提の下でこの問題を解決するために使用できる抽象フレームワークを開発する。 我々は、与えられた仕様を満たすための保証とともに、iMDPの最適ポリシーを計算するために最先端の検証技術を使用します。 そして、このポリシーを構築によって、これらの保証が動的モデルに受け継がれるフィードバックコントローラに改良できることを示します。
  論文  参考訳（メタデータ） (2023-11-16T11:03:54Z)
• Interactive System-wise Anomaly Detection [66.3766756452743]
  異常検出は様々なアプリケーションにおいて基本的な役割を果たす。 既存のメソッドでは、インスタンスがデータとして容易に観察できないシステムであるシナリオを扱うのが難しい。 システム埋め込みを学習するエンコーダデコーダモジュールを含むエンドツーエンドアプローチを開発する。
  論文  参考訳（メタデータ） (2023-04-21T02:20:24Z)
• Formal Controller Synthesis for Markov Jump Linear Systems with Uncertain Dynamics [64.72260320446158]
  マルコフジャンプ線形系に対する制御器の合成法を提案する。 本手法は,MJLSの離散(モードジャンピング)と連続(確率線形)の両方の挙動を捉える有限状態抽象化に基づいている。 本手法を複数の現実的なベンチマーク問題,特に温度制御と航空機の配送問題に適用する。
  論文  参考訳（メタデータ） (2022-12-01T17:36:30Z)
• On a Uniform Causality Model for Industrial Automation [61.303828551910634]
  産業自動化の様々な応用分野に対する一様因果モデルを提案する。 得られたモデルは、サイバー物理システムの振る舞いを数学的に記述する。 このモデルは、機械学習に焦点を当てた産業自動化における新しいアプローチの応用の基盤として機能することが示されている。
  論文  参考訳（メタデータ） (2022-09-20T11:23:51Z)
• Adversarial Robustness Verification and Attack Synthesis in Stochastic Systems [8.833548357664606]
  我々は、離散時間マルコフ連鎖(DTMC)として定義されるシステムにおける対向的堅牢性のための公式な枠組みを開発する。 我々は、元の遷移確率の周囲に$varepsilon$ボールで制約された、敵がシステム遷移を摂動できる脅威モデルのクラスを概説する。
  論文  参考訳（メタデータ） (2021-10-05T15:52:47Z)
• A Novel Anomaly Detection Algorithm for Hybrid Production Systems based on Deep Learning and Timed Automata [73.38551379469533]
  DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。 深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。 このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
  論文  参考訳（メタデータ） (2020-10-29T08:27:43Z)
• Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
  PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。 本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。 このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
  論文  参考訳（メタデータ） (2020-09-29T12:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。