論文の概要: A Mathematical Certification for Positivity Conditions in Neural Networks with Applications to Partial Monotonicity and Ethical AI

• arxiv url: http://arxiv.org/abs/2406.08525v1
• Date: Wed, 12 Jun 2024 07:33:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-14 22:37:00.728246
• Title: A Mathematical Certification for Positivity Conditions in Neural Networks with Applications to Partial Monotonicity and Ethical AI
• Title（参考訳）: ニューラルネットワークにおける肯定条件の数学的証明と部分単調性および倫理的AIへの応用
• Authors: Alejandro Polo-Molina, David Alfaya, Jose Portela,
• Abstract要約: LipVorは、ANNのようなブラックボックスモデルが有限個の評価に基づいて正であるかどうかを認証するアルゴリズムである。 我々の手法は、ANNが部分的に単調であるかどうかを数学的に証明できるが、制約のあるANNのアーキテクチャや断片的な線形アクティベーション関数は不要である。
• 参考スコア（独自算出の注目度）: 48.623199394622546
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial Neural Networks (ANNs) have become a powerful tool for modeling complex relationships in large-scale datasets. However, their black-box nature poses ethical challenges. In certain situations, ensuring ethical predictions might require following specific partial monotonic constraints. However, certifying if an already-trained ANN is partially monotonic is challenging. Therefore, ANNs are often disregarded in some critical applications, such as credit scoring, where partial monotonicity is required. To address this challenge, this paper presents a novel algorithm (LipVor) that certifies if a black-box model, such as an ANN, is positive based on a finite number of evaluations. Therefore, as partial monotonicity can be stated as a positivity condition of the partial derivatives, the LipVor Algorithm can certify whether an already trained ANN is partially monotonic. To do so, for every positively evaluated point, the Lipschitzianity of the black-box model is used to construct a specific neighborhood where the function remains positive. Next, based on the Voronoi diagram of the evaluated points, a sufficient condition is stated to certify if the function is positive in the domain. Compared to prior methods, our approach is able to mathematically certify if an ANN is partially monotonic without needing constrained ANN's architectures or piece-wise linear activation functions. Therefore, LipVor could open up the possibility of using unconstrained ANN in some critical fields. Moreover, some other properties of an ANN, such as convexity, can be posed as positivity conditions, and therefore, LipVor could also be applied.
• Abstract（参考訳）: ニューラルネットワーク(ANN)は、大規模データセットで複雑な関係をモデル化するための強力なツールとなっている。 しかし、ブラックボックスの性質は倫理的な問題を引き起こす。 ある状況では、倫理的予測を保証するには、特定の部分的単調な制約に従う必要がある。 しかし、すでに訓練済みのANNが部分的に単調であるかどうかを確認することは困難である。 したがって、ANNは、部分的な単調性を必要とする信用スコアなど、いくつかの重要なアプリケーションでは無視されることが多い。 この課題に対処するために,ANNのようなブラックボックスモデルが有限個の評価に基づいて正であるかどうかを証明した新しいアルゴリズム(LipVor)を提案する。 したがって、部分単調性は部分微分の正の条件として記述できるので、LipVor Algorithmは、既に訓練されたANNが部分的に単調であるかどうかを証明できる。 そのため、肯定的に評価されたすべての点に対して、ブラックボックスモデルのリプシッツ性は、関数が正である特定の近傍を構築するために用いられる。 次に、評価された点のボロノイ図に基づいて、その函数が領域において正であるかどうかを証明するのに十分な条件が記述される。 従来の手法と比較して,ANNが部分的に単調であるかどうかを数学的に証明できる。 したがって、LipVorはいくつかの臨界領域で制約のないANNを使用する可能性を開くことができる。 さらに、凸性のようなANNの他の性質は正の条件として表すことができ、したがってLipVorも適用できる。

関連論文リスト

• MonoKAN: Certified Monotonic Kolmogorov-Arnold Network [48.623199394622546]
  特定のアプリケーションでは、モデル予測は専門家が提案した要件と一致し、時には部分的な単調性制約によって例示されなければならない。 我々は,kanアーキテクチャに基づく新しいANNアーキテクチャMonoKANを導入し,解釈性を高めつつ,認証された部分的単調性を実現する。 実験の結果,MonoKANは解釈可能性を高めるだけでなく,ほとんどのベンチマークにおける予測性能も向上し,最先端のモノトニックアプローチよりも優れていた。
  論文  参考訳（メタデータ） (2024-09-17T11:10:59Z)
• Efficient Link Prediction via GNN Layers Induced by Negative Sampling [92.05291395292537]
  リンク予測のためのグラフニューラルネットワーク(GNN)は、緩やかに2つの広いカテゴリに分けられる。 まず、Emphnode-wiseアーキテクチャは各ノードの個別の埋め込みをプリコンパイルし、後に単純なデコーダで結合して予測を行う。 第二に、エンフェッジワイド法は、ペアワイド関係の表現を強化するために、エッジ固有のサブグラフ埋め込みの形成に依存している。
  論文  参考訳（メタデータ） (2023-10-14T07:02:54Z)
• A Unified Algebraic Perspective on Lipschitz Neural Networks [88.14073994459586]
  本稿では,様々なタイプの1-Lipschitzニューラルネットワークを統一する新しい視点を提案する。 そこで本研究では,SDP(Common semidefinite Programming)条件の解析解を求めることによって,既存の多くの手法を導出し,一般化することができることを示す。 SDPベースのLipschitz Layers (SLL) と呼ばれる我々のアプローチは、非自明で効率的な凸ポテンシャル層の一般化を設計できる。
  論文  参考訳（メタデータ） (2023-03-06T14:31:09Z)
• Constrained Monotonic Neural Networks [0.685316573653194]
  金融や医療といった多くの重要な分野におけるニューラルネットワークの採用は、その予測を説明する必要性によって妨げられている。 モノトニック性制約は、現実世界のシナリオで最も要求された特性の1つである。 我々は、$mathbbRn$ のコンパクト部分集合上の任意の連続単調関数を近似できることを示した。
  論文  参考訳（メタデータ） (2022-05-24T04:26:10Z)
• Learning Smooth Neural Functions via Lipschitz Regularization [92.42667575719048]
  ニューラルフィールドにおけるスムーズな潜伏空間を促進するために設計された新しい正規化を導入する。 従来のリプシッツ正規化ネットワークと比較して、我々のアルゴリズムは高速で、4行のコードで実装できる。
  論文  参考訳（メタデータ） (2022-02-16T21:24:54Z)
• Learning a Single Neuron for Non-monotonic Activation Functions [3.890410443467757]
  非単調活性化関数は、多くの応用において伝統的な単調関数よりも優れる。 サンプル時間における学習性を保証するのに$sigma$の穏やかな条件が十分であることを示す。 また,2層ニューラルネットワークのトレーニングにおいて,既存の負の結果に肯定的な結果がどう関係しているかについても論じる。
  論文  参考訳（メタデータ） (2022-02-16T13:44:25Z)
• Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
  暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。 彼らは不利な姿勢と収束の不安定さに悩まされる。 本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
  論文  参考訳（メタデータ） (2021-06-06T18:05:02Z)
• Counterexample-Guided Learning of Monotonic Neural Networks [32.73558242733049]
  単調性制約に注目するが、これは一般的であり、特定の入力特徴の値が増加するにつれて関数の出力が増加することが要求される。 本研究では,予測時の単調性制約を確実に強制する逆例誘導手法を開発した。 深層学習の帰納バイアスとして単調性を用いる手法も提案する。
  論文  参考訳（メタデータ） (2020-06-16T01:04:26Z)
• What needles do sparse neural networks find in nonlinear haystacks [0.0]
  人工ニューラルネットワーク(ANN)におけるスパーシリティ誘導ペナルティは、特にノイズが高く、トレーニングセットが小さい状況において、過度な適合を避ける。 線形モデルの場合、そのようなアプローチは、適切なコセンのペナルティパラメータに対するレギュレーションにおいて高い確率で重要な特徴を確実に回復する。 簡単なモデルを用いてモンテカルロシミュレーションを行い,提案手法の有効性を示した。
  論文  参考訳（メタデータ） (2020-06-07T04:46:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。