論文の概要: Versatile Verification of Tree Ensembles
- arxiv url: http://arxiv.org/abs/2010.13880v2
- Date: Mon, 30 Nov 2020 18:21:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-02 18:03:18.094000
- Title: Versatile Verification of Tree Ensembles
- Title(参考訳): ツリーアンサンブルの多用途検証
- Authors: Laurens Devos, Wannes Meert, Jesse Davis
- Abstract要約: 本稿では,木組モデルの複数の検証タスクに対処可能な,Veritasと呼ばれる汎用アルゴリズムを提案する。
Veritasは、検証タスクを汎用的な最適化問題として定式化し、新しい検索空間表現を導入した。
実験により, (a) 正確な解をより頻繁に生成し, (b) (a) が不可能な場合により厳密な境界を発生させ, (c) 桁違いの速度アップを施すことにより, ベリタスが先行技術よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 25.204157642042627
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learned models often must abide by certain requirements (e.g.,
fairness or legal). This has spurred interested in developing approaches that
can provably verify whether a model satisfies certain properties. This paper
introduces a generic algorithm called Veritas that enables tackling multiple
different verification tasks for tree ensemble models like random forests (RFs)
and gradient boosting decision trees (GBDTs). This generality contrasts with
previous work, which has focused exclusively on either adversarial example
generation or robustness checking. Veritas formulates the verification task as
a generic optimization problem and introduces a novel search space
representation. Veritas offers two key advantages. First, it provides anytime
lower and upper bounds when the optimization problem cannot be solved exactly.
In contrast, many existing methods have focused on exact solutions and are thus
limited by the verification problem being NP-complete. Second, Veritas produces
full (bounded suboptimal) solutions that can be used to generate concrete
examples. We experimentally show that Veritas outperforms the previous state of
the art by (a) generating exact solutions more frequently, (b) producing
tighter bounds when (a) is not possible, and (c) offering orders of magnitude
speed ups. Subsequently, Veritas enables tackling more and larger real-world
verification scenarios.
- Abstract(参考訳): 機械学習モデルはしばしば特定の要件(公正性や合法性など)に従わなければならない。
このことは、モデルが特定の特性を満たすかどうかを確実に検証できるアプローチの開発に興味を喚起している。
本稿では,ランダムフォレスト (rfs) や勾配ブースティング決定木 (gbdts) などのツリーアンサンブルモデルに対して,複数の異なる検証タスクを行う veritas という汎用アルゴリズムを提案する。
この汎用性は、逆の例生成かロバスト性チェックにのみ焦点を絞った以前の作業とは対照的である。
veritasは検証タスクを汎用最適化問題として定式化し、新しい探索空間表現を導入する。
Veritasには2つの大きな利点がある。
第一に、最適化問題が正確に解決できない場合、いつでも下限と上限を提供する。
対照的に、多くの既存手法は正確な解に焦点を合わせており、NP完全である検証問題によって制限されている。
第二に、Veritasは具体例を生成するために使用できる完全な(有界な部分最適)解を生成する。
ヴェリタスが以前の芸術水準を上回っていることを実験的に示します
a) 正確な解をより頻繁に生成する
b) より厳密な境界を作るとき
(a)不可能であり、(c)桁違いのスピードアップを提供する。
その後、veritasはより大規模な実世界の検証シナリオに取り組むことができる。
関連論文リスト
- Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models [13.532180752491954]
利用可能な最大規模でトレーニングされた最先端モデルの機能と推論能力の劇的な破壊を実演する。
モデルは、問題の解決に影響を与えない、微妙な問題バリエーションでさえも強い変動を示すため、その分解は劇的である。
これらの初期観測は、現在世代の大言語モデルが主張する能力の再評価を急激に促すものである。
論文 参考訳(メタデータ) (2024-06-04T07:43:33Z) - Chain of Thoughtlessness? An Analysis of CoT in Planning [17.329365493094542]
推論問題におけるLLM(Large Language Model)のパフォーマンスは通常、分布から一般化しない。
本稿では,古典的計画領域であるBlocksworldの問題に対する思考連鎖のケーススタディを示す。
それらのプロンプトが問題クラスに特有である場合、一連の思考プロンプトから有意義なパフォーマンス改善が得られます。
論文 参考訳(メタデータ) (2024-05-08T02:48:28Z) - Quality-Diversity Algorithms Can Provably Be Helpful for Optimization [24.694984679399315]
QD(Quality-Diversity)アルゴリズムは、ハイパフォーマンスだが多様なソリューションのセットを見つけることを目的としている。
本稿では,厳密な実行時間解析によってQDアルゴリズムの最適化能力に光を当てようとしている。
論文 参考訳(メタデータ) (2024-01-19T07:40:24Z) - On Pitfalls of Test-Time Adaptation [82.8392232222119]
TTA(Test-Time Adaptation)は、分散シフトの下で堅牢性に取り組むための有望なアプローチとして登場した。
TTABは,10の最先端アルゴリズム,多種多様な分散シフト,および2つの評価プロトコルを含むテスト時間適応ベンチマークである。
論文 参考訳(メタデータ) (2023-06-06T09:35:29Z) - Factorization of Multi-Agent Sampling-Based Motion Planning [72.42734061131569]
現代のロボティクスは、共有環境内で複数のエンボディエージェントを動作させることが多い。
標準的なサンプリングベースのアルゴリズムは、ロボットの関節空間における解の探索に使用できる。
我々は、因子化の概念をサンプリングベースアルゴリズムに統合し、既存の手法への最小限の変更しか必要としない。
本稿では, PRM* のサンプル複雑性の観点から解析的ゲインを導出し, RRG の実証結果を示す。
論文 参考訳(メタデータ) (2023-04-01T15:50:18Z) - Symmetric Tensor Networks for Generative Modeling and Constrained
Combinatorial Optimization [72.41480594026815]
ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。
これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。
本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
論文 参考訳(メタデータ) (2022-11-16T18:59:54Z) - Learning Proximal Operators to Discover Multiple Optima [66.98045013486794]
非家族問題における近位演算子を学習するためのエンドツーエンド手法を提案する。
本手法は,弱い目的と穏やかな条件下では,世界規模で収束することを示す。
論文 参考訳(メタデータ) (2022-01-28T05:53:28Z) - Population-Based Methods: PARTICLE SWARM OPTIMIZATION -- Development of
a General-Purpose Optimizer and Applications [0.0]
この論文は、不等式制約を受ける連続、静的、単目的の最適化問題に関係している。
粒子群最適化のパラダイムは、社会で観察された協調行動の以前のシミュレーションから着想を得たものである。
論文 参考訳(メタデータ) (2021-01-25T09:36:25Z) - Global Optimization of Objective Functions Represented by ReLU Networks [77.55969359556032]
ニューラルネットワークは複雑で非敵対的な関数を学ぶことができ、安全クリティカルな文脈でそれらの正しい振る舞いを保証することは困難である。
ネットワーク内の障害を見つけるための多くのアプローチ(例えば、敵の例)があるが、これらは障害の欠如を保証できない。
本稿では,最適化プロセスを検証手順に統合し,本手法よりも優れた性能を実現する手法を提案する。
論文 参考訳(メタデータ) (2020-10-07T08:19:48Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。