論文の概要: Weight-space programming for auditing clinical decision networks
- arxiv url: http://arxiv.org/abs/2611.05341v1
- Date: Tue, 03 Nov 2026 18:41:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 12:53:57.14292
- Title: Weight-space programming for auditing clinical decision networks
- Title（参考訳）: 臨床決定ネットワークの監査のための重み空間プログラミング
- Abstract要約: Frontier言語モデルは、最近、小さなニューラルネットワークの生重量を読み書きするように報告されている。
本研究の目的は,臨床プロトコルとネットワークの重みのみを考慮に入れたモデルが,ネットワークを監査し,修復できるかどうかを判断することであった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning models in radiotherapy are commissioned by testing them on cases with known answers, which may not reveal a shortcut that the test cases share with the training data. Frontier language models have recently been reported to read and write the raw weights of small neural networks, an ability called weight-space programming. The purpose of this study was to determine whether such a model, given only a clinical protocol and a network's weights, can audit and repair the network. Networks with 433 to 4,801 parameters were trained to screen head-and-neck planning requests against four rules. Flaws were planted through the training data: confounds that hid each rule, a 3 Gy shift in the cord threshold, and a hidden trigger. Claude Opus 5.5 audited each network blind, without tools, data or code execution, and every claim and repair was tested on about 420,000 requests. The language model named the broken rule in 16 of 18 flawed networks (95% CI 67% to 97%), including all 15 with a confound or a threshold shift. It repaired each of the 16 by changing a median of 3 parameters. Fine-tuning on protocol-labeled requests also repaired every network, but changed nearly every parameter. Each confound and shift it found was visible in single units, and a simple statistic chosen for each flaw type found the same flaws. It cleared 2 of 5 healthy networks without being forced and found 1 of 3 triggers. Testing against the protocol detected every flaw, and black-box testing found the confounds and the shift faster. The results indicate that, in small networks, weight-space programming can locate and repair flaws that silence an input or shift a threshold, but cannot yet certify that a network is correct.
- Abstract（参考訳）: 放射線治療における機械学習モデルは、既知の答えを持つケースでそれらをテストすることで委託される。
最近、フロンティア言語モデルは、小さなニューラルネットワークの生重量を読み書きするように報告されている。
本研究の目的は,臨床プロトコルとネットワークの重みだけでネットワークを監査し,修復できるかどうかを判断することであった。
433から4,801のパラメータを持つネットワークは、4つのルールに対してヘッド・アンド・ネックの計画要求をスクリーニングするように訓練された。
トレーニングデータには、各ルールを隠した欠陥、コードしきい値の3Gyシフト、隠れトリガーなどが含まれている。
クロード・オプス5.5は、ツール、データ、コード実行なしで各ネットワークを盲目で監査し、約420,000の要求で全てのクレームと修復がテストされた。
言語モデルは、欠陥のある18のネットワーク(95% CI 67%から97%)の16のルールに、障害のある15のすべて、あるいはしきい値シフトを含む、壊れたルールを命名した。
3つのパラメータの中央値を変更することで16のそれぞれを修復した。
プロトコルラベルによるリクエストの微調整もすべてのネットワークを修復したが、ほぼすべてのパラメータを変更した。
それぞれの発見とシフトは単一のユニットで見え、各欠陥タイプで選択された単純な統計で同じ欠陥が見つかった。
健康なネットワーク5つのうち2つを強制せずにクリアし、3つのうち1つを見つけました。
プロトコルに対するテストはすべての欠陥を検出し、ブラックボックスのテストでは、欠点とシフトがより速くなった。
その結果、小さなネットワークでは、重み空間プログラミングは入力を沈黙させたり閾値をシフトさせたりするような欠陥を発見・修復することができるが、ネットワークが正しいことを証明することはできないことが示唆された。
関連論文リスト
- When Thoughts Become Memory: Unifying In-Context Learning and Fine-Tuning [0.0]
私たちは、未確認データが事前訓練されたモデルのコンテキストに属しているか、あるいはその重みに属しているかについて、初めて認定されたルールを与えます。
法則の天井は1つの測定値から選択を認証し、任意の有能なテストは保持されたクエリから選択する。
このテストでは、XGBoost上でTabPFNを拾い、空気圧に関するコンテキスト内学習者に対して訓練された代理を行う。
論文 参考訳（メタデータ） (2026-10-21T08:44:52Z) - Adaptive Alarm Threshold Prediction in 4G Mobile Networks: A Percentile-Guided Deep Learning Framework with Interpretable Outputs [0.0]
本稿では,4つのアラームしきい値,監査窓期間,不活性時間制限,総変動数,時間あたりの変動制限を自動的に予測する機械学習フレームワークを提案する。
このフレームワークは、新しいデータを使って日々のトレーニングを実施し、しきい値がネットワークの変化に常に適応できるようにする。
論文 参考訳（メタデータ） (2026-04-04T17:21:08Z) - Just How Flexible are Neural Networks in Practice? [89.80474583606242]
ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。
しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
論文 参考訳（メタデータ） (2024-06-17T12:24:45Z) - Verification of Neural Networks Local Differential Classification
Privacy [1.3024517678456733]
ローカル差分分類プライバシー(LDCP)と呼ばれる新しいプライバシー特性を提案する。
LDCPはローカルロバスト性をブラックボックス分類器に適した差分プライバシー設定に拡張する。
Sphynxは、ネットワークの小さな集合から高い確率で全てのネットワークを抽象化するアルゴリズムである。
論文 参考訳（メタデータ） (2023-10-31T09:11:12Z) - Building Flyweight FLIM-based CNNs with Adaptive Decoding for Object
Detection [40.97322222472642]
本研究では、ユーザ描画マーカーからオブジェクトを検出するために、畳み込みニューラルネットワーク(CNN)層を構築する方法を提案する。
糞便サンプルの顕微鏡画像におけるSchistosomiasis mansoni卵の検出と,衛星画像における船舶の検出に対処する。
我々のCNNは、SOTAオブジェクト検出器より数千倍も小さく、CPU実行に適している。
論文 参考訳（メタデータ） (2023-06-26T16:48:20Z) - Semantic-Based Neural Network Repair [4.092001692194709]
本稿では,ニューラルネットワークの自動修復手法を提案する。
私たちのアプローチは、ディープラーニングレイヤの実行可能なセマンティクスに基づいています。
私たちは、自動生成されたニューラルネットワークと、一般的なモデルバグに苦しむ手書きのものを修復する、という2つのユースケースに対するアプローチを評価します。
論文 参考訳（メタデータ） (2023-06-12T16:18:32Z) - Searching for Effective Neural Network Architectures for Heart Murmur
Detection from Phonocardiogram [5.183688633606942]
George B. Moody PhysioNet Challenge 2022は、超音波心電図(PCGs)による心室検出と心機能異常の同定の問題を提起した。
この研究は、我々のチームであるRevengerがこれらの問題を解決するために開発した新しいアプローチについて述べます。
論文 参考訳（メタデータ） (2023-03-06T09:31:42Z) - Enabling certification of verification-agnostic networks via
memory-efficient semidefinite programming [97.40955121478716]
本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。
L-inf の精度は 1% から 88% ,6% から 40% に改善した。
また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
論文 参考訳（メタデータ） (2020-10-22T12:32:29Z) - Cassandra: Detecting Trojaned Networks from Adversarial Perturbations [92.43879594465422]
多くの場合、事前トレーニングされたモデルは、トロイの木馬の振る舞いをモデルに挿入するためにトレーニングパイプラインを中断したかもしれないベンダーから派生している。
本稿では,事前学習したモデルがトロイの木馬か良馬かを検証する手法を提案する。
本手法は,ニューラルネットワークの指紋を,ネットワーク勾配から学習した逆方向の摂動の形でキャプチャする。
論文 参考訳（メタデータ） (2020-07-28T19:00:40Z) - Network Adjustment: Channel Search Guided by FLOPs Utilization Ratio [101.84651388520584]
本稿では,ネットワークの精度をFLOPの関数として考慮した,ネットワーク調整という新しいフレームワークを提案する。
標準画像分類データセットと幅広いベースネットワークの実験は、我々のアプローチの有効性を実証している。
論文 参考訳（メタデータ） (2020-04-06T15:51:00Z) - Cryptanalytic Extraction of Neural Network Models [56.738871473622865]
遠隔モデルのパラメータを浮動小数点精度まで効率的に盗むことができる差動攻撃を導入する。
我々の攻撃は、ReLUニューラルネットワークが一括線形関数であるという事実に依存している。
220倍の正確さと100倍のクエリを必要とするモデルを抽出する。
論文 参考訳（メタデータ） (2020-03-10T17:57:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。