論文の概要: Computation, not weight access: large language models as auditors of clinical prediction networks
- arxiv url: http://arxiv.org/abs/2611.07847v2
- Date: Fri, 06 Nov 2026 19:18:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-10 19:04:01.333247
- Title: Computation, not weight access: large language models as auditors of clinical prediction networks
- Title(参考訳): ウェイトアクセスではなく計算:臨床予測ネットワークの監査者としての大規模言語モデル
- Abstract要約: 大規模言語モデル(LLM)は、小さなニューラルネットワークの重みを読み、編集し、書くために報告されている。
これらのネットワークを監査するために重要なのは計算と誘導であり、重みにはアクセスしなかった。
- 参考スコア(独自算出の注目度): 15.991966510883126
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Frontier large language models (LLMs) have been reported to read, edit and write the weights of small neural networks, raising the prospect of auditing clinical prediction models from their files alone. Public demonstrations, however, mixed reading raw weights with running code. We separated these conditions in internally pre-specified simulation experiments. Tanh networks of 105 to 38,401 weights were trained on simulated cohorts of patients with subarachnoid haemorrhage, each with a planted relationship or none, and one network was trained on labels that under-recorded deaths in a subgroup. GPT-6 Astra and four other GPT models answered single prompts under a default or an explicit system instruction, either with the weights in the prompt and no tools, or with a calculation-only tool that exposed the weights (white box) or only the network's predictions (black box). Without tools, Astra recovered planted relationships in 353-weight networks but became unreliable at 3,457 weights, and under the default instruction it declined 17 of 21 audit and repair tasks as unidentifiable; the explicit instruction removed these refusals. With the tool, it recovered the planted relationship in all 39 runs on networks of up to 38,401 weights, raised no false alarm in 21 runs on null networks, and found the biased subgroup in 6 of 6 runs. Black-box access performed as well as white-box access, and other GPT-6 models read as accurately. A well-designed script matched the comparator models on the audit and the best LLM repair. For auditing these networks, what mattered was computation and elicitation, not access to the weights.
- Abstract(参考訳): 最前線の大規模言語モデル(LLM)は、小さなニューラルネットワークの重みを読み取り、編集し、記述することが報告されており、ファイルのみから臨床予測モデルを監査する可能性が高まっている。
しかし、公開デモでは、生読みと実行コードが混在していた。
我々はこれらの条件を、内部で特定されたシミュレーション実験で分離した。
105~38,401重量のTanhネットワークは、くも膜下出血患者のシミュレートされたコホートで訓練され、それぞれが植林されたか全く関係がなく、1つのネットワークは、サブグループの死が記録されていないラベルで訓練された。
GPT-6 Astraと他の4つのGPTモデルは、デフォルトまたは明示的なシステム命令の下で1つのプロンプトに応答した。
ツールがなければ、アストラは353重のネットワークで関係を修復したが、3,457重みで信頼性が低下し、デフォルトの命令では21の監査と修理のタスクのうち17のタスクが特定不可能として減少し、明示的な命令はこれらの拒絶を除去した。
このツールにより、最大38,401重量のネットワーク上で39回のランで植木された関係を回復し、ヌルネットワーク上で21回のランで誤報を起こさず、6回のランのうち6回のランでバイアスされたサブグループを発見した。
ブラックボックスアクセスはホワイトボックスアクセスと同様に実行され、その他のGPT-6モデルは正確に読み取られた。
十分に設計されたスクリプトは、監査のコンパレータモデルと最高のLCM修復にマッチした。
これらのネットワークを監査するために重要なのは計算と誘導であり、重みにはアクセスしなかった。
関連論文リスト
- Weight-space programming for auditing clinical decision networks [0.0]
Frontier言語モデルは、最近、小さなニューラルネットワークの生重量を読み書きするように報告されている。
本研究の目的は,臨床プロトコルとネットワークの重みのみを考慮に入れたモデルが,ネットワークを監査し,修復できるかどうかを判断することであった。
論文 参考訳(メタデータ) (2026-11-03T18:41:15Z) - Agora: Git as Shared Memory for Collective AutoResearch [54.31992252587096]
別々のセッションで作業する調査エージェントは、他の人が試したことと、構築可能な結果を知る必要がある。
各コミットは結果、洞察、仮説、検証、報告を記録し、それを以前の作業とリンクする。
約12日間に渡り,13人の言語モデル労働者がアゴラを重み移動問題の解決に利用したことを報告した。
論文 参考訳(メタデータ) (2026-09-16T04:00:54Z) - Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳(メタデータ) (2026-07-30T16:22:13Z) - Towards Robust Reinforcement Learning for Small-Scale Language Model Agents [5.301609879131692]
本稿では,PPO(Proximal Policy Optimization)を用いて15の(モデル,コーパス)構成を訓練した。
実験にはPythia-70M, 160M, 410M, SmolLM2-135M, 360M on the TinyStories, CNN/DailyMail, Wiki-text103 corporaが含まれていた。
提案システムは,全ての実験において安定的に収束し,流動的な先行信号と情報的な報奨信号を持つ構成において,SFTベースラインに対する優先利得率を改善した。
論文 参考訳(メタデータ) (2026-07-27T21:30:44Z) - Form, Not Content? A Preregistered, Placebo-Controlled Evaluation of Learned Error-Conditioned Self-Repair Through Prompts and Weights in Frozen Small Code Models [0.0]
本稿では,Popperian Placebo制御評価法(PoPE:Popperian Placebo-control Evaluation)を紹介する。
PoPEでは、エラーコンテンツとチャネル固有のプラセボがペアになって、事前に宣言されたスキャフォールドを保持しながら、タスク関連コンテンツを非難したり、タスクエラーの割り当てをデアレンジする。
発見は等価性や非劣等性の証拠にはならない。
論文 参考訳(メタデータ) (2026-07-14T16:59:42Z) - Junk DNA Hypothesis: Pruning Small Pre-Trained Weights Irreversibly and Monotonically Impairs "Difficult" Downstream Tasks in LLMs [66.70431182736787]
大型言語モデル(LLM)の重みには、かなりの冗長性が含まれていると信じられている。
本稿では,下流の難題に対処する上で必要となる重要な知識を包含する,事前訓練されたモデル重みの小さなマグニチュード重みについて述べる。
論文 参考訳(メタデータ) (2023-09-29T22:55:06Z) - Searching for Effective Neural Network Architectures for Heart Murmur
Detection from Phonocardiogram [5.183688633606942]
George B. Moody PhysioNet Challenge 2022は、超音波心電図(PCGs)による心室検出と心機能異常の同定の問題を提起した。
この研究は、我々のチームであるRevengerがこれらの問題を解決するために開発した新しいアプローチについて述べます。
論文 参考訳(メタデータ) (2023-03-06T09:31:42Z) - Robustness Certificates for Implicit Neural Networks: A Mixed Monotone
Contractive Approach [60.67748036747221]
暗黙のニューラルネットワークは、競合性能とメモリ消費の削減を提供する。
入力逆流の摂動に関して、それらは不安定なままである。
本稿では,暗黙的ニューラルネットワークのロバスト性検証のための理論的および計算的枠組みを提案する。
論文 参考訳(メタデータ) (2021-12-10T03:08:55Z) - Growing Artificial Neural Networks [0.9475982252982436]
プルーニングは、低SWaPハードウェアに適合するニューラルネットワークのサイズを減らすための正当な方法である。
本稿では,ネットワークを起伏させるのではなく,成長する人工神経新生(ANG)アルゴリズムを提案する。
ANGはトレーニングデータを使用して、実際のトレーニングが行われる前に、レイヤ間の重要な接続を決定する。
論文 参考訳(メタデータ) (2020-06-11T17:25:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。