論文の概要: Representable but Unlearned: Encoding Rank and the Interaction-Prediction Floor

• arxiv url: http://arxiv.org/abs/2609.36208v1
• Date: Mon, 28 Sep 2026 20:09:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.994224
• Title: Representable but Unlearned: Encoding Rank and the Interaction-Prediction Floor
• Title（参考訳）: 表現可能だが未学習:エンコードランクと相互作用予測フロア
• Abstract要約: エンコーダの等価クラスと固定コントラスト設計から達成可能なコントラスト空間を計算する。 記録されたコントラストをその空間に投影すると、制限のないデコーダに対して経験的なエラーフロアが得られる。
• 参考スコア（独自算出の注目度）: 2.167633131083169
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Input encodings can restrict which measured contrasts a predictor can jointly reproduce, even when no single contrast is forced to vanish. We compute the attainable contrast space from an encoder's equivalence classes and a fixed contrast design, without labels, loss, or a fitted model; projecting the recorded contrasts onto that space gives an empirical error floor for any unrestricted decoder on those classes. On a 140-rectangle siRNA interaction panel, a graph neural network's training-only feature mask merges 165 endpoint states into 90 classes and cuts the rank of the 140 interaction contrasts to 72. The resulting floor is 0.009980, which is 14.6% of the fitted model's interaction squared error; the fitted model reaches 0.068335, slightly worse than a control predicting no interaction at all. A minimum of three restored chemistry columns recovers full rank. Refitting without the mask removes the floor entirely, yet interaction MSE improves by only 0.000017 under the reported protocol, and the restored columns remain absent from every training input. On a released RNA-splicing predictor, whose encoding is injective on the measured states, the same computation returns the full design rank of 1,986 and a floor of exactly zero. These results separate what an encoding permits from what a fitted model achieves; they do not identify what limits the remaining error. The rank check needs no fits and bounds what any amount of training under a fixed encoding can recover. The project repository is available at https://github.com/shadi97kh/REPRESENTABLE-BUT-UNLEARNED.
• Abstract（参考訳）: 入力エンコーディングは、単一のコントラストが消滅せざるを得なくても、予測器が共同で再現できるコントラストを制限できる。 我々は、エンコーダの等価クラスと固定されたコントラスト設計から到達可能なコントラスト空間をラベル、損失、あるいは適合モデルなしで計算し、記録されたコントラストをその空間に投影することで、それらのクラス上の制限のないデコーダに対して経験的なエラーフロアを与える。 140長方形のsiRNA相互作用パネルでは、グラフニューラルネットワークのトレーニング専用機能マスクが165のエンドポイントステートを90のクラスにマージし、140のインタラクションのランクを72と対比する。 得られたフロアは0.009980であり、これは装着されたモデルの2乗誤差の14.6%であり、搭載されたモデルは0.068335に達する。 復元された3つの化学カラムは、全階級を回復する。 マスクのないリフィットはフロアを完全に取り除くが、MSEは報告されたプロトコルの下で0.000017しか改善せず、復元されたコラムはトレーニング入力毎に欠落している。 測定された状態にエンコーディングを注入したリリースされたRNAスプライシング予測器では、同じ計算で1,986の完全な設計ランクとちょうど0のフロアが返される。 これらの結果は、エンコーディングが許容するものと、適合したモデルが達成するものとを区別する。 ランクチェックは適合せず、固定されたエンコーディング下でのトレーニングの量を制限します。 プロジェクトリポジトリはhttps://github.com/shadi97kh/REPRESENTABLE-BUT-UNLEARNEDで公開されている。

関連論文リスト

• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• Cross-Block Conditioning in Deep Boltzmann Machines for Statistical Data Fusion [0.0]
  本稿では,各行が実際に観測するものから抽出したターゲットに対して,マルチ予測対象を限定する,観測ブロック型マルチプレディションを提案する。 設定を生き残る差別的基準を持つことで、ジョイントモデルがまったく必要かどうかを問うことができます。
  論文  参考訳（メタデータ） (2026-09-14T02:26:16Z)
• A Dominant Diffuse Phase in the Sparse Autoencoder Phase Diagram [0.0]
  スパースオートエンコーダ(SAE)は、ニューラルネットワークのアクティベーションから解釈可能な特徴を回復するために、ますます使われるようになっている。 MAIS-O43開放問題では、真の合成辞書の回復が特徴付けの方法を与えるときに特徴付ける制御実験が提案されている。
  論文  参考訳（メタデータ） (2026-09-09T15:13:42Z)
• Self-Supervised Pretraining of Molecular Graph Encoders with LeJEPA [0.0]
  自己教師付き事前学習は言語とビジョンを変えてきたが、分子グラフニューラルネットワークの価値はいまだに争われている。 大規模な教師なしコーパスでの事前学習が分子特性予測を改善するかどうかを問う。 プレトレーニングは学習した表現を改善するが、微調整を堅牢に改善しない。
  論文  参考訳（メタデータ） (2026-09-02T12:08:23Z)
• Operator-on-F complements value-equivalence: a planning-time diagnostic for latent world models [0.0]
  本稿では, モデルk段階の潜在プッシュフォワードと観測可能なサブセットF上の環境との相補的診断, 演算子-on-Fを提案する。 TD-MPC2サイズがチーターランを超えると、報酬予測エラーはモデルサイズ毎に[0.028, 0.091]以内に留まる。
  論文  参考訳（メタデータ） (2026-07-05T19:09:07Z)
• Bag of Dims: Training-Free Mechanistic Interpretability via Dimension-Level Sign Patterns [0.0]
  我々は、すでにトレーニング不要でアーキテクチャ全般的な機能ベースを提供しているトランスフォーマー隠蔽状態の標準基底を示す。 このBag of Dimsフレームワークを、言語にまたがる7つのモデルで検証する。
  論文  参考訳（メタデータ） (2026-06-10T19:34:31Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• Few-Shot Non-Parametric Learning with Deep Latent Variable Model [50.746273235463754]
  遅延変数を用いた圧縮による非パラメトリック学習(NPC-LV)を提案する。 NPC-LVは、ラベルなしデータが多いがラベル付きデータはほとんどないデータセットの学習フレームワークである。 我々は,NPC-LVが低データ構造における画像分類における3つのデータセットの教師あり手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-23T09:35:03Z)
• Rebalanced Siamese Contrastive Mining for Long-Tailed Recognition [120.80038161330623]
  教師付きコントラスト学習は、元のバッチレベルとシームズバッチレベルの両方において、二重クラス不均衡の問題に悩まされていることを示す。 コントラスト計算のための情報的ペアを抽出し,表現学習を改善するために,教師付き強正・負のペアマイニングを提案する。
  論文  参考訳（メタデータ） (2022-03-22T07:30:38Z)
• How do Decisions Emerge across Layers in Neural Models? Interpretation with Differentiable Masking [70.92463223410225]
  DiffMaskは、差分性を維持しながら入力のサブセットをマスクアウトすることを学ぶ。 入力トークンを包含または無視する決定は、中間隠蔽層に基づく単純なモデルで行われる。 これにより、属性のヒートマップをプロットするだけでなく、ネットワーク層間で意思決定がどのように形成されるかを分析することができます。
  論文  参考訳（メタデータ） (2020-04-30T17:36:14Z)
• DMT: Dynamic Mutual Training for Semi-Supervised Learning [69.17919491907296]
  自己学習法は通常、低信頼の擬似ラベルをフィルタリングするために単一のモデル予測の信頼性に依存する。 動的相互学習と呼ばれる動的に再重み付けされた損失関数を用いて、2つの異なるモデル間の相互学習を提案する。 実験の結果,DMTは画像分類とセマンティックセグメンテーションの両方において最先端の性能を実現することがわかった。
  論文  参考訳（メタデータ） (2020-04-18T03:12:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。