論文の概要: this-that-model-1.0: A typed decision model that decides in 30 ms, for a millionth of a cent
- arxiv url: http://arxiv.org/abs/2609.23886v1
- Date: Sun, 20 Sep 2026 21:43:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 03:38:27.386408
- Title: this-that-model-1.0: A typed decision model that decides in 30 ms, for a millionth of a cent
- Title（参考訳）: このモデル1.0:30ミリ秒で1セントの100万分の1で決定する型付き決定モデル
- Abstract要約: このモデル1.0は2B型決定モデルである。
1つのラップトップGPU上で30.9msで決定し、それを行う出力トークンをゼロにする。
1つのコンシューマGPU上で毎秒32の意思決定を維持でき、ステートがマシンを離れることはない。
- 参考スコア（独自算出の注目度）: 9.39195684989942
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Software delegates more of its branches to models every year: which queue a ticket enters, whether a command is safe to run, whether a claim clears without a person. What the program needs back is not prose. It is one of n declared options and a number it can threshold. Today that costs a round trip to a frontier model -- hundreds of milliseconds, a per-token bill, and a parser -- for a question that is usually a conjunction of three clauses. this-that-model-1.0 is a 2B-parameter typed decision model. Its answer is read directly from the hidden state at a designated position and restricted to the option set the caller declared, so no text is generated, nothing can be malformed, and every question in a request is answered in the same forward pass. It decides in 30.9 ms on one laptop GPU and generates zero output tokens doing it, where a frontier API call costs 8758 ms and the hosted systems that answer these questions well spend between 21 and 212 generated tokens per question thinking first, billed for every one. It sustains 32 decisions per second on one consumer GPU and never lets the state leave the machine. On a third party's recorded cohort of 68 decision questions, on their inputs and their wording, it scores 0.941 with a Brier score of 0.042, against 0.765 and 0.133 for the hosted service Jev on the same items. One pass of our 42-family internal suite takes 32 seconds and 0.000217 USD of electricity; the most accurate hosted model we measured needs 155.2 minutes and 10.636 USD. We also report where it loses. On multi-step arithmetic, which a single forward pass cannot carry intermediate results through, it scores 0.560 against their 0.98 to 1.00, and a targeted second training round improved the five task families it was written for and transferred to none of the other 13. The model is open-sourced in https://huggingface.co/flock-io/this-that-model-1.0
- Abstract（参考訳）: ソフトウェアは毎年,そのブランチをモデルに委譲する – チケットがどのキューに入るか,コマンドの実行が安全か,クレームが人なしでクリアされるか,といったものだ。
プログラムに必要なのは散文ではない。
これは、n の宣言されたオプションの1つであり、しきい値の値である。
今日では、通常は3つの節が組み合わさった質問に対して、何百ミリ秒ものフロンティアモデル、トーケン1件の請求書、パーサーへのラウンドトリップがかかる。
このモデル1.0は2Bパラメータ型決定モデルである。
その答えは指定された位置で隠された状態から直接読み取られ、呼び出し元が宣言したオプションセットに制限されるので、テキストは生成されず、何も不正にならず、リクエストの全ての質問は同じ前方パスで答えられる。
1つのラップトップGPU上で30.9ミリ秒で決定し、それを行うゼロ出力トークンを生成する。フロンティアAPIコールのコストは8758ミリ秒であり、これらの質問に答えるホストシステムでは、まず1つの質問に対して請求される21～212個のトークンが使用される。
1つのコンシューマGPU上で毎秒32の意思決定を維持でき、ステートがマシンを離れることはない。
サードパーティが記録した68の意思決定質問のコホートでは、入力とワードについて、同じ項目でホストサービスであるJevの0.0765と0.133に対して、ブライアスコア0.042で0.941とスコア付けされている。
42戸の社内スイートの1パスは32秒と0.000217USDで、最も正確にホストされたモデルは155.2分、10.636USDである。
また、失う場所も報告します。
シングルフォワードパスが中間結果を渡すことができないマルチステップ算術では、0.98から1.00に対して0.560得点し、ターゲットとなる第2の訓練ラウンドでは、書き込まれた5つのタスクファミリを改善し、他の13に転送した。
このモデルはhttps://huggingface.co/flock-io/this-that-that-model-1.0でオープンソース化されている。
関連論文リスト
- Playing log(N)-Questions over Wikipedia Abstracts: How Per-Round Errors Compound Under Information Asymmetry [0.08460698440162888]
我々は2エージェントの$log N$-Questionsゲーム上で6つのフロンティア言語モデルを評価する。
$N$の候補リードパラグラフにアクセスする質問者は、正確に$log N$のバイナリ質問を使用して秘密のターゲットを特定する必要がある。
408ゲーム中、勝利率は水平長の幾何学的パワーとしてきれいに崩壊する。
論文 参考訳（メタデータ） (2026-09-16T17:41:12Z) - TamilEOT: A Dataset and Model for Semantic End-of-Turn Detection in Tamil Telephone Speech [0.0]
TamilEOT: 18,485のラベル付き通話境界は、実際の116の電話通話から切り離された。
2つのオーディオ専用検出器は、Smart Turn v3から微調整されている。
どちらのモデルも、ラップトップのCPU上で150ms未満のシングルスレッドで動作する。
論文 参考訳（メタデータ） (2026-09-04T18:09:11Z) - Gated Against One Model, Open to the Next: Option-Only Solvability in Legal Multiple-Choice Benchmarks [0.0]
複数選択のベンチマークは、モデルが正しい選択肢を選ぶかどうか、質問が必要なかどうかで評価される。
UA-JudgeExam: 11,990件の4つのオプション項目を公式キーで測定し、ウクライナの高等審査委員会(Higher Qualification Commission of Judges)が公表した。
11.8%のアイテムは、偶然に予想される0.2項目に対して、8つのオプションのすべてで盲目で答えられる。
論文 参考訳（メタデータ） (2026-08-15T22:11:00Z) - When Self-Consistency Backfires: Majority Vote Hurts the Majority of Hard Science Problems for Small LLMs [0.0]
多数決による自己整合性は、小命令チューニングモデルのGPQAダイアモンド問題において、プロブレム毎の精度を低下させる。
このバージョンでは、最も自然な修復も失敗し、v1が1つとして扱われた3つの信号障害を分離する。
論文 参考訳（メタデータ） (2026-08-11T20:08:51Z) - A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever [0.0]
検証された解の永続記憶を用いて言語問題を解く方法を示す。
問題ファミリの新しいインスタンスは、ゼロ生成トークン、ビット実行、決定論的に答えられる。
発表されたベンチマークでは、フロンティアモデルは生のゼロスクラッチ推論において、12Bよりもはるかに先行している。
論文 参考訳（メタデータ） (2026-07-26T19:08:33Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳（メタデータ） (2026-07-19T22:27:00Z) - Micro Language Models Enable Instant Responses [49.192613030724424]
スマートウォッチやスマートグラスのようなエッジデバイスは、電力と計算の制約により、最小の100M-1Bパラメータ言語モデルでさえ連続的に動作できない。
マイクロ言語モデル($LMs)を導入し、デバイス上でコンテキスト的にグラウンドされた応答の最初の4-8ワードを即座に生成する。
我々は,70M-256Mクラスの既存モデルに適合するモデルを用いて,有用な言語生成を極端に大規模に維持することを示す。
論文 参考訳（メタデータ） (2026-04-21T16:31:12Z) - Catch Your Breath: Adaptive Computation for Self-Paced Sequence Production [55.76222360698305]
我々は,言語モデルが入力トークン毎に使用する計算ステップの数を動的かつ自律的に拡張できるような,教師付きトレーニング目標のクラスを探索する。
任意のトークンに対して、モデルは don't know> 出力を出力することで、追加の計算ステップを要求できる。
CYBモデルでは精度が向上し,トークンレベルの複雑性とコンテキストに処理時間を適用することができる。
論文 参考訳（メタデータ） (2025-10-13T21:07:05Z) - Think before you speak: Training Language Models With Pause Tokens [73.61375226378712]
言語モデルは、即座に連続して一連のトークンを生成して応答を生成する。
代わりに、$(K+1)th$トークンを出力する前に、モデルに$K+10$隠れベクターを操作させるとしたらどうでしょう?
私たちは、(学習可能な)$textitpause$トークンを使って、言語モデルでトレーニングと推論を行うことで、このアイデアを運用します。
論文 参考訳（メタデータ） (2023-10-03T17:32:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。