論文の概要: Decompose, Don't Expand: Capability-Independent AI Systems by Construction

• arxiv url: http://arxiv.org/abs/2610.38144v1
• Date: Wed, 28 Oct 2026 01:28:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:09.936603
• Title: Decompose, Don't Expand: Capability-Independent AI Systems by Construction
• Title（参考訳）: Decompose, Don't Expand: 構築による能力に依存しないAIシステム
• Abstract要約: モデルに一般的に委譲される多くのタスクは、実際には小さな生成コアを持つ決定論的タスクであることを示す。 我々はこれを494Mパラメータのローカルチェックポイントからフロンティアオプスクラスのモデルにまたがる9つのモデルで測定する。 タスクがモデルを離れるため、ストックチェックポイントは十分である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A recurring design choice in building AI systems is whether, when a task is too hard for a model, to expand the model (make it larger, better-prompted, fine-tuned), or to decompose the task (extract the parts that admit a deterministic solution to a host, leaving the model only the irreducibly fuzzy residue). We make three claims. First, that many tasks commonly delegated whole to a model are in fact deterministic tasks with a small generative core. Second, and our central empirical result, that decomposing such a task yields a measurable and desirable property we call parity by construction: on the extracted sub-tasks the model-size performance curve becomes flat, because no model performs them at all. We measure this across nine models spanning a 494M-parameter local checkpoint to a frontier Opus-class model, a thirty-fold parameter range on the local family alone: once the host resolves the context, operation selection scores identically for all nine models and selector resolution for eight of nine, while the one task that does not decompose, labelling, remains sloped across the same range. Because the task leaves the model, a stock checkpoint suffices: no task-specific training and no fine-tuning. Third, that this is a general design discipline, not a domain trick: we show the same move recurring across physics setup, motion retargeting, and object-model editing, and in a Web-CLI tool family (same author, so not an independent replication). We give a method for locating the cut, the construction that makes a cut exist (a deterministic surface and a closed grammar over it), and a way to make the residue safe (resolve the deterministic context; verify the generative output), position the work against neuro-symbolic AI, tool-augmented language models, and generate-and-verify approaches, and are explicit about what is measured (one domain) versus illustrative (the rest).
• Abstract（参考訳）: AIシステムを構築する上で、繰り返し行われる設計選択は、タスクがモデルに難しすぎる場合、モデルを拡大するか(より大きく、より良くプロンプトされ、微調整される)、あるいはタスクを分解するか(決定論的ソリューションをホストに受け入れる部分を取り除き、モデルはファジィ残余のみを残す)である。 私たちは3つの主張をする。 まず、一般的にモデルに委譲される多くのタスクは、実際には小さな生成コアを持つ決定論的タスクである。 第2に、そのようなタスクを分解すると、構成によってパリティと呼ばれる測定可能で望ましい特性が得られるという実験結果が得られた。 我々はこれを,494Mパラメータの局所チェックポイントからフロンティアオプスクラスモデル,30倍のパラメータ範囲にまたがる9つのモデルにまたがって測定する。 タスクがモデルを離れるため、ストックチェックポイントは十分である。 第3に、これは一般的な設計の規律であり、ドメインのトリックではない。物理の設定、モーションリターゲティング、オブジェクトモデル編集、Web-CLIツールファミリで同じ動きを繰り返す。 本稿では,カットを配置する手法,カットを行う構造(決定論的表面とそれ上の閉じた文法),残余を安全にする方法(決定論的文脈を解消し,生成出力を検証する),ニューロシンボリックAI,ツール拡張型言語モデル,生成と検証のアプローチに対する作業の位置決め,測定対象(1ドメイン)とイラストラティクス(残りの領域)について明示する。

関連論文リスト

• When Is Smaller Greener? Right-Sizing Language Models for Agentic AI [1.3965477771846408]
  コールごとの比較はエージェントAIと誤解を招く可能性があることを示す。 タスクはすべての必要なステップが成功する場合にのみ成功するので、ステップごとの信頼性の小さな違いは、タスク全体の成功に大きな違いをもたらす。 エージェントでLLMを選択するための決定モデルを開発する。
  論文  参考訳（メタデータ） (2026-10-14T00:37:23Z)
• PACT: Preserving Anchored Cores in Task-vectors for Model Merging [68.52455853496585]
  モデルマージは、複数のタスク固有の細調整されたモデルを単一のマルチタスクモデルに結合することを目的としている。 既存のモデルマージアプローチのほとんどは、Task Arithmeticパラダイムに従っています。 本研究では,タスクベクトル内の固定されたタスク固有コア(LBW次元)を,事前学習した重みのサブ空間と補間を整合させることにより保存するPACTを提案する。
  論文  参考訳（メタデータ） (2026-06-17T02:48:35Z)
• Purifying Task Vectors in Knowledge-Aware Subspace for Model Merging [83.5273168208788]
  モデルマージは、個別に調整されたモデルのタスク固有の能力を、余分なトレーニングなしで単一のモデルに統合することを目的としている。 統合モデルは、タスクベクトルのタスク非関連冗長性に起因する競合により、しばしば顕著なパフォーマンス劣化に悩まされる。 本稿では,これらの課題を克服するために,知識対応サブ空間におけるTAsk Vectors (PAVE) の純粋化を提案する。
  論文  参考訳（メタデータ） (2025-10-16T14:02:57Z)
• Revisiting SMoE Language Models by Evaluating Inefficiencies with Task Specific Expert Pruning [78.72226641279863]
  SMOE(Sparse Mixture of Expert)モデルは、言語モデリングにおける高密度モデルに代わるスケーラブルな代替品として登場した。 本研究は,SMoEアーキテクチャの設計に関する意思決定を行うために,タスク固有のモデルプルーニングについて検討する。 適応型タスク対応プルーニング手法 UNCURL を導入し,MoE 層当たりの専門家数をオフラインで学習する手法を提案する。
  論文  参考訳（メタデータ） (2024-09-02T22:35:03Z)
• Deep Model Reassembly [60.6531819328247]
  我々はDeep Model Reassembly(DeRy)と呼ばれる新しい知識伝達タスクを探索する。 DeRyの目標は、まず各モデルを固有のビルディングブロックに分割し、それから派生したブロックを選択的に再組み立てて、カスタマイズされたネットワークを生成することである。 ImageNetでは、最高の再組み立てモデルは微調整なしで78.6%のトップ1の精度を実現している。
  論文  参考訳（メタデータ） (2022-10-24T10:16:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。