論文の概要: Riding the Fixed-Point Curve: Image Classification in the Continuous Thought Machine
- arxiv url: http://arxiv.org/abs/2610.19220v2
- Date: Thu, 15 Oct 2026 18:15:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.540771
- Title: Riding the Fixed-Point Curve: Image Classification in the Continuous Thought Machine
- Title(参考訳): 固定点曲線に乗る:連続思考機械における画像分類
- Abstract要約: 継続的思考機械 (Continuous Thought Machine, CTM) は、入力に反応して予測を行う再帰的なネットワークである。
我々は,CTMがイメージネットに焦点をあて,画像の分類方法に関する多くの知見を報告する。
- 参考スコア(独自算出の注目度): 1.8152043926167654
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Continuous Thought Machine (CTM) is a recurrent network that attends to inputs and makes predictions based on the synchronization between its neurons. On tasks spanning many domains, it displays emergent thought processes that have not been explained. We report a number of findings about how the CTM classifies images, focusing on ImageNet. Thinking steps are attracting but strongly non-normal maps exhibiting balanced amplification (Murphy and Miller, 2009); while attraction is already present at CTM initialization, training highly promotes non-normality. By Banach's theorem, the neural state thus has a locally unique attracting fixed point, which moves at every step, and the thought trajectory is the curve these fixed points trace, followed one tick behind. Most of that curve's motion is shared across images, and visible as a previously reported traveling wave of activity across neurons. The attention schedule along the thought is largely generic: shuffling queries across images at every tick costs only 7 percent of classification accuracy, while image-independent increments predict the next query with R^2 = 0.98 (held out). Our results suggest that the CTM has found a single strategy to process all ImageNet images.
- Abstract(参考訳): 連続思考機械 (Continuous Thought Machine, CTM) は、ニューロン間の同期に基づく入力と予測を行う再帰ネットワークである。
多くのドメインにまたがるタスクでは、説明されていない創発的な思考プロセスが表示される。
我々は,CTMがイメージネットに焦点をあて,画像の分類方法に関する多くの知見を報告する。
思考ステップは惹きつけるが、バランスの取れた増幅を示す強い非正規写像(Murphy and Miller, 2009)は、既にCTM初期化においてアトラクションが存在するが、訓練は非正規性を高度に促進する。
バナッハの定理により、神経状態は局所的に一意に誘引される固定点を持ち、各ステップで動く。
曲線の運動の大部分は画像間で共有され、これまで報告されていたニューロン間の活動の進行波として見える。
イメージ間のクエリのシャッフルは分類精度のわずか7%に過ぎず、画像に依存しないインクリメントは次のクエリをR^2 = 0.98で予測する。
以上の結果から,CTM はすべての ImageNet 画像を処理するための単一の戦略を見出したことが示唆された。
関連論文リスト
- Beyond Edge Cuts: Activity-Weighted Multicast Hypergraph Mapping for Spiking Neural Networks on Mesh NoCs [0.0]
本稿では,M-HySMapを提案する。
We show that M-HySMap reduces routed multicast hops over Activity+QAP and 19.7-41.1% over Edge+QAP。
論文 参考訳(メタデータ) (2026-08-26T13:16:43Z) - Unsupervised Segmentation by Diffusing, Walking and Cutting [5.6872893893453105]
本稿では,事前学習したテキスト・画像拡散モデルの特徴を用いた教師なし画像分割手法を提案する。
重要な洞察は、自己アテンション確率分布は、画像を横断するランダムウォーキングの遷移行列として解釈できることである。
提案手法は,COCO-Stuff-27およびCityscapesにおける非教師なしセグメンテーションの既存手法を全て超越し,最先端の結果が得られることを示す。
論文 参考訳(メタデータ) (2024-12-06T00:23:18Z) - Generalized Consistency Trajectory Models for Image Manipulation [59.576781858809355]
拡散モデル(DM)は、画像編集や復元などの応用と同様に、無条件生成において優れている。
本研究の目的は、一般化されたCTM(GCTM)を提案することによって、整合性軌道モデル(CTM)の完全なポテンシャルを解放することである。
本稿では,GCTMの設計空間について論じ,画像から画像への変換,復元,編集など,様々な画像操作タスクにおいて有効性を示す。
論文 参考訳(メタデータ) (2024-03-19T07:24:54Z) - Estimating Extreme 3D Image Rotation with Transformer Cross-Attention [13.82735766201496]
画像ペアのアクティベーションマップ間の相互アテンションを計算するために,CNN特徴マップとTransformer-Encoderを利用するクロスアテンションベースのアプローチを提案する。
一般的に使用されている画像回転データセットやベンチマークに適用した場合、現代の最先端のスキームよりも優れた性能を示すことが実験的に示されている。
論文 参考訳(メタデータ) (2023-03-05T09:07:26Z) - Continuity-Discrimination Convolutional Neural Network for Visual Object
Tracking [150.51667609413312]
本稿では,視覚オブジェクト追跡のためのContinuity-Discrimination Convolutional Neural Network (CD-CNN) という新しいモデルを提案する。
この問題に対処するため、cd-cnnは時間的遅れの概念に基づいた時間的外観連続性をモデル化する。
不正確なターゲットの定位とドリフトを緩和するために,新しい概念 object-centroid を提案する。
論文 参考訳(メタデータ) (2021-04-18T06:35:03Z) - Learning to Estimate Hidden Motions with Global Motion Aggregation [71.12650817490318]
閉塞は、局所的な証拠に依存する光学フローアルゴリズムに重大な課題をもたらす。
最初の画像でピクセル間の長距離依存性を見つけるために,グローバルモーションアグリゲーションモジュールを導入する。
遮蔽領域における光流量推定が非遮蔽領域における性能を損なうことなく大幅に改善できることを実証した。
論文 参考訳(メタデータ) (2021-04-06T10:32:03Z) - Group-Wise Semantic Mining for Weakly Supervised Semantic Segmentation [49.90178055521207]
この研究は、画像レベルのアノテーションとピクセルレベルのセグメンテーションのギャップを埋めることを目標に、弱い監督されたセマンティックセグメンテーション(WSSS)に対処する。
画像群における意味的依存関係を明示的にモデル化し,より信頼性の高い擬似的基盤構造を推定する,新たなグループ学習タスクとしてWSSSを定式化する。
特に、入力画像がグラフノードとして表現されるグループ単位のセマンティックマイニングのためのグラフニューラルネットワーク(GNN)を考案する。
論文 参考訳(メタデータ) (2020-12-09T12:40:13Z) - Multi-hop Attention Graph Neural Network [70.21119504298078]
マルチホップアテンショングラフニューラルネットワーク(MAGNA)は、マルチホップコンテキスト情報を注目計算のすべての層に組み込む方法である。
MAGNAは各層における大規模構造情報を捕捉し,低域効果によりグラフデータからノイズの多い高周波情報を除去することを示す。
論文 参考訳(メタデータ) (2020-09-29T22:41:19Z) - Continuous-time quantum walks in the presence of a quadratic
perturbation [55.41644538483948]
連続時間量子ウォークの特性を、$mathcalH=L + lambda L2$という形のハミルトン群で解決する。
低/高接続性および/または対称性を持つパラダイムモデルであるため、サイクル、完全、およびスターグラフを考える。
論文 参考訳(メタデータ) (2020-05-13T14:53:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。