論文の概要: Attention to task structure for cognitive flexibility
- arxiv url: http://arxiv.org/abs/2604.13281v1
- Date: Tue, 14 Apr 2026 20:17:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-16 20:38:32.287274
- Title: Attention to task structure for cognitive flexibility
- Title(参考訳): 認知的柔軟性のためのタスク構造への注意
- Authors: Xiaoyu K. Zhang, Mehdi Senoussi, Tom Verguts,
- Abstract要約: 一般化と安定性は、リッチネスとタスク接続性が異なる環境にわたって体系的に評価される。
我々は、より豊かな環境が一般化と安定性の両方を改善することを観察する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Humans and artificial agents must often learn and switch between multiple tasks in dynamic environments. Success in such settings requires cognitive flexibility: the ability to retain prior knowledge (cognitive stability) while also transferring it to novel tasks (cognitive generalization). Cognitive flexibility research has largely focused on the role of model architecture to achieve these complementary goals. However, it is less well understood how the structure of the environment itself influences cognitive flexibility, and how it interacts with model architecture. To address this gap, we design a multi-task learning environment in which tasks are defined by a combination of two cue dimensions, allowing us to characterize the environment with graph-theory methods. We also introduce gating-based (multiplicative) and concatenation-based attention models that can decompose tasks into components and can sequentially allocate attention to them. We compare the attention-based models' performance in the multi-task learning environment to multilayer perceptrons. Generalization and stability are systematically evaluated across environments that vary in richness and task connectivity. We observe that richer environments improve both generalization and stability. In addition, a critical novel observation is that (graph theory based) connectivity between the tasks in the environment strongly modulates both stability and generalization, with especially pronounced benefits for attention-based models. These findings underscore the importance of considering not only cognitive architectures but also environmental structure and their interaction in shaping multi-task learning, generalization, and stability.
- Abstract(参考訳): 人間と人工エージェントは、動的環境における複数のタスクを学習し、切り替えなければならない。
このような環境での成功には、事前の知識(認知的安定性)を維持しながら、新しいタスク(認知的一般化)に伝達する能力という認知的柔軟性が必要である。
認知的柔軟性の研究は、これらの相補的な目標を達成するためのモデルアーキテクチャの役割に主に焦点を当ててきた。
しかしながら、環境の構造が認知的柔軟性にどのように影響するか、モデルアーキテクチャとどのように相互作用するかは、あまりよく理解されていない。
このギャップに対処するため、我々は2つのキュー次元の組み合わせでタスクを定義するマルチタスク学習環境を設計し、グラフ理論の手法で環境を特徴づける。
また、ゲーティングベース(多重化)と連結型アテンションモデルを導入し、タスクをコンポーネントに分解し、順次アテンションを割り当てる。
マルチタスク学習環境における注意モデルの性能を多層パーセプトロンと比較する。
一般化と安定性は、リッチネスとタスク接続性が異なる環境にわたって体系的に評価される。
我々は、より豊かな環境が一般化と安定性の両方を改善することを観察する。
さらに、環境中のタスク間の(グラフ理論に基づく)接続は安定性と一般化の両方を強く調節する。
これらの知見は、認知アーキテクチャだけでなく、環境構造も考慮し、マルチタスク学習、一般化、安定性を形作ることの重要性を浮き彫りにしている。
関連論文リスト
- Human-Inspired Continuous Learning of Internal Reasoning Processes: Learning How to Think for Adaptive AI Systems [0.11844977816228043]
内部推論プロセスは、動的現実世界環境で持続的な適応が可能なAIシステムの開発に不可欠である。
本研究では,シーケンシャルな推論モデル内での推論,行動,反射,検証を統一する,人間にインスパイアされた継続的学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-12T03:19:04Z) - Agentic Reasoning for Large Language Models [122.81018455095999]
推論は推論、問題解決、意思決定の基礎となる基本的な認知プロセスである。
大規模言語モデル(LLM)は、クローズドワールド設定では強力な推論能力を示すが、オープンエンドおよび動的環境では苦労する。
エージェント推論は、連続的な相互作用を計画し、行動し、学習する自律的なエージェントとしてLLMを解釈することでパラダイムシフトを示す。
論文 参考訳(メタデータ) (2026-01-18T18:58:23Z) - Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning [54.12174882424842]
大規模言語モデル(LLM)は、様々なタスクにおいて最先端のパフォーマンスを達成したが、内部メカニズムに関してはほとんど不透明である。
本稿では,注目者の役割と行動を体系的に分析する新しい解釈可能性フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-03T10:24:34Z) - The Importance of Being Lazy: Scaling Limits of Continual Learning [60.97756735877614]
モデル幅の増大は,特徴学習の量を減らし,遅延度を高めた場合にのみ有益であることを示す。
特徴学習,タスク非定常性,および忘れることの複雑な関係について検討し,高い特徴学習が極めて類似したタスクにのみ有用であることを示す。
論文 参考訳(メタデータ) (2025-06-20T10:12:38Z) - Cognitive Evolutionary Learning to Select Feature Interactions for Recommender Systems [59.117526206317116]
Cellはさまざまなタスクやデータに対して,さまざまなモデルに適応的に進化可能であることを示す。
4つの実世界のデータセットの実験では、細胞は最先端のベースラインを大幅に上回っている。
論文 参考訳(メタデータ) (2024-05-29T02:35:23Z) - Is attention required for ICL? Exploring the Relationship Between Model Architecture and In-Context Learning Ability [39.42414275888214]
そこで本研究では,テキスト内学習タスクのスイート間で因果言語モデリングが可能な13のモデルを評価する。
検討されたアーキテクチャはすべて、以前文書化されたよりも幅広い条件下でコンテキスト内学習を行うことができる。
いくつかの注意すべき代替手段は、トランスフォーマーよりもコンテキスト内学習者と競合することがある。
論文 参考訳(メタデータ) (2023-10-12T05:43:06Z) - Autonomous Open-Ended Learning of Tasks with Non-Stationary
Interdependencies [64.0476282000118]
固有のモチベーションは、目標間のトレーニング時間を適切に割り当てるタスクに依存しないシグナルを生成することが証明されている。
内在的に動機付けられたオープンエンドラーニングの分野におけるほとんどの研究は、目標が互いに独立しているシナリオに焦点を当てているが、相互依存タスクの自律的な獲得を研究するのはごくわずかである。
特に,タスク間の関係に関する情報をアーキテクチャのより高レベルなレベルで組み込むことの重要性を示す。
そして、自律的に取得したシーケンスを格納する新しい学習層を追加することで、前者を拡張する新しいシステムであるH-GRAILを紹介する。
論文 参考訳(メタデータ) (2022-05-16T10:43:01Z) - Avoiding Catastrophe: Active Dendrites Enable Multi-Task Learning in
Dynamic Environments [0.5277756703318046]
AIの鍵となる課題は、動的に変化する環境で動作する組み込みシステムを構築することだ。
標準的なディープラーニングシステムは、しばしば動的なシナリオで苦労する。
本稿では生物学的にインスパイアされたアーキテクチャをソリューションとして検討する。
論文 参考訳(メタデータ) (2021-12-31T19:52:42Z) - Self-supervised Reinforcement Learning with Independently Controllable
Subgoals [20.29444813790076]
自己監督エージェントは、環境の構造を活用することで、自身の目標を設定した。
それらのいくつかは、合成多目的環境における基本的な操作スキルを学ぶために応用された。
本稿では,環境コンポーネント間の関係を推定し,環境状態の異なる部分を独立に制御する,新たな自己管理エージェントを提案する。
論文 参考訳(メタデータ) (2021-09-09T10:21:02Z) - Behavior Priors for Efficient Reinforcement Learning [97.81587970962232]
本稿では,情報とアーキテクチャの制約を,確率論的モデリング文献のアイデアと組み合わせて行動の事前学習を行う方法について考察する。
このような潜伏変数の定式化が階層的強化学習(HRL)と相互情報と好奇心に基づく目的との関係について論じる。
シミュレーションされた連続制御領域に適用することで,フレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2020-10-27T13:17:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。