标签：稀疏注意力

Unintentional fragments forming a constellation of knowledge.

Tag

#稀疏注意力

包含此标签的文章共 1 篇

← 查看全部标签归档

相关主题标签 共 56 个标签
全部文章 # java 29 # agent 21 # 数据结构 15 # 深度学习 12 # 计算机系统基础 12 # kddcup 11 # ccf 10 # 操作系统 9 # web开发 8 # python 8 # c++ 7 # 计算机网络 7 # android 5 # 后端 5 # termux 5 # powercontext 4 # datawhale 4 # oceanbase 3 # rag 3 # win11 3 # hexo 3 # LLM 2 # llm 2 # astro 2 # ai使用 2 # 前端 2 # mysql 2 # 数据库 2 # linux 2 # springboot 2 # 稀疏注意力 1 # LongCat 1 # 注意力机制 1 # gpu 1 # triton 1 # transformer 1 # markdown 1 # ulbo 1 # gcn 1 # gnn 1 # blog 1 # acm 1 # 多线程 1 # maven 1 # ollama 1 # bupt 1 # 数字逻辑 1 # vscode 1 # clion 1 # mi 1 # openwrt 1 # aigc 1 # git 1 # 动画杂谈 1 # 日常 1 # 初始 1

#稀疏注意力

共 1 篇

LongCat Sparse Attention：从稀疏选择到高效执行

LongCat Sparse Attention：从稀疏选择到高效执行 引言：选得少，为什么仍然慢？ 在 DeepSeek Sparse Attention（DSA）中，每个 Attention 层依次完成两步：Lightning Indexer 先对因果前缀中的历史位置打分，选出当前 Query 对应的 Top-$…

2026年11月5日 学习笔记
#深度学习#LLM#稀疏注意力#LongCat