• 登录/注册

登录失败,用户名或者密码错误


登录

首页  > 快讯

DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700

1年前
【DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700】在上周DeepSeek宣布本周将是开源周(OpenSourceWeek),并将连续开源五个软件库后。今日,DeepSeek宣布开源了开源周首款用于Hopper GPU的高效型MLA解码核——FlashMLA。新浪科技注意到,在GitHub上,目前该项目已经收获了超过1700star,并且拥有62个Fork。MLA是DeepSeek V2-V3系列大模型最为重要技术创新,主要用于减少推理过程的KV Cache,进而降低推理成本。据DeepSeek介绍,FlashMLA是Hopper GPUs的有效MLA解码内核,可针对可变长度序列进行优化,目前主要发布包括:1、 BF16;2、块大小为64 的分页kvcache。在基准测试性能表现上,FlashMLA在英伟达H800 SXM5 GPU上可实现3000 GB/s 的内存速度以及580TFLOPS的计算上限。(新浪科技)

最新快讯搜索

汽车 新能源 AI 中国 蔚来 中信证券 特朗普 阿里 上证指数 涨停 悟空 A股 st 茅台 理想汽车 美国大选 资产重组 降息 中信建投 OpenAI 以旧换新 deepseek 半导体 新能源汽车 股票交易异常波动 投票 越南 贵州茅台 比特币 智能驾驶 哪吒汽车 宁德时代 稀土 曲江文旅 黑神话:悟空 蜀道装备 动力电池 腾讯控股 黑神话 中芯国际 北汽蓝谷 存量房贷 房贷 广交会 孚能科技 小红书 中国平安 3000点 绝地求生 泸州老窖 贝莱德 大选 瑞幸咖啡 江淮汽车 破净 三元电池 欣旺达 上交所 寻呼机 AI出海 破净发 四连板 AI模型公司 存量房贷利率 三连板 弹匣电池 存量房贷下调 电池回收 白马股 润和软件 连板股 茅台酒价 无人潜水器 今日收评