12秒内AI在手机上完成作画！谷歌提出扩散模型推理加速新方法
阿里云国际版折扣https://www.yundadi.com |
| 阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6 |
本文源自量子位
只需12秒只凭手机自己的算力就能拿Stable Diffusion生成一张图像。
而且是完成了20次迭代的那种。
要知道现在的扩散模型基本都超过了10亿参数想要快速生成一张图片要么基于云计算要么就是要本地硬件够强大了。
而随着大模型应用逐渐普及开来在个人电脑、手机上跑大模型很可能是未来的新趋势。
由此谷歌的研究员们带来了这篇新成果名字就叫Speed is all you need通过GPU优化加速大规模扩散模型在设备上的推理速度。
三步走优化加速
该方法是针对Stable Diffusion来做的优化但同时也能适应其他扩散模型。面向的任务是从文本生成图像。
具体优化可以分成三个部分
-
设计专门的内核
-
提升Attention模型效率
-
Winograd卷积加速
首先来看专门设计的内核它包括了组归一化和GELU激活函数。
组归一化是在整个UNet体系结构中实现这种归一化的工作原理是将特征映射的通道划分为更小的组并对每个组独立归一使组归一化较少依赖于批大小并且能适应更大范围的批处理大小和网络架构。
研究人员以GPU着色器shader的形式设计了一个独特的核能在没有任何中间张量的情况下在单个GPU命令中执行所有内核。
GELU激活函数中包含大量的数值计算如惩罚、高斯误差函数等。
通过一个专用着色器来整合这些数值计算以及伴随的分割和乘法操作使得这些计算能放在一个简单的draw call里。
Draw call是CPU调用图像编程接口命令GPU进行渲染的操作。
接下来到了提升Attention模型效率方面论文介绍了两种优化方法。
其一是部分融合softmax函数。
为了避免在大矩阵A上执行整个softmax计算该研究设计了一个GPU着色器来计算L和S向量以减少计算最终得到一个大小为N×2的张量。然后将softmax计算和矩阵V的矩阵乘法融合。
这种方法大幅减少了中间程序的内存占用张量和总体延迟。
需要强调的是从A到L、S的计算映射的并行是有限的因为结果张量中的元素比输入张量A中的元素数量要少得多。
为了增加并行、进一步降低延迟该研究将A中的元素组成block将归约操作reduction operations切分为多个部分进行。
然后在每个block上执行计算然后将其简化为最终结果。
利用精心设计的线程和内存缓存管理可以在多个部分实现使用单个GPU命令降低延迟。
另一种优化方法是FlashAttention。
这是去年火起来的IO感知精确注意力算法具体有两种加速技术按块递增计算即平铺、并在后向传递中重新计算注意力将所有注意力操作融合到CUDA内核中。
相较于标准Attention这种方法能减少HBM高带宽内存访问提高整体效率。
不过FlashAttention内核的缓存器密集度非常高register-intensive所以该团队是有选择性地使用这一优化方法。
他们在注意力矩阵d=40的Adreno GPU和Apple GPU上使用FlashAttention其他情况下使用部分融合softmax函数。
第三部分是Winograd卷积加速。
它的原理简单来说就是使用更多的加法计算来减少乘法计算从而降低计算量。
但弊端也很明显将会带来更多的显存消耗和数值错误尤其是在tile比较大的情况时。
Stable Diffusion的主干非常依赖3×3卷积层尤其是在图像解码器方面这里90%的层都是由3×3卷积层构成的。
研究人员分析后发现在使用4×4大小的tile时是模型计算效率和显存利用率的最佳平衡点。
实验结果
为了评估提升效果研究人员先在手机上进行了基准测试。
结果表明两部手机在使用了加速算法后生成图片的速度都明显提升。
其中三星S23 Ultra的延迟降低了52.2%iPhone 14 Pro Max上的延迟降低了32.9%。
在三星S23 Ultra上端到端从文本生成一张512×512像素的图片迭代20次耗时在12秒以内。
论文地址
https://arxiv.org/abs/2304.11267
卡奥斯开源社区是为开发者提供便捷高效的开发服务和可持续分享、交流的IT前沿阵地包含技术文章、群组、互动问答、在线学习、大赛活动、开发者平台、OpenAPI平台、低代码平台、开源项目等服务社区使命是让每一个知识工人成就不凡。