加速3.47倍!火山引擎助力AIGC突破性能瓶颈
作者:啊哈哈哈 来源:ai08门户网 时间:2025-06-29 14:40:58
AIGC(AI-Generated Content 人工智能生成内容)一经推出火爆全网,各种画风和产品形态频频出现且快速演进。以Stable Diffusion模型为例,一次完整的预训练大约需要在128张A100计算卡上运行25天,用户付费上百万,高额的研发费用是用户的痛点之一。同时,AIGC产品演进快速,对性能和资源提出更高要求。
火山引擎云服务,为此类问题提供了解决方案,推动AIGC产业的发展。火山引擎打造同时支持训练加速与推理加速的自主研发高性能算子库,在全面提升AI计算性能的基础上,不断追求节省显存、简单适配,同时支持多款GPU卡,为客户带来更多低成本、便捷的部署方案。
在推理场景下,基于Stable Diffusion模型的端到端推理速度达到66.14 it/s,是PyTorch推理速度的3.47倍,运行时GPU显存占用量降低60%。在客户AI视频创作的AIGC推理业务实践中,火山引擎高性能算子库搭载客户的推理模型帮助其推理性能提升一倍,GPU资源使用量减少一半,可为客户节省50%成本。
在训练场景下,使用该高性能算子库可将上文Stable Diffusion模型在128张A100的训练时间从25天减少到15天,训练性能提升40%。同时,由于AIGC模型在训练时占用GPU显存容量非常大,未经优化时的模型只能运行在最高端的A100 80GB GPU卡上。火山引擎高性能算子库通过大量消减中间操作,将运行时GPU显存占用量降低50%,使得大多数模型可从A100迁移到成本更低的V100或A30等GPU卡上运行,摆脱特定计算卡的限制,而且不需要做额外的模型转换工作。
以AIGC场景为代表,无论是迭代速度,还是单次的训练成本,火山引擎为客户带来了显著的性能提升和成本节省。火山引擎相关负责人表示,将持续在机器学习、科学计算、图形处理等领域深耕,不断追求极致性能。
“
更多资讯
热门文章
推荐对话
换一换- 人气排行
- 1 加速3.47倍!火山引擎助力AIGC突破性能瓶颈
- 2 全球开源生态研究报告(2022年):全球开源生态从“高速繁荣”向“稳步求精”演进
- 3 谷歌版ChatGPT支持中文了!弱智吧实测结果在此
- 4 面壁智能联合知乎开源 CPM-Bee 并发布智能对话助手“露卡”(Luca),联网论文查找摘要功能太炸裂了!
- 5 5年内不得晋升!中科院“木兰”换皮Python涉事人被处分:涉及虚假欺瞒,岗位等级削减一级
- 6 《红警1》源码放出,众网友GitHub怀古!4K高清「重制版」开启预售,登顶Steam畅销榜第三
- 7 俄版百度44.7G源码泄露!遭前员工背刺,涉及搜索地图打车电商等所有主要服务
- 8 华人学者往Linux内核里提交bug,社区把整个明尼苏达大学拉黑了
- 9 百度最新发布会,靠一个耳机砍掉速记预算
- 10 云·创数据库公开课第2期 | 浪潮信息:企业互联网化下的数据平台升级