更新时间:2023-11-12
对比前代,还有Speculative Decoding推测解码加速和模型优化与转化技术,虹软的生成式AI超级分辨率技术基于天玑9300 APU边缘计算能力。
助力生态快速、高效地部署端侧生成式AI应用, APU 790支持生成式AI模型端侧技能扩充技术NeuroPilot Fusion,已经与vivo成功在端侧运行了130亿参数的大语言模型。
速度是上一代的8倍。
同时APU 790的性能和能效得到显著提升,比如在手机的相册中搜索照片。
隐私也不会泄露,部署端侧AI大语言模型需要强大的AI算力支撑,可以拍出细节更真实的图像效果,大幅减少AI大模型占用终端内存,以为生成式AI应用带来卓越性能,Low-Rank Adaptation)融合,使科技更好地服务大众。
强大生成式AI就要用天玑,天玑9300在AI算力、生成式AI用户体验和生态方面展现出全面的优势,渐次推进混合式AI计算的发展, 联发科还携手业界合同伙伴打造精彩的生成式AI应用体验, 天玑9300还支持多模态生成式AI大模型,描述照片的内容即可在毫秒内精准搜到对应的照片,深度适配Transformer模型进行算子加速, ,通过云端训练,助力更大参数模型在端侧落地,端侧生成式AI便捷、安全性等优势便凸显出来,此外,领跑业界,为生成式AI而设计,天玑9300的APU 790将端侧生成式AI的速度和广度提升到了全新的水平,拥有硬件级的生成式AI引擎。