阿里含光800 AI处理器高调亮相犹如一位舞者轻盈跃上舞台它在三大场景中的表现令人瞩目性能比GPU更
阿里巴巴集团首席技术官兼阿里云智能总裁张建锋在2019年杭州云栖大会上隆重发布了自家的AI芯片含光800,引发科技界巨大关注。近日,在今年的线上云栖大会上,阿里云异构计算产品研发总监龙欣详细介绍了含光800推出后的一年来的最新进展,并展示了其在实际应用中的卓越表现。
据龙欣介绍,含光800 NPU实例已经对外服务,不需要白名单即可购买。在数据中心的CNN类型模型推理加速方面,其性能显著超越GPU。一个典型案例是拍立淘,这款应用需要处理大量图片以实现个性化推荐,而含光800提供的高效AI能力使得这个过程变得可能。
龙欣指出,含光800通过深度优化CNN及视觉类算法、加速卷积和矩阵乘、针对特定模型进行优化等方式,使得硬件与软件协同工作,以实现高能效、低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩和量化压缩等功能。
在具体应用中,比如城市大脑、图像视频审核等场景中,含光800显示出了4-11倍的性能提升。此外,在行人检测、车辆检测以及内容识别应用中,它也展现了极大的优势,比如可以同时处理更多路视频或帧率,可以更快地完成任务,从而提高了整体系统效率。
尽管这次分享没有提供新的峰值性能数据,但它强调了一点:作为并未公开市场销售的芯片,由于设计用于特定的使用场景和需求,因此它能够直接从阿里云输出,无需额外安装驱动或SDK,即可开箱即用。这进一步凸显了其作为专门为AI推理设计的人工智能处理器所具备的便利性和有效性。