白家电

中国芯片十大龙头企业之中阿里含光800 AI处理器在高调亮相后其在人物场景下的表现尤为引人注目数据显

在2019年的杭州云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋简短介绍了阿里的首款AI芯片含光800,这次发布引发了巨大的关注。今年的线上云栖有一个芯片设计发展现状与未来的论坛,阿里云异构计算产品研发总监龙欣分享了含光800推出近一年后的最新进展。

他表示:“含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买,实例名称是ebman1.24xlarge,最多支持8核NPU和96核vCPU,384G内存,网络带宽最高达到30Gbit/s,主要面向数据中心的CNN类型模型推理加速,业务包括城市大脑、图像视频审核、拍立淘等。”

更值得关注的是含光800在具体应用中的表现。尽管性能通过阿里云输出,但其可用性已被强调。为了让用户开箱即用,提供自动安装NPU驱动和SDK,以及系统支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04,并预装主流深度学习框架,如TensorFlow、MXNet。

龙欣强调,其应用主要是在数据中心和大型端上,以CNN类模型推理加速为主,可扩展到其他DNN模型中。目前在具体的应用中相比GPU,有4-11倍性能提升。在城市大脑中实时处理交通视频,可以减少延时;拍立淘商品库识别图片速度从小时级别缩短至分钟级别;行人检测应用支持100路视频,比GPU多4倍;车辆检测应用支持85路视频,比GPU多8.5倍。

此外,在ResNet50 V2模型中,加速比达到了11倍,在Inception V4模型中,加速比高10.8倍。而且,对于直播、点播HDR等内容质量增强领域,也显示出了显著优势。对于自然语言理解等语言方面的应用示例优势,则未给出明确数字。

尽管去年包含许多公开信息,此次分享并没有提供新的突破性的消息,但它还是展示了当今中国芯片十大龙头企业之一——阿里的技术成果及未来发展方向。此刻,我们期待着下一代AI芯片何时问世,将会带来更多革新之举,为全球科技界贡献更多智慧力量。