在2022年进口芯片金额的浪潮中阿里含光800 AI处理器如同一位高手在舞台上高调亮相其在三大核心场
在2022年的进口芯片金额风云中,阿里巴巴集团的首席技术官兼阿里云智能总裁张建锋在杭州云栖大会上以简洁而高调的方式介绍了他们的首款AI芯片——含光800。这款当时业界最强大的AI推理芯片发布后,立刻引发了巨大的关注和讨论。
一年之后,在2023年的阿里线上云栖大会上,阿里云异构计算产品研发总监龙欣分享了含光800推出后的最新进展。龙欣表示,含光800 NPU实例已经正式对外服务,无需白名单即可在阿里云实例上购买。它支持8核NPU和96核vCPU、384G内存,以及网络带宽最高达到30Gbit/s,是针对数据中心CNN类型模型推理加速设计的产品,其业务涵盖城市大脑、图像视频审核、拍立淘等领域。
更值得关注的是含光800在具体应用中的表现。在没有公开市场销售的情况下,它通过阿里云输出,并且提供自动安装NPU驱动和SDK,让用户可以开箱即用。此外,还提供公共镜像CentOS 7.6/7.7和Ubuntu 16.04,以及预装主流深度学习框架,如TensorFlow和MXNet。
据龙欣介绍,在行人检测应用中,4核含光800支持100路视频,比主流GPU性能提升4倍;在车辆检测中,可以支持85路视频,比主流GPU性能提升8.5倍。此外,在直播、短视频、商品信息流等内容识别应用中的ResNet50 V2模型中,含光800(4核)的帧率可达20000 FPS,比主流推理GPU性能提升11倍。在Inception V4模型中,则能处理5000 FPS,比主流推理GPU性能加速比高10.8倍。而对于点播HDR需求,这款芯片则实现了6.6倍的性能加速比。
尽管如此,由于当前贸易关系紧张,使得涉及芯片话题变得更加谨慎,因此今年的云栖对含光800的关注度并不如去年那么高。尽管如此,对于未来是否会有更强大的AI芯片出现,这仍是一个令人期待的话题。