2023年，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋在杭州云栖大会上介绍了公司的首款AI芯片含光800。这款当时最强AI推理芯片的发布引起了广泛关注。今年，阿里云线上举办了一场关于芯片设计发展现状与未来的论坛，异构计算产品研发总监龙欣分享了近一年来含光800的最新进展。

他表示：“含光800 NPU实例已经正式对外服务，不需要白名单就可以在阿里云实例上购买。”这款芯片主要面向数据中心的CNN类型模型推理加速，其业务包括城市大脑、图像视频审核和拍立淘等。

至于具体应用中的表现，龙欣强调尽管含光800尚未对外发售，但其性能通过阿里云输出。它提供自动安装NPU驱动和SDK，并支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04，还预装主流深度学习框架，如TensorFlow和MXNet。

据称，在三大AI应用中，比如城市大脑、拍立淘商品库识别以及行人检测等场景中，与GPU相比，可实现4-11倍性能提升。在行人检测中，4核含光800可支持100路视频，比主流GPU多10倍；在车辆检测中，可以支持85路视频，比主流GPU多8.5倍。此外，在ResNet50 V2模型中的帧率可达到20000 FPS，比主流GPU快11倍，而在Inception V4模型中，可处理5000 FPS，比主流GPU快10.8倍。

此外，在直播、点播、短视频等内容质量增强方面，其性能也表现出色。在HDR点播应用中，可实现66 FPS，对比A100训练类GPU仅有10 FPS，这意味着6.6倍性能加速比。不过，由于今年分享时间较短且包含一些去年已知信息，因此关注度并不高。