2023芯片市场新贵含光800 AI处理器闪耀亮相三大应用场景展现超越GPU的惊人性能优势
在2023年,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次走上了舞台,带来了关于自主研发的AI芯片含光800的最新进展。这款当初最强大的AI推理芯片发布时,就曾以其高调亮相震撼了整个行业。
就在不久前,在一次线上云栖大会上,阿里云异构计算产品研发总监龙欣分享了近一年来含光800的发展情况。他提到,这款NPU实例已经正式对外服务,无需白名单即可购买。它支持8核NPU和96核vCPU、384G内存,以及网络带宽最高达到30Gbit/s。主要应用场景包括城市大脑、图像视频审核以及拍立淘等。
更令人瞩目的,是含光800在实际应用中的表现。在这些场景中,它展示出了超越GPU性能的巨大优势。例如,在行人检测应用中,4核含光800支持100路视频,比主流GPU25路性能提升4倍;在车辆检测中,它可以支持85路视频,比主流GPU10路性能提升8.5倍。此外,在内容识别应用中,如直播、短视频或商品信息流等,以ResNet50 V2模型为例,含光800(4核)的帧率能够达到20000 FPS,比主流推理GPU性能提升11倍;而Inception V4模型下,其处理帧率达到了5000 FPS,比主流推理GPU460FPS性能加速比高10.8倍。
此外,在点播HDR应用中,由于需要较强训练能力的算力,即使使用英伟达A100也只能实现10 FPS,而含光800能实现6.6倍的加速比,即66 FPS。此种成果显示出自研芯片对于提高效率和性价比至关重要。
尽管今年云栖大会上对含光800没有给予特别多关注,但这并不减弱其作为技术创新标志性的意义。阿里的这一努力,不仅体现了科技巨头追求自主可控与领先地位的一部分,也揭示了如何通过硬件与软件协同优化来促进AI算力的发展。而对于未来是否会有更强大的AI芯片出现,我们仍需耐心等待时间去验证。但一件事是明确的:随着深度学习和人工智能技术不断进步,这些领域将继续吸引更多投资者和开发者的关注,并成为未来的竞争焦点。