
(朝闻通头条)7月17日,2026世界人工智能大会(WAIC)在上海开幕。芯展速在张江展区三展位及世博论坛同步亮相,正式发布AI90 —— FaaS(Flash as a Service) for AI架构。
在Llama 3 70B模型推理场景下,4卡5090集群搭配AI90方案,吞吐量从约120 tk/s跃升至610 tk/s,提升5.1倍;首Token延迟在64K上下文下从27.99秒降至0.564秒,提升近50倍;显存利用率从30% - 40%提升至85% - 95%,提升2 - 3倍。