2026 WAIC芯展速发布AI90架构,打破显存瓶颈

2026-07-20 09:44:31
芯展速AI90亮相WAIC 2026:以“存算协同”打破AI显存墙,释放Token效能

(朝闻通头条)7月17日,2026世界人工智能大会(WAIC)在上海开幕。芯展速在张江展区三展位及世博论坛同步亮相,正式发布AI90 —— FaaS(Flash as a Service) for AI架构。

在Llama 3 70B模型推理场景下,4卡5090集群搭配AI90方案,吞吐量从约120 tk/s跃升至610 tk/s,提升5.1倍;首Token延迟在64K上下文下从27.99秒降至0.564秒,提升近50倍;显存利用率从30% - 40%提升至85% - 95%,提升2 - 3倍。

联系
客服
专属客服
扫码添加客服微信
服务热线
400-880-0046
18600423130