高通推出CloudAI100Ultra云推理卡,可运行千亿参数大模型
币界网报道:据 DoNews 11 月 15 日报道,高通发布云 AI 推理加速卡 Cloud AI 100 Ultra,专为生成式 AI 和大型语言模型而设计。这款产品可提供相当于上一代产品四倍的性能,可以在单张 150 W 的卡上部署 100B 参数模型,在两张卡上部署 175B 参数,通过堆栈还可以支持更大尺寸的模型。高通表示,Cloud AI 100 平台在最新基准测试结果的所有加速卡中均处于领先地位。
推荐专栏
热门币种
更多
币种
美元价格
24H涨跌幅
热搜币种
更多
币种
美元价格
24H涨跌幅
最新快讯
更多
2024-05-04 20:08:28
2024-05-04 20:08:24
2024-05-04 20:05:47
2024-05-04 20:04:48
2024-05-04 20:04:17
2024-05-04 20:03:17
2024-05-04 20:02:41