科研动态
自家芯片助力:SambaNova 推出“最快”DeepSeek
作者:[db:作者]日期:2025/02/23 浏览:
IT之家 2 月 21 日新闻,AI 芯片与处理计划企业 SambaNova 发布在其基于自研 SN40L RDU 处置器的云平台上推出号称“市道最快”的 DeepSeek-R1 671B 模子推理云效劳,并表现其 token 输出速率可达每 prompt 每秒 198 个。SambaNova 的 SN40L RDU 芯片基于台积电 5nm 制程,BF16 算力可达 638 TFLOPS。其采取了一种三层存储构造:片上的 520MB SRAM 缓存、2.5D 封装集成的 64GB HBM 内存、片外的 1.5TB 超年夜容量 DDR DRAM 内存,这使得单芯片能包容的参数远超个别竞品。别的 SN40L RDU 在构造上的机动性使得其能静态从新设置硬件资本跟数据流,晋升盘算与访存效力。SambaNova 声称,其仅需一台包容 16 个 SN40L RDU 芯片的机架就能实现 DeepSeek-R1 671B 安排。
上一篇:“网络开展新图景成绩展”在中国国度博物馆揭
下一篇:没有了
下一篇:没有了
相关文章
- 2025-02-23廊坊银行新任董事长崔建涛上任 之前是
- 2025-02-22天问二号探测器运抵发射场
- 2025-02-22小米Buds 5 Pro耳机衬着图及参数曝光 可衔
- 2025-02-21太空飞船游戏大全 抢手太空飞船游戏排行
- 2025-02-2196.26 万元起:2025 款奔跑 S 级车型上市,