浪潮信息推出元腦CPU推理服務器,能夠高效運行DeepSeek和千問QwQ等新一代大推理模型。NF8260G7和NF8480G7采用4顆高性能通用CPU和多通道內存系統,結合先進的張量并行策略和AMX加速技術,單機即可高效運行DeepSeek-R1 32B和QwQ-32B推理模型,支持20個并發用戶請求。這些服務器通過軟硬協同優化,為32B模型推理與云計算、數據庫等通用關鍵業務場景提供高效、靈活、穩定的AI通用算力支撐。(美通社)