西西主机网
-
网站地图
“单张4090”很可能指代的是使用单张NVIDIA A100 GPU（因为4090通常是指A100的型号）
ModelScope中，单张4090，跑qwen1.5-14b-awq，能支持多少并发？