【ZDNet企业解决方案中心】我们测试使用的是PowerEdge T630服务器,这是一台塔式服务器,搭配的CPU是Intel Xeon E5-2660 v3(10核心、主频2.6GHz,25MiB L3缓存),二路、打开超线程的状态下一共是40个硬件线程。搭配的内存则是8条8GiB DDR4-2133,保证了每CPU运行在四通道最大频率下,总内存容量达到了64GiB。测试中需要特别搭配万兆网卡,我们使用的是Emulex提供的OneConnect OCe14102-UM双端口万兆网卡,不过测试仅使用了一个端口,测试没有对存储子系统产生什么压力。

Dell PowerEdge T630塔式服务器,同属戴尔第十三代PowerEdge服务器
测试结果表明,中等配置下的T630可以提供237K的AS3AP TPS,性能很不错。尽管在这里AVX2指令集并没有起到什么作用,但新一代平台具有的良好的微架构、架构,以及需要指出的更高速度的内存子系统,以及可能很少人提及的PCIe控制器方面的改进,导致了其相对上一代平台具有的明显进步。
好文章,需要你的鼓励
这项来自明尼苏达大学等机构的研究发现,大语言模型在强化学习后训练中,只需训练中间少数几层即可匹配甚至超越全参数训练效果,且这一规律跨模型、跨任务高度稳定,为更高效的AI训练策略提供了新思路。
本文介绍VIBE框架,一套通过开放式任务评估大型音频语言模型声音诱发偏见的系统,测试12个模型后发现每个模型均存在显著性别或口音偏见。