进行测试的PowerEdge T630服务器搭配的CPU是Intel Xeon E5-2660 v3,10核心、主频2.6GHz,25MiB L3缓存,二路、打开超线程的状态下一共是40个硬件线程。搭配的内存则是8条8GiB DDR4-2133,一共就是64GiB,配置本身保证了每个CPU都运行于最高的四通道DDR4-2133状态。
我们进行的是数据库性能测试方案,数据库包含两个知名的测试规范组织的基准测试:ANSI(American National Standards Institute,美国国家标准局)和TPC(Transaction Processing Performance Council,事务处理性能委员会)。其中,ANSI的AS3AP(ANSI SQL Standard Scalable and Portable)Benchmark是一个可扩展、可移植的简单关系数据库基准测试,而TPC的测试方案大家都很熟悉,就是TPC-C、TPC-E、TPC-H和TPC-W等一系列数据库基准测试方案。
我们选择的是AS3AP测试方案,AS3AP测试分为单用户测试和多用户测试两大部分。AS3AP数据库包含5个关系表,其中一个表一行一列,用来记录测试开支。其它四个表有着同样的结构(属性名、属性类型),通过生成文件装入的数据生成,它们的区分表现在某一列上有不同值的行数。每行记录的长度大约是100字节。
为了运行AS3AP性能测试,我们在服务器上安装了Windows Server 2012 R2 Datacenter、Microsoft SQL Server 2012 Enterprise 64bit,并搭建了60台客户端,每台客户端上安装了Windows Server 2012 R2 Datacenter和Microsoft的ODBC Driver,通过Benchmark Factory软件执行了AS3AP性能测试。在追求极致性能的数据库测试中,千兆网卡是完全不够用的,多块千兆网卡也不行,我们使用了一块由Emulex提供l的OneConnect OCe14102-UM双端口万兆网卡进行了测试,OCe14102-UM是Emulex的最新一代万兆网卡,基于最新的Skyhawk芯片,可以提供NVGRE Offload能力,但测试中并没有用到,另外值得一提的是,从Skyhawk芯片开始,Emulex将不再提供TOE(Task Offload Engine,或者TCP Offload Engine)能力。
好文章,需要你的鼓励
这项来自明尼苏达大学等机构的研究发现,大语言模型在强化学习后训练中,只需训练中间少数几层即可匹配甚至超越全参数训练效果,且这一规律跨模型、跨任务高度稳定,为更高效的AI训练策略提供了新思路。
本文介绍VIBE框架,一套通过开放式任务评估大型音频语言模型声音诱发偏见的系统,测试12个模型后发现每个模型均存在显著性别或口音偏见。