在Broadwell-EP上,Intel隆重推出了RDT(Resource Director Technology,资源管理技术),按照之前所说的分类,它属于Orchestration(编排)方面的特性,什么是Orchestration?管理员可以更精细的管理CPU上具有的资源,从Cache到代码优先级到内存带宽,都可以管理。而在以往,这些能力至少是在X86世界(部分地)不存在,已有的都是通过操作系统来有限地实现,复杂,繁琐,性能不佳——很简单,应该由硬件完成的工作通过软件实现,就会如此,想一想在Intel VT技术之前,X86虚拟化技术是怎么实现的就可以明白。
Intel Resource Director Technology
RDT是一组技术的集合,在Broadwell-EP上,包含了CMT(Cache Monitoring Technology,缓存检测技术)、CAT(Cache Allocation Technology,缓存分配技术)、CDP(Code and Data Prioritization,代码和数据优先级)和MBM(Memory Bandwidth Monitoring,内存带宽监视),其作用可以顾名思义。
Intel Resource Director Technology
RDT技术当中有些技术并不是第一次出现,不过在以往,这些技术的数量偏少,也没有成体系。在Broadwell-EP RDT当中,有两个核心概念:RMID(Resource Monitoring ID,资源监视ID)和CLOS(Classes of Service,服务类别),它们将整套技术统一起来。
RDT实现了对RMID的使用率的监视,RMID分配给线程、应用(应该是进程)、虚拟机,并支持N:M的高弹性映射
RDT实现了通过CLOS对RMID对应的资源进行控制,CLOS分配给线程、应用(应该是进程)、虚拟机,同样,支持N:M的高弹性映射
以下是监视和强制方面的细节:
显然,通过RDT,X86世界实现了对CPU相关资源前所有为的控制力,和这种控制力直接相关的就是QoS(Quality of Service,服务质量),在云服务当中,更严格的用户SLA怎么达到?RDT可以,超融合系统中,如何保证存储功能的性能?或者网络部分?或者计算部分?RDT可以。在Worshop上,Intel展示了在一个虚拟化系统当中,如果通过RDT保证DPDK加速的Open vSwitch具有恰当的CPU和Cache、Memory资源,从而保证了整个系统性能。除此之外,据笔者了解,Xen Hypervisor也已经有很多在RDT方面的工作,这是一套前景非常光明的功能特性。
好文章,需要你的鼓励
三星与AI搜索引擎Perplexity合作,将其应用引入智能电视。2025年三星电视用户可立即使用,2024和2023年款设备将通过系统更新获得支持。用户可通过打字或语音提问,Perplexity还为用户提供12个月免费Pro订阅。尽管面临版权争议,这一合作仍引发关注。
浙江大学团队提出动态专家搜索方法,让AI能根据不同问题灵活调整内部专家配置。该方法在数学、编程等任务上显著提升推理准确率,且不增加计算成本。研究发现不同类型问题偏爱不同专家配置,为AI推理优化开辟新路径。
苹果M5 MacBook Pro评测显示这是一次相对较小的升级。最大变化是M5芯片,CPU性能比M4提升约9%,多核性能比M4 MacBook Air快19%,GPU性能提升37%。功耗可能有所增加但电池续航保持24小时。评测者认为该产品不适合M4用户升级,但对使用older型号用户仍是强有力选择。
清华大学研究团队提出SIRI方法,通过"压缩-扩张"交替训练策略,成功解决了大型推理模型"话多且准确率低"的问题。实验显示,该方法在数学竞赛题上将模型准确率提升43.2%的同时,输出长度减少46.9%,真正实现了效率与性能的双重优化,为AI模型训练提供了新思路。