在Broadwell-EP上,Intel隆重推出了RDT(Resource Director Technology,资源管理技术),按照之前所说的分类,它属于Orchestration(编排)方面的特性,什么是Orchestration?管理员可以更精细的管理CPU上具有的资源,从Cache到代码优先级到内存带宽,都可以管理。而在以往,这些能力至少是在X86世界(部分地)不存在,已有的都是通过操作系统来有限地实现,复杂,繁琐,性能不佳——很简单,应该由硬件完成的工作通过软件实现,就会如此,想一想在Intel VT技术之前,X86虚拟化技术是怎么实现的就可以明白。
Intel Resource Director Technology
RDT是一组技术的集合,在Broadwell-EP上,包含了CMT(Cache Monitoring Technology,缓存检测技术)、CAT(Cache Allocation Technology,缓存分配技术)、CDP(Code and Data Prioritization,代码和数据优先级)和MBM(Memory Bandwidth Monitoring,内存带宽监视),其作用可以顾名思义。
Intel Resource Director Technology
RDT技术当中有些技术并不是第一次出现,不过在以往,这些技术的数量偏少,也没有成体系。在Broadwell-EP RDT当中,有两个核心概念:RMID(Resource Monitoring ID,资源监视ID)和CLOS(Classes of Service,服务类别),它们将整套技术统一起来。
RDT实现了对RMID的使用率的监视,RMID分配给线程、应用(应该是进程)、虚拟机,并支持N:M的高弹性映射
RDT实现了通过CLOS对RMID对应的资源进行控制,CLOS分配给线程、应用(应该是进程)、虚拟机,同样,支持N:M的高弹性映射
以下是监视和强制方面的细节:
显然,通过RDT,X86世界实现了对CPU相关资源前所有为的控制力,和这种控制力直接相关的就是QoS(Quality of Service,服务质量),在云服务当中,更严格的用户SLA怎么达到?RDT可以,超融合系统中,如何保证存储功能的性能?或者网络部分?或者计算部分?RDT可以。在Worshop上,Intel展示了在一个虚拟化系统当中,如果通过RDT保证DPDK加速的Open vSwitch具有恰当的CPU和Cache、Memory资源,从而保证了整个系统性能。除此之外,据笔者了解,Xen Hypervisor也已经有很多在RDT方面的工作,这是一套前景非常光明的功能特性。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。