虚拟化已经成为现代IT当中一种基础技术,在前面我们已经提过Core核内的SMAP技术。在Uncore上,提供的还要多一些,Broadwell-EP上,更新的有三个部分:
1.Posted Interrupts,邮站中断/中转中断
2.Page Modification Logging,页面修改记录
3.VM Enter/Exit latency Reduction,虚拟机进入/退出延迟降低
其中,每一代Intel的处理器都在虚拟机切换(VM Enter/Exit)性能上有所增强,上一代Haswell的Roundtrip Time是约500个时钟周期,Broadwell降低到了约400个时钟周期,降低了20%:
遗憾的是,笔者提问是否有Enter/Exit单独的数据时,回答是没有,问这个问题的用意是嵌套虚拟化,Enter/Exit并不一定非要成对出现。嵌套虚拟化目前在商业应用上已经有了一些苗头。
Haswell上带来的面向嵌套虚拟化的改进特性,被称之为VMCS Shadowing,通过允许客户VMM直接访问VMCS Shadowing Structure来降低VM entry/exit
Posted Interrupts,邮站中断或者中转中断,翻译 by 盘骏/Lucifer
邮站中断是笔者的翻译,其实笔者并不清楚其有没有中文,邮站中断的意思是,在Broadwell-EP之前,外部设备发送到虚拟机的中断会导致大量的VM Exits,因为虚拟机无法直接访问硬件,需要VMM进行中转;在Ivy Bridge-EP上,Intel加入了APICv特性,用硬件在虚拟机内部实现了一部分APIC功能,从而降低了虚拟机VM Exit的次数,APICv仅实现了中断的一部分,仍有很多中断会导致VM Exit,因此,Posted Interrupt进一步地,在虚拟机内部实现了硬件处理其余中断的结构,它有些类似邮站,外部中断直接投递进Posted Interrupt硬件,完全避开了VMM的处理,这种思想和很多的Kernal Bypass技术一样,其收益也非常明显,特别是在配合SR-IOV的情况下。目前,Xen/KVM Hypervisor已经支持Posted Interrupt。根据其工作方式,称之为中转中断也不错。
Page Modification Logging,页面修改记录
PML是用于VM FT(fault tolerance,容错)的技术,其基于Haswell EPT A/D实现,通过记录页面修改来降低生成Chekpoint检查点的消耗,提高性能。
Haswell EPT A/D:EPT Access/Dirty Bits,EPT(Extended Page Tables)是管理虚拟机内存地址到物理内存地址转换的硬件机制
笔者对VM FT的应用比较少,因此不再多言。接下来我们看看Broadwell-EP Uncore的其他改进。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。