近日,由宁畅参与起草的《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布。该技术白皮书由开放计算标准工作委员会(OCTC)归口,旨在为冷板式人工智能加速卡的设计提供重要指导。
大模型时代下,AI算力需求呈现指数级增长,带来人工智能加速卡和服务器功耗的不断提升。尽管冷板式液冷已成为当前解决高功耗问题的主流方案,但由于冷板结构设计复杂,一旦工艺和质量不过关,容易产生散热不均、漏液等问题,直接影响液冷的效率、成本及可靠性。
宁畅在冷板液冷领域拥有领先的技术与丰厚的经验,通过对冷板材料、结构设计、工艺制造等一系列的把控,做到液冷散热的高精度、高效率、高节能。利用冷板散热技术,宁畅能够进一步提升人工智能加速卡在机器学习和深度学习方面的速度和性能,从而更好满足人工智能应用的需求,通过AI和液冷的组合实现1+1>2的效果。
本次发布的技术白皮书对冷板式加速卡提供了明确的设计指导,以降低服务器和冷板式人工智能加速卡之间的适配难度和适配的成本,推动冷板式液冷技术的普及。基于丰富积累,宁畅此前已参与并落地多项冷板及液液冷相关标准,在本次技术白皮书编制中,宁畅为冷板式液冷人工智能加速卡的结构设计、生产使用等贡献了多项技术与经验建议,有效增强了内容的可落地性,与各单位一起用标准化建设进一步推动人工智能与液冷产业的共同发展。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。