近日,由宁畅参与起草的《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布。该技术白皮书由开放计算标准工作委员会(OCTC)归口,旨在为冷板式人工智能加速卡的设计提供重要指导。

大模型时代下,AI算力需求呈现指数级增长,带来人工智能加速卡和服务器功耗的不断提升。尽管冷板式液冷已成为当前解决高功耗问题的主流方案,但由于冷板结构设计复杂,一旦工艺和质量不过关,容易产生散热不均、漏液等问题,直接影响液冷的效率、成本及可靠性。
宁畅在冷板液冷领域拥有领先的技术与丰厚的经验,通过对冷板材料、结构设计、工艺制造等一系列的把控,做到液冷散热的高精度、高效率、高节能。利用冷板散热技术,宁畅能够进一步提升人工智能加速卡在机器学习和深度学习方面的速度和性能,从而更好满足人工智能应用的需求,通过AI和液冷的组合实现1+1>2的效果。
本次发布的技术白皮书对冷板式加速卡提供了明确的设计指导,以降低服务器和冷板式人工智能加速卡之间的适配难度和适配的成本,推动冷板式液冷技术的普及。基于丰富积累,宁畅此前已参与并落地多项冷板及液液冷相关标准,在本次技术白皮书编制中,宁畅为冷板式液冷人工智能加速卡的结构设计、生产使用等贡献了多项技术与经验建议,有效增强了内容的可落地性,与各单位一起用标准化建设进一步推动人工智能与液冷产业的共同发展。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。