近日,Emulex联合InfiniBand行业协会(InfiniBand Trade Association,IBTA),共同宣布推出了增强RoCE(RDMA over Converged Ethernet)规范,该规范将被称为“RoCEv2”。
RoCEv2在现有RoCE规范中添加的主要提升功能叫做可布线性(Routability),该功能可突破2层网络边界,并帮助企业通过RoCE在数据中心的任何位置实现应用加速。利用这项创新,数据中心可以将RoCE的价值扩展到多个域和物理位置。
RDMA允许在两台服务器的内存之间直接转移数据,而无需任何一台服务器的CPU参与(也称为零拷贝网络),因此可实现更高效的通信。这种处理在支持RDMA的网络接口卡(Network Interface Card,NIC)上进行,并且会避开TCP/IP堆栈,因而加快数据转移。如此,就可以直接将数据传送到目标服务器上的远程内存中,降低用于其他处理的服务器的CPU I/O工作负载。
虽然RDMA最初是InfiniBand网络的一项功能,但许多年来,人们一直设法使以太网能够支持RoCE。2010年推出的初始RoCE规范在以太网上实现了RDMA功能,但它却需要无损网络,这限制了该功能的应用范围。目前,RoCE的主要用途之一是在Windows Server 2012上通过服务器消息块(SMB)Direct实现高性能数据传输;同时,各种版本的Linux也支持该功能。RoCE的主要优势在于:由于它的延迟较低,因此可提高网络利用率;同时它可避开TCP/IP并采用硬件卸载,因此CPU利用率也较低。此外,由于可以在单一线路上将服务器上的其他协议融合到网络中,RoCE还进一步深化了线缆整合的概念。
但是,随着虚拟化、云计算和分散式大数据存储库的持续增长,数据加速能力已经成为全球数据中心共同面临的问题,而不是仅局限于单一2层网络的局部问题。利用可布线性,RoCEv2可填补这一差距,并跟上传统本地化数据中心功能在整个数据中心内的扩张步伐。为了实现上述目标,RoCEv2规范将用以太网链路层上的IP报头和UDP报头替代InfiniBand网络层。这样,就可以在基于IP的传统路由器之间路由RoCE。下面的图1和图2显示了协议堆栈比较和帧格式。
RDMA协议堆栈比较
RoCEv2帧格式
利用这项创新,整个业界就能够满足企业内日益增长的高性能和横向扩展架构需求。从传统企业(如华尔街银行和超大规模云数据中心)到大型服务器和存储OEM厂商,RoCEv2均可帮助其实现融合路径的持续性并提供高度密集的数据中心。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。